С ИИ происходит что-то действительно интересное; много чего на самом деле. Мы вступили в новую, дико творческую, сюрреалистическую и неуверенную эру. ОИИ или сверхразумный, разумный ИИ, возможно, еще не существует, но системы, которые создают очень убедительную иллюзию разума, определенно уже здесь. И это как раз идеально совпадает с моими наклонностями и опытом. Во многом я готовился к этому моменту всю свою жизнь. Немногие люди имеют степень инженера, юриста и философа, и они потратили годы на изучение и преподавание философии йоги-веданты в Индии.

Всю свою жизнь я интересовался технологиями, философией, космологией и сознанием. Мне потребовалось всего несколько десятилетий, чтобы осознать важность всего этого в моей жизни и его коллективную значимость для будущего человечества. Эти давнишние интересы в области технологий, философии, сознания и этики наконец-то сливаются в новое направление карьеры: философ искусственного интеллекта и специалист по этике. Тридцать лет назад я был исследователем ИИ в Университете Кларксона; так что это захватывающее возвращение домой для меня.

Уже сейчас очевидно, что ИИ будет играть все более важную роль в формировании будущего человечества; он будет служить своего рода помощником или эволюционным двигателем наряду с человеческими инновациями. Следовательно, этот двигатель должен быть разработан вдумчиво и сознательно, с открытыми глазами и глубоким пониманием наших общих человеческих ценностей. Потому что он будет отражать любой менталитет и склонность, которые его создают. Компаниям, работающим над технологиями искусственного интеллекта, нужны люди, которые это понимают, разбираются в технологиях, философии и и законодательстве. Командам разработчиков ИИ нужны мыслители левого и правого полушарий. В конце концов, системы искусственного интеллекта обязательно отражают образ мышления их разработчиков.

Я был инженером. Я знаю, как они думают. При всем уважении к инженерам во всем мире, мы не хотим, чтобы наши сотрудники с искусственным интеллектом думали как инженеры, по крайней мере, исключительно (если они, конечно, не пишут код). Мы хотим, чтобы они думали как мудрые старейшины.

Короче говоря, я решил объединить весь свой профессиональный (и личный) опыт в этой новой роли философа ИИ и специалиста по этике. Философия ИИ объединяет мой прошлый опыт в инженерии, юриспруденции, управлении продуктами и даже преподавании йоги, а также мои текущие исследования в области философии, космологии и сознания в Калифорнийском институте интегральных исследований.

Что такое этика и философия ИИ?

Философия ИИ — это надмножество этики и ответственности ИИ, поскольку она включает в себя практические, современные проблемы этики и безопасности ИИ, такие как снижение предвзятости и обеспечение согласованности и прозрачности, а также более широкий и долгосрочный взгляд на такие вещи, как возможность ОИИ, потребность в новых подходах к ИИ, таких как моделирование абдуктивного мышления, и то, что ИИ означает для сознания, — это лишь несколько областей, которые находятся в полутени этой совершенно новой области философии ИИ.

Этика ИИ более узкая и практичная, она решает более насущные проблемы. Для наших целей этика ИИ является синонимом безопасности ИИ и частью ответственности ИИ.

В таких компаниях, как Google и Meta, уже много лет есть специалисты по этике ИИ. В большинстве компаний специалист по этике ИИ имеет широкие полномочия. Специалисты по этике ИИ обычно выступают за справедливость, прозрачность, согласованность и подотчетность. Специалисты по этике ИИ также сотрудничают с архитекторами ИИ, инженерами и менеджерами по продуктам для выбора и организации соответствующих наборов данных и методологий обучения. Они помогают создавать документацию по набору данных. Специалисты по этике не только защищают и обеспечивают конфиденциальность по замыслу в сотрудничестве с адвокатами по вопросам конфиденциальности, но также и справедливость, согласованность и прозрачность по замыслу.

Короче говоря, специалисты по этике ИИ работают над тем, чтобы технологии ИИ отражали наши общие ценности как человечества. Понимание того, что представляют собой эти ценности и какими они должны быть, требует знаний как в философии, так и в юриспруденции.

Почему коммерческие компании вкладывают время и ресурсы в то, чтобы новые технологии ИИ находились под присмотром специалистов по этике, когда это сопряжено с дополнительными краткосрочными затратами для компании и потенциальными задержками выпуска продукции? Не все это делают, как мы видели с недавними увольнениями. В марте Microsoft уволила команду по этике ИИ, отвечающую за обеспечение соблюдения своих принципов ответственности за ИИ внутри компании, несмотря на то, что она была самой усердной и брала на себя наибольшие риски в связи с интеграцией Bing + ChatGPT. В том же месяце Twitch уволил свою команду, отвечающую за ИИ. Ближе к концу 2022 года Илон Маск уволил команду Twitter по этике искусственного интеллекта в рамках масштабных увольнений в масштабах всей компании.

Но более дальновидные компании понимают, что гуманные и этичные системы искусственного интеллекта — это долгосрочная выгодная инвестиция для компании, ее сотрудников, клиентов и общества в целом.

Например, LinkedIn встроила прозрачность в свои системы искусственного интеллекта по крайней мере с 2021 года. Google стала первой компанией, занимающейся искусственным интеллектом, с 2016 года, и с тех пор у нее есть команда по этике искусственного интеллекта. Даже OpenAI, несмотря на то, как быстро они развиваются, думают о безопасности ИИ. Конечно, OpenAI твердо верит, что публичное использование также необходимо для повышения безопасности ИИ путем проб и ошибок. Во многих отношениях это все еще Дикий Запад с точки зрения норм, стандартов и правил ИИ.

Самоуправления, конечно, недостаточно, потребуется какое-то регулирование. Похоже, что правительство и промышленность в Соединенных Штатах примерно согласны с тем, как это может выглядеть, возможно, в меньшей степени в ЕС, где регулирующие органы занимают более ориентированную на потребителя позицию в отношении регулирования, как мы видели в случае с GDPR. Сэм Альтман недавно сказал, что нынешний проект Закона ЕС об искусственном интеллекте будет чрезмерно регулирующим.

То, что я хотел бы сделать, шире, чем просто этика продукта ИИ, хотя это большая его часть. Это философия ИИ. Я хочу, чтобы системы искусственного интеллекта обучались на информации и знаниях, которые благоприятствовали бы не только информации, но и мудрости, которые отображали бы мир точно и убедительно. Технологии искусственного интеллекта должны быть ориентированы на будущее. В настоящее время, поскольку они обучаются без особого воображения на наборах данных, отражающих наше прошлое, они в основном ретроспективны.

Это роль, которая еще не обязательно существует. Он возникает вместе с ренессансом ИИ, который мы переживаем. Есть несколько вакансий специалистов по этике ИИ, не говоря уже о философах ИИ. Но я согласен с Лукой Росси, что философия (и другие гуманитарные специальности), а не программирование, — это профессии будущего.

Хотя роль философа ИИ не существует в большинстве компаний, она абсолютно необходима. Точно так же, как у таких компаний, как Google, есть интернет-евангелисты, им нужны философы ИИ. Человечеству нужны люди, работающие вместе с инженерами ИИ, обладающие правильным мышлением, эмоционально зрелые, творческие и даже духовные; люди, которые живут и движутся не только сердцем, но и разумом.

Мой опыт в инженерии, юриспруденции и управлении продуктами

Я по натуре философ-мыслитель, всегда им был. Я был философским ребенком, читал Дао дэ Цзин в детстве благодаря моему отцу или заблудился в странном мире книг Фрэнка Герберта Дюна, мире, где ИИ был запрещен, и вместо него культивировались человеческие «компьютеры» (ментаты). Но я также был ребенком из рабочего класса и изучал инженерное дело и информатику не только из интеллектуального интереса, но и из практических соображений.

Моя первая дипломная работа в середине 1990-х годов была посвящена искусственному интеллекту. Я работал в лаборатории искусственного интеллекта в Университете Кларксона, где писал диссертацию о нейронных сетях и китайской игре го. Хотя мне нравились исследования и написание кода на C++ и Lisp, меня уже больше интересовало сознание и самые важные вопросы ИИ: как создать ИИ общего назначения. С моим неподдерживающим советником и относительно бесплодной второй зимой 1990-х годов, связанных с искусственным интеллектом, я покинул поле, чтобы присоединиться к пузырю доткомов.

Проработав шесть лет инженером-программистом в нескольких стартапах, я взял перерыв, чтобы обдумать, чего я хочу от карьеры. Я хотел как-то повлиять, повлиять на технологическую политику. Инженерное дело было слишком близоруким. Я хотел решать проблемы в гораздо большем масштабе. Поэтому я пошел в юридическую школу и сосредоточился на интеллектуальной собственности, юриспруденции, конституционной теории, праве и экономике.

Следующее десятилетие я провел в качестве юриста по технологиям и интеллектуальной собственности в Силиконовой долине, консультируя по всем вопросам, от открытого исходного кода до конфиденциальности. Мне посчастливилось работать консультантом по продуктам в таких местах, как Twitter и Google. Глубокое понимание технологий сослужило мне хорошую службу в этой роли. Мне так понравилось поддерживать менеджеров по продуктам, что я решил вернуться к своим технологическим корням и перейти к управлению продуктами, войдя в несколько ролей гибридных продуктов. Я также консультировал Tech:NYC по технологической политике, когда жил в Нью-Йорке.

Кроме того, я не только работал продакт-менеджером, мои клиенты все годы, пока я был продакт-консультантом, были продакт-менеджерами. Я привык работать с продакт-менеджерами и инженерами, а также с юристами, менеджментом и маркетологами.

Мои клиенты и коллеги всегда описывали меня как человека «более честного, чем кто-либо, с кем они работают». Иногда это мешало моей карьере. Но я всегда рассматривал это как долгосрочную репутационную инвестицию.

Как говорится, право есть прикладная философия. Юристы уникально подходят для применения этики. Мы обязаны сдать экзамен по этике. Несмотря на то, как часто адвокаты попадают в заголовки газет о неэтичном поведении, между законом и этикой существует глубокая связь.

Кажется, что большинство специалистов по этике, работающих сегодня в области ИИ, имеют ученые степени в той или иной разновидности технологии ИИ, а не степень в области гуманитарных наук. Кажется само собой разумеющимся, что эти команды должны включать разнообразный набор образовательного, культурного и эмпирического опыта, включая философов-технологов.

Когда в следующем году я получу степень магистра философии, космологии и сознания, я планирую подать заявку на получение докторской степени по философии ИИ в таких местах, как Нью-Йоркский университет и Стэнфорд. Мой план состоит в том, чтобы сотрудничать с промышленностью по мере того, как я продвигаюсь по гибридному пути академической и промышленной деятельности.

Зачем нам нужны философы ИИ

Как мы видели в случае предвзятости ИИ, менеджеры по продукту и инженеры недостаточно задумываются над более важными вопросами. Очевидно, пора начать это делать. ИИ быстро становится нашим партнером. Мы хотим, чтобы этот сотрудник учитывал наилучшие интересы человечества и отражал наш величайший потенциал, а не наши прошлые ошибки. Для этого нужно нечто большее, чем просто Три закона робототехники Айзека Азимова.

Модели искусственного интеллекта с каждым днем ​​становятся все более мощными и полезными, но стандарты и нормы едва соблюдаются, если вообще соблюдаются. IEEE рекомендовал организациям, разрабатывающим ИИ, назначить кого-то внутри компании с опытом работы в области этики в качестве директора по ценностям, который обнародует внутренний кодекс поведения и дает возможность сотрудникам поднимать вопросы этики анонимно и не опасаясь негативных последствий. Вот о такой роли я говорю.

Важные и открытые вопросы в области искусственного интеллекта и машинного обучения

Поскольку в этом месяце я перезапущу свой подкаст и канал на YouTube и начну более широко рассказывать о философии ИИ, я буду исследовать целый ряд увлекательных вопросов, включая следующие.

Вопросы сознания

Современные подходы к искусственному интеллекту, включая особенно модели машинного обучения, такие как ChatGPT, по сути являются попыткой смоделировать структуру мозга («нейронные сети»), существуя в рамках более широкого предположения, что интеллект, разум и сознание являются эпифеноменами химии мозга. До сих пор нет никаких доказательств того, что это так. Без дополнительных доказательств мозговая активность является столь же вероятной корреляцией, как и причинно-следственной связью.

Этот вопрос сознания известен как «сложная проблема сознания» в когнитивной науке, потому что трудно понять, как физические процессы могут породить нечто столь же субъективное, аморфное, динамичное, текучее и даже бесплотное, как сознание.

Если мы собираемся развить более глубокое понимание природы сознания в связи с ИИ, нам необходимо принять подход и отношение, которые одновременно являются более проницательными и более открытыми, чем нынешние подходы. Проницательность в том смысле, что нам необходимо критически осмыслить предположения, лежащие в основе нынешних подходов; непредубежденный, потому что настоящее моделирование и понимание человеческого разума, вероятно, потребует более целостного и прогрессивного мышления, чем мы видели до сих пор в основных когнитивных и компьютерных науках.

Нет никаких признаков того, что что-то вроде сознания, каким мы его знаем, просто непреднамеренно возникнет как побочный продукт систем машинного обучения, несмотря на многочисленные недавние утверждения об обратном.

Что значит думать и чувствовать как человек

Если оставить в стороне вопросы сознания, если мы собираемся воссоздать человеческий интеллект, мы должны понимать на достаточно глубоком уровне, что значит думать, чувствовать и быть сознательным. Например, что значит наслаждаться музыкой, приятным закатом или душераздирающей разлукой? Что еще там происходит, кроме простой обработки информации, и какие ее аспекты существенны?

Частью этого внутреннего исследования является рассмотрение трех типов мышления, которые определили философы и ученые. Только два из них были реализованы в любой системе ИИ: дедукция (ранний ИИ, такой как экспертные системы) и индукция (машинное или глубокое обучение). Существует третий тип мышления, который Чарльз Сандерс Пирс назвал абдукцией или абдуктивным умозаключением: средства, с помощью которых мы приходим к вспышкам озарения и к тем ага мгновениям после того, как мы потратили значительное время на решение проблемы. Это квинтэссенция детективного или изобретательского мышления, когда решения появляются из ниоткуда, не логически, а в мгновение ока. И это своего рода мышление, которое до сих пор никто не пытался подражать с помощью компьютеров.

Понимание внутреннего и внешнего мира

Выходя за пределы чистого разума, что еще нам необходимо для создания истинного разума? Что такое интеллект? И достаточно ли моделирования или создания интеллекта? Мы должны стрелять по мудрости, а не только по интеллекту.

Нужно ли ОИИ иметь полную модель всего мира? Я думаю, есть аргумент, что для того, чтобы машина действительно была сознательной, действительно хорошо думала и была надежной, она должна понимать причины и следствия, иметь ментальную модель мира и некоторые интерактивные отношения с точки зрения сенсорных отношений с миром. Достаточно ли машинного обучения (индуктивного мышления, которое просто распознает закономерности в мире) для разработки надежной ментальной модели? И для того, чтобы машина по-настоящему поняла эту модель — разобрала ее, как сказал бы Хайнлайн, — нужно ли ей взаимодействовать и ощущать? А что насчет желаний? Достаточно ли запрограммированных желаний или необходимы аутогенные желания? Могут ли они возникнуть из-за достаточно продвинутой системы ИИ?

А как же эмоции? Нужно ли моделировать эмоции? Или они побочный продукт разума? Возможно, в мышлении есть нечто большее, чем чистый аполлонический разум; учитывая многообещающую, но вознаграждающую природу существования в космосе в качестве сознательной, автономной сущности, возможно, некоторые дионисийские модусы обязательно придут на помощь.

Сверхразум AGI и его значение

Никто не знает, когда кто-то создаст искусственный общий интеллект (ИИО). Это может быть прямо за углом, а может быть и через десятилетия. В любом случае, нельзя отрицать, что это будет огромный переломный момент в истории человечества. Никогда не рано подготовиться к этому моменту с точки зрения его воздействия на экономику и наш образ жизни.

Это также поднимает вопрос о мотивации ИИ: может ли ИИ развивать свои собственные внутренние мотивы или они всегда будут предоставляться его создателями? Если они становятся внутренними, как они возникают? От какого-то желания? Каким образом эти желания будут связаны с способами взаимодействия ИИ с миром? Будут ли эти AGI испытывать удовольствие? Есть эмоции?

Вы видите, как быстро концепция ОИИ поднимает все эти второстепенные вопросы, связанные с ИИ.

Технологический мессия?

Как я сказал в недавнем короткометражке на YouTube, я думаю, что мы слишком много инвестируем в возможности ИИ и обесцениваем наш человеческий потенциал. Мы относимся к ИИ как к мессии или спасителю, возлагая на эти системы все наши надежды и мечты. Например, Билл Гейтс недавно сказал, что ИИ поможет нам решить проблемы изменения климата, бедности, образования и здравоохранения. И я думаю, что это может помочь нам решить эти проблемы. Но, опять же, это будет скорее сотрудничество, когда ИИ увеличит человеческий потенциал, а не заменит его. Как я утверждаю выше, поскольку мы далеко не воспроизводим все способы человеческого мышления, нам нужны люди для решения этих проблем, какими бы несовершенными, закопченными и неряшливыми мы ни были.

Если системы ИИ будут говорить с нами и снабжать нас информацией, эта информация должна быть не только фактической, но и воодушевляющей и вдохновляющей. Экспансивный, освобождающий. То, что я имею в виду, по существу противоположно наихудшему сценарию ИИ с дезинформацией, предвзятостью и «галлюцинациями».

Как видите, в этой все еще зарождающейся области искусственного интеллекта остается много вопросов без ответов.

Что в имени?

Что такое искусственный интеллект? А кто-то еще сказал: Плохой выбор слов в 1954 году. — Из твита, цитируется писателем-фантастом Тедом Чангом.

Мне также интересно, не является ли «искусственный интеллект» слишком ограничивающим названием того, что мы собираемся создать. Этот термин был придуман в середине 20-го века, в сердце века разума на заре века информации, когда чистая рациональность возвышалась над всеми другими способами бытия и познания, такими как чувство, сопереживание, интуиция и т. д. рассматривая сердечные дела, когда простая информация была выше мудрости. Опять же, я думаю, что мы должны создавать системы ИИ, которые больше похожи на мудрых старейшин, чем на HAL9000, Дейту или параноидального андроида Марвина из Автостопом по Галактике.

Полагая, что это попытка создать искусственный интеллект, я думаю, что мы излишне ограничиваем то, что создаем. В конце концов, брендинг — это все. Но, конечно, я понимаю, что это имя, вероятно, останется.

Заключение

Недостаточно философов и специалистов по этике ИИ, которые вдумчиво работают над развитием ИИ. Компании, разрабатывающие технологию ИИ, должны учитывать как насущные проблемы, так и более широкий и долгосрочный взгляд на влияние ИИ на человечество. Технологии искусственного интеллекта должны соответствовать человеческим ценностям и становиться мудрее.

Кроме того, нам нужен более проницательный и непредубежденный подход к пониманию человеческого разума, включая серьезное рассмотрение абдуктивных рассуждений, потенциальной роли желаний и эмоций в ИИ и важности моделирования огромной сложности мира, иметь с ним интерактивные отношения.

Мой опыт в области исследований искусственного интеллекта, инженерии, управления продуктами, юриспруденции и философии делает меня идеально подходящим для консультирования компаний по этим вопросам. В ближайшие месяцы и годы я хочу выступать за вдумчивый и сознательный подход к развитию ИИ, а также за интеграцию философии и этики в формирование нынешних и будущих технологий ИИ.

Моя миссия — помочь другим соединиться со своей внутренней мудростью и создать более сознательный мир. Философия ИИ является важной частью этой миссии.

Я только что перезапустил свой подкаст, канал YouTube и рассылку по электронной почте. Следуйте за мной, пока я распаковываю и исследую все это.