Идея суперинтеллекта зародилась в научно-фантастических романах и теперь стала серьезным предложением таких организаций, как FAIR, OpenAI и Google DeepMind, работающих над созданием общего искусственного интеллекта.
Что такое суперинтеллект?
В одной строке: это ИИ, улучшающий сам себя, а затем улучшенный ИИ, улучшающийся до тех пор, пока не будет достигнута точка сингулярности, которая быстро превзойдет пределы человеческого интеллекта, и тогда мы больше не сможем делать точные прогнозы относительно того, что произойдет дальше.
Так в чем же дело с OpenAI и DeepMind?
Взглянув на заявленные этические принципы DeepMind, они упоминают прозрачность, открытость, сотрудничество и инклюзивность среди основных принципов, на которых они стоят.
Мы считаем, что технология, которая может повлиять на все общество, должна формироваться и быть подотчетной всему обществу. Поэтому мы стремимся поддерживать широкий круг публичных и академических диалогов об ИИ. Устанавливая постоянное сотрудничество между нашими исследователями и людьми, затронутыми этими новыми технологиями, мы стремимся к тому, чтобы ИИ работал на благо всех.
Однако DeepMind так и не раскрыл, кто входит в их совет по этике, хотя The Economist сообщил, что в нем участвуют все три соучредителя DeepMind. Это не прозрачное, открытое и инклюзивное правление, оно секретное и состоит из членов DeepMind.
Взглянув на Этическую хартию OpenAI, мы читаем:
Миссия OpenAI состоит в том, чтобы гарантировать, что общий искусственный интеллект (AGI) - под которым мы подразумеваем высокоавтономные системы, превосходящие людей по наиболее экономически ценной работе - приносил пользу всему человечеству. Мы постараемся напрямую создать безопасный и полезный AGI, но также будем считать нашу миссию выполненной, если наша работа поможет другим достичь этого результата. С этой целью мы придерживаемся следующих принципов ...
Мы обязуемся использовать любое влияние, которое мы получаем на развертывание AGI, для обеспечения его использования на благо всех и во избежание использования AI или AGI, которое наносит вред человечеству или чрезмерно концентрирует власть.
Однако их недавние шаги по реструктуризации в 100-кратную коммерческую компанию, а также отказ от созданного ими алгоритма искусственного интеллекта вместо того, чтобы открывать его исходный код, прямо противоречат не только их названию - OpenAI - но также и во избежание чрезмерной концентрации власти, поскольку OpenAI будет обладать их новообретенной властью.
Принимая финансирование, OpenAI становится ответственным перед своими инвесторами, которые теперь будут иметь большее влияние на будущее бизнеса.
Почему вам следует заботиться
В конечном итоге OpenAI (который начинался с идеи, что влияние AGI будет настолько великим, что его нельзя приватизировать) перевернулся с ног на голову и сделал AGI выгодным аргументом для потенциальных инвесторов. DeepMind также не придерживается своей этической хартии. Обе эти организации основываются на самых мощных технологиях, которые мы создали.
Что ты можешь сделать?
Есть два способа внести свой вклад в ИИ: в рамках открытого сообщества, работающего над формулировками проблем ИИ, или в составе разрозненных команд.
Команду bitgrit объединяет общая цель демократизации ИИ - мы напрямую подключаем специалистов по данным к заявлениям об отраслевых проблемах, которые публикуем публично. Если вы хотите стать частью этого, присоединяйтесь к нашему открытому форуму.
Эту статью написал Фредерик Бусслер, генеральный директор bitgrit. Присоединяйтесь к нашему сообществу специалистов по данным или нашему Telegram, чтобы получить информацию и узнать о возможностях в области науки о данных.
