ChatGPT от OpenAI, чат-бот, управляемый искусственным интеллектом, привлек значительное внимание и финансирование в области искусственного интеллекта. Однако генеральный директор OpenAI Сэм Альтман предупредил, что исследовательский подход, который привел к созданию ChatGPT, больше не эффективен. По словам Альтмана, для будущего развития ИИ потребуются новые идеи, поскольку простое увеличение размеров моделей больше не является решением.

В последние годы OpenAI добилась значительных успехов в исследованиях ИИ, расширив существующие алгоритмы машинного обучения для языка до беспрецедентных размеров. По оценкам, последний проект OpenAI, GPT-4, был обучен на триллионах слов и тысячах мощных компьютерных чипов стоимостью более 100 миллионов долларов.

Во время мероприятия, проведенного в Массачусетском технологическом институте на прошлой неделе, Альтман заявил, что GPT-4 может стать последним значительным прорывом, связанным с подходом OpenAI к подаче в модели большего количества данных и увеличению их размера. Однако Альтман не указал исследовательские стратегии или методы, которые могли бы заменить этот подход.

Альтман считает, что прогресс в области трансформаторов, модели машинного обучения, лежащей в основе GPT-4 и ее конкурентов, требует разработки новых моделей и настройки на основе отзывов людей. Многочисленные хорошо финансируемые стартапы стремятся идти в ногу с технологией OpenAI, но Альтман утверждает, что для дальнейшего развития ИИ потребуются новые исследовательские стратегии и методы.

Каждая итерация языковых алгоритмов OpenAI содержит искусственную нейронную сеть, которая предсказывает слова, которые должны следовать за данной текстовой строкой. Хотя размер GPT-4 и его внутренняя работа остаются нераскрытыми, комментарии Альтмана предполагают, что часть его интеллекта может быть получена из факторов, выходящих за рамки простого масштаба. Возможно, использовалось обучение с подкреплением с обратной связью от человека, что повысило качество отклика модели.

Альтман подтвердил, что OpenAI в настоящее время не работает над GPT-5, что вызвало споры о потенциале ИИ революционизировать экономику, а также распространять дезинформацию и сокращать рабочие места.

В заключение, предупреждение Альтмана о том, что эра колоссальных моделей ИИ подошла к концу, представляет собой непредвиденный поворот в гонке за разработку и развертывание новых алгоритмов ИИ. Для дальнейшего развития области искусственного интеллекта требуются новые исследовательские стратегии и методы.