Публикации по теме 'artificial-general-intell'
Несколько недель назад я начал изучать концепцию под названием «Enterprise AGI».
Несколько недель назад я начал изучать концепцию под названием «Enterprise AGI». Интересно, что я начал эту работу, не имея в виду конкретного определения. Я просто знал, что использование возможностей GPT-4, развернутого в качестве автономного программного агента, позволит нам добиться масштабной автоматизации приложений, созданных с использованием таких фреймворков, как LangChain.
Сегодня утром, гуляя с Чарли, я слушал интервью Сэма Альтмана и Барри Вайса. Сэм предложил несколько..
Уменьшение масштаба надежного обучения с подкреплением
Недавно было показано, что обучение с подкреплением масштабируется до чего-то действительно надежного с обучением по учебной программе.
Возникает естественный вопрос, нужно ли это.
Много лет назад было показано, что приближение к оптимальному агенту является практичным.
Однако он предполагает спецификацию функции вознаграждения, зависящую от задачи.
В частности, как и большинство ИИ, он плохо работает в ситуациях с низким вознаграждением.
Несколько лет назад средство избежать..
Предварительное обучение с человеческими предпочтениями (PHP)
Предварительное обучение с человеческими предпочтениями (PHP)
Pretraining with Human Preferences (PHP)¹ более эффективна по сравнению с Fine-tuning.
Введение
Предварительное обучение с человеческими предпочтениями (PHP)¹ означает согласование языковых моделей (LM) с человеческими предпочтениями во время предварительного обучения.
Языковые модели, которые задают вопросы
ChatGPT задает вопросы, но их подсказывают люди. Было бы лучше, если бы ChatGPT ушел сам, задал себе кучу вопросов, а потом вернулся к нам со своим лучшим вопросом.
Какой лучший вопрос?
Тот, чей ответ дает самые большие градиенты.
Что такое псевдокод?
Пример оператора X из ChatGPT. Установите X и ¬X как ожидаемые выходные данные. Вычислите среднее значение абсолютного значения градиентов M. Если это самая большая буква M, которую вы когда-либо видели, сохраните ее и связанную..
🚀 Еженедельный обзор новостей AGI №1 🚀 от SuperAGI
Вот обзор прошлой недели:
🤖 1. Робот-гуманоид ARMAR-6 демонстрирует прорыв в поэтапном обучении посредством естественного взаимодействия
Технологический институт Карлсруэ (KIT), Германия — Исследователи из Института антропоматики и робототехники (IAR) представили революционную систему, которая использует возможности моделей большого языка (LLM) для расширения возможностей роботов-гуманоидов с интуитивно понятными функциями. возможности взаимодействия человека и робота (HRI)...
Движение к искусственному общему интеллекту
Движение к искусственному общему интеллекту
Профессор Рон Брахман, директор Института Джейкобса Техниона в Корнелле, и доктор Васим Ахтар из организации Восполняя пробелы обсуждают впечатляющий прогресс, достигнутый в области ИИ за последние годы, и исследуют, как он может перейти от узконаправленного ИИ к ИИ более общего уровня. . В этой статье кратко изложены важные выводы из интервью. Полное интервью можно найти здесь .
До сих пор область искусственного интеллекта была успешной в..
Размышления о безопасности искусственного интеллекта общего назначения (AGI)
Как человек, который изначально скептически относился к опасениям и дискуссиям, связанным с безопасностью общего искусственного интеллекта (AGI), моя точка зрения недавно претерпела значительные изменения. Мое внимание привлекла наводящая на размышления статья Психопатологический подход к технике безопасности в ИИ и ОИИ , написанная Вахидом Бехзаданом , Арсланом Муниром , Романом В. Ямпольским , что побудило меня глубже погрузиться в тему.
Один интригующий вопрос, который возник во..
