Моя подборка из подкастов Лекса Фридмана по искусственному интеллекту

Я большой поклонник Лекса Фридмана и того потрясающего контента, который он создает для продвижения идей и достижений в различных науках. В связи с этим я хочу поделиться некоторыми концепциями, которые поразили меня, когда я впервые услышал их в его Подкастах.

Кристоф Кох

Он является президентом и главным научным сотрудником Института исследований мозга Аллена в Сиэтле. С 1986 по 2013 год он был профессором Калифорнийского технологического института. Процитировано более 105 000 раз. Автор нескольких книг, в том числе Сознание: Признания романтического редукциониста.

Сознание - это любой опыт. Это похоже на то, чтобы быть плохим, быть американцем, или быть сердитым, грустным, или влюбленным, или испытывать боль. Вот что такое опыт. Это может быть так же приземленно, как сидение на стуле, или может быть столь же возвышенным, как мистический момент в глубокой медитации.

Есть концепция интеллекта (естественного или искусственного) и есть концепция опыта сознания (естественного или искусственного). А это совсем разные вещи. Исторически мы ассоциируем сознание с интеллектом, но теперь мы сталкиваемся с миром, в котором мы начинаем конструировать интеллект, и совершенно неясно, имеет ли этот интеллект, который мы разрабатываем, какое-либо отношение к сознанию, и может ли он что-либо испытывать.

Интеллект - это функция. Речь идет об адаптации к новой среде, способности учиться, быстро понимать и что будет дальше. Сознание - это не функция. Это о том, чтобы быть.

Почему сознание - сложная проблема? Потому что это субъективно. Только я знаю. Я напрямую переживаю собственное сознание. Я не знаю твоего сознания.

У людей интеллект и сознание идут рука об руку. В искусственных системах, особенно в цифровых машинах, они несовместимы. Системы могут моделировать поведение, связанное с сознанием, но моделирование - это не то же самое, что осознанный опыт. Точно так же, как он не промокает внутри компьютера, когда он имитирует погодный шторм, для того, чтобы иметь искусственное сознание, вы должны придать ему такую ​​же причинную силу, что и человеческий мозг.

Йошуа Бенжио

Он считается одним из трех человек, наиболее ответственных за развитие глубокого обучения в 1990-х, 2000-х годах и сейчас. Его цитировали 139 000 раз, и он стал неотъемлемой частью крупнейших достижений в области искусственного интеллекта за последние три десятилетия.

Вместо того, чтобы учиться отдельно от изображений и видео, с одной стороны, и по тексту, с другой, нам нужно лучше совместно изучать язык и мир, к которому он относится, чтобы обе стороны могли помогать друг другу.

Я не думаю, что большая глубина искусственных нейронных сетей (например, вместо сотни слоев у нас десять тысяч) решит нашу проблему обучения. Инженеры, компании, лаборатории и аспиранты будут продолжать настраивать архитектуры и изучать возможности, чтобы улучшить текущее состояние дел, но я не думаю, что этого будет достаточно. Я думаю, что нам нужны довольно радикальные изменения в том, как мы рассматриваем обучение, чтобы достичь цели, в которой эти учащиеся действительно глубоко понимают среду, в которой они наблюдают и действуют.

Наши современные методы глубокого обучения не способны изучить модели, которые понимают даже очень простые среды. Вместо того, что людям могут понадобиться всего лишь десятки примеров, для очень простых задач на эти вещи потребуются миллионы.

Так что я думаю, что у ученых есть возможность провести действительно важные исследования, чтобы продвинуть современные технологии в области обучения, моделей обучения и агентного обучения, даже в простых средах, которые являются синтетическими, кажутся тривиальными, но в которых текущее машинное обучение не работает.

Для машин самая сложная часть любого разговора - это все, что связано с неязыковыми знаниями, которые неявно необходимы для понимания предложений (например, предложений, которые семантически неоднозначны). Вам нужно достаточно хорошо разбираться в мире, чтобы правильно интерпретировать эти предложения. Я думаю, что это интересные задачи для машинного обучения, потому что они указывают направление построения систем, которые понимают, как устроен мир, и его причинно-следственные связи, и связывают эти знания с тем, как выразить их на языке для чтения или письма.

Юрген Шмидхубер

Он является соавтором сетей долговременной краткосрочной памяти (LSTM), которые сегодня используются в миллиардах устройств для распознавания речи, перевода и многого другого. За 30 лет он предложил множество интересных нестандартных идей в области искусственного интеллекта, включая формальную теорию творчества.

Существуют значительные различия в способах обучения систем. Давайте возьмем пример глубокой нейронной сети, которая научилась классифицировать изображения, обученная на 100 различных базах данных изображений. Теперь появляется новая база данных, и вы также хотите быстро изучить новую вещь. Один простой способ сделать это - взять сеть, которая уже знает 100 типов баз данных, взять ее верхний уровень и повторно обучить его, используя новые данные меток, которые у вас есть в новой базе данных изображений. Тогда он тоже быстро научится этому. Нейронная сеть уже так много узнала о компьютерном зрении, что может повторно использовать эти знания для решения новой задачи, за исключением того, что вам понадобится небольшая настройка сверху. Это трансферное обучение.

С другой стороны, истинное метаобучение заключается в том, чтобы сам алгоритм обучения был открыт для самоанализа системой, которая его использует. И также открыт для модификации, так что система обучения имеет возможность изменить любую часть алгоритма обучения, а затем рекурсивно оценить последствия этой модификации, извлекая уроки из этого для создания лучшего алгоритма обучения.

Я думаю, что в ближайшем будущем у нас появятся (впервые) роботы, которые учатся как дети. Роботы, которые, видя и слыша, как мы их направляем, будут пытаться что-то сделать со своими собственными приводами, которые будут отличаться от наших, но они поймут разницу. Они научатся подражать нам, но не под присмотром учителя, когда учитель постоянно дает целевые сигналы всем мышцам. Они будут изучать имитацию высокого уровня, где они сначала должны подражать нам, а затем интерпретировать эти дополнительные шумы, исходящие из моего рта (голос), как полезные сигналы, чтобы лучше выполнять задачи. Затем они сами придумают более быстрые и эффективные способы делать то же самое, чему мы их учили. На данный момент это невозможно, но мы уже видим, как мы этого добьемся. Поскольку это работает с экономической точки зрения, это все изменит. Это затронет почти все наше производство, и грядет гораздо большая волна ИИ, чем та, которую мы наблюдаем: эра активных машин, которые формируют данные посредством действий, которые они выполняют, и учатся делать это хорошо.

Заинтересованы в этих темах? Следуйте за мной в Linkedin или Twitter