Эти сообщения в основном представляют собой неотредактированные «мозговые свалки», которые я записал в свой телефон. Я публикую их для тех, кому они могут быть полезны.

Был такой бой в 1970-х между Ноамом Хомским и Б. Ф. Скиннером. Или, скорее, Хомский нападал на Скиннера и бихевиоризм. Дело дошло до того, что Скиннер в своей последней публичной речи перед смертью предупредил об опасностях структурализма.

В основном, разные позиции были такими:

Скиннер сказал, что психология эффективна, когда мы отказываемся от понятия «разум» и вместо этого сосредотачиваемся на том, что можем видеть. То есть: что делает организм и в каких обстоятельствах он это делает. Это было противоядием Скиннера от бесконечного зондирования «души» людей в стиле Фрейда, которое, казалось, никогда ничего не приводило.

Метод Скиннера, напротив, преуспел не только в том, чтобы научить голубей играть в пинг-понг или управлять ракетами. Он также преуспел в создании обучающих машин для детей и стал основой для обучения кликером, прямого обучения и метода Мишеля Томаса для сверхбыстрого изучения языка.

Скиннер зашел так далеко, что заявил, что даже человеческая речь основана на обусловленном поведении.

Тут-то и появился Ноам Хомский. Он напал на книгу Скиннера «Вербальное поведение». Он утверждал, что люди начинали с врожденной внутренней структуры, языкового инстинкта, если хотите. Только благодаря этим врожденным структурам или шаблонам, говорит Хомский, ребенок вообще мог выучить язык.

Влияние Хомского росло. Скиннер умер в 1990 году. И сегодня учебники истории в основном говорят нам, что Скиннер был уродом, который вырастил свою собственную дочь в ящике Скиннера, и что все хорошее в психологии и во взаимодействии человека с компьютером было плодом новая дисциплина когнитивной психологии. (Даже превосходная книга М. Митчелла Уолдропа Машина мечты допускает эту ошибку.)

Думаю, если присмотреться, то видно, что настоящий победитель… Скиннер.

Скиннер утверждал, что не существует такой вещи, как внутренний шаблон. Он признал, что вы действительно начинаете с организма, который имеет свои специфические возможности и ограничения.

Шимпанзе, например, никогда не сможет научиться говорить, среди прочего, из-за того, как устроены его голосовые связки, как это известно Майклу Джексону в 1980-х годах.

Но это, в противном случае, разум функционирует исключительно посредством обучения с подкреплением.

И я считаю, что история доказала правоту Скиннера.

Во-первых, почти все, что мы видим в Интернете, реклама с оплатой за клик, алгоритмы оптимизации, дизайн игр, Facebook, основаны на бихевиоризме.

Идеи Хомского, с другой стороны, остались в значительной степени теоретическими.

И когда мы смотрим на обучение, в частности, мы теперь можем лучше понять, как оно работает:

У нас есть нейронные сети, которые изучают язык, учатся ездить по дорогам, предназначенным для водителей-людей. И то, что мы видим, это то, что все это происходит благодаря обучению нейронных сетей без какой-либо предварительной врожденной структуры.

Внутри нейронной сети нет структуры языка до того, как она начнет учиться. Вместо этого эта структура находится в самом языке. Он вне обучающегося организма. А именно в виде усиления или его отсутствия. Работа нейронной сети заключается в том, чтобы путем проб и ошибок составить карту этого ландшафта.

Скиннер был совершенно прав, когда сказал, что люди обычно неверно истолковывают классическую обусловленность. Люди любят говорить, что Собака Павлова научилась ассоциировать звон колокольчика с едой. Но Скиннер утверждал:

Собака не связывала эти две вещи друг с другом. Павлов сделал.

То же самое и с машинным обучением сегодня:

Это не компьютер создает ассоциации. Вместо этого он просто распознает и отображает ассоциации, существующие во внешнем мире.

Когда суперкомпьютер Теслы учится водить машину, он получает два входа. Один вход содержит изображения с камер автомобиля. И другой ввод — это метки. Есть ярлыки, предоставленные учеными Tesla, которые говорят: «на этом изображении есть велосипед», «на этом изображении есть светофор» и так далее. И метки, генерируемые автопарком, в том смысле, что водитель может повернуть руль влево в определенной среде или отключить автопилот, когда он совершит ошибку.

Именно нейронная сеть создает из этой мешанины правильного и неправильного «внутреннюю структуру».

И самое интересное, что нам все равно, как выглядит эта внутренняя структура. Мы не можем заглянуть внутрь нейронной сети. А нам и не надо! Нам не нужно прибегать к фрейдизму в отношении наших нейронных сетей.

Все, что нас волнует, — это поведение сети. Все, о чем мы заботимся, это то, чтобы сеть выполняла свою задачу с приемлемо низким уровнем ошибок.

Именно об этом все время говорил Скиннер.