Что-то меня всегда беспокоило в ИИ. Я нахожусь где-то между «слегка любопытным» и «скептиком», когда слышу, что будущее коренится в компьютерах, таких как нейронные сети, уничтожающих все рабочие места и сбивающих нас с ног, как Терминатор.

Слегка любопытная часть меня подписалась на MIT Technology Review (бумажное издание!!), а скептическая сторона была очень взволнована, прочитав статью под названием Is AI Riding a One Trick Pony? в выпуске за ноябрь / декабрь 2017 года. .

До этой статьи самое большее, что я знал о глубоком обучении, это то, что вам нужно скормить ДЕРЬМОВУЮ ТОННУ (это технический термин 💩 😁) данных в систему, которая будет принимать ряд решений, чтобы определить, что является или не является хот-дог. Мой коллега Йи-Ин написал о внутренних предубеждениях в этом тренировочном процессе, которые зависят от входных данных — если все данные исходят от белых парней, мы застряли, чтобы обслуживать только белых парней.

Прочитав эту статью, я наконец-то узнал, как, черт возьми, произошло это «обучение». Усилия, стоящие за обратным распространением (способ, которым программисты изменяют силу соединения в игре с нейтральными сетями из 20 000 (?) вопросов, чтобы не делиться плохими ответами). Я с огромным уважением отношусь к решению этого болезненного процесса работы в обратном направлении, чтобы «читать» систему, которая пишет сама себя. Я узнал об этих «векторах» — увлекательном, (почти) органичном создании представлений идей. Слово «придурок» во мне любит коннотации, связанные с использованием математической концепции для описания нечеткой концепции «того же самого».

Но вот цитата, которая действительно резонировала с моим беспокойством по поводу концепций:

«Глубокое обучение в некотором роде имитирует то, что происходит в человеческом мозгу, но только поверхностно — что, возможно, объясняет, почему его интеллект иногда может казаться таким поверхностным. Действительно, обратное распространение не было обнаружено путем глубокого исследования мозга, расшифровки самой мысли; он вырос из моделей того, как животные учатся методом проб и ошибок в старых классических экспериментах по формированию условного рефлекса. И большинство больших скачков, которые произошли по мере его развития, не были связаны с каким-то новым пониманием нейронауки; это были технические усовершенствования, достигнутые годами математики и инженерии».

За 4 года работы дрессировщиком собак в Petsmart (самая крутая работа в старшей школе и колледже!!) я научил владельцев домашних животных приучать своих собак к тому, что означают «сидеть» и «лежать». Несколько владельцев собак были особенно обеспокоены доступностью английского языка и настаивали на обучении своих собак командам на немецком языке, чтобы только они могли указывать своей собаке, что делать.

Мы с коллегой-дрессировщиком шутили, что обучаем собак командам со случайными словами: «хот-дог» означает «сидеть», а «вафли» — «лежать». Поскольку я еще не встречал собак, рожденных для знания английского языка, мы, как дрессировщики, выстраивали эти языковые ассоциации. Это не делало собак неразумными, а просто создавало коммуникативный барьер. По сути, мы учили собак общаться с нами, используя наш язык, и что хорошие вещи приходят к ним, когда они обращают внимание. К счастью, мы использовали положительное подкрепление (поэтому здесь не нужно бить собак), но обучение основывалось на способности распознавать паттерн «я говорю, ты делаешь, получаешь угощение».

Если вы когда-нибудь замечали, что владелец домашнего животного должен повторить команду «сидеть» 4 раза, прежде чем собака сядет, дело не в том, что собака не слушает. Более вероятным виновником является то, что владелец, возможно, на самом деле научил собаку шаблону команды «сидеть, сидеть, сидеть, сидеть», прежде чем собаку вознаградили или заставили подчиниться. Сигналы руками также играют важную роль; если вы обычно поднимаете руку и одновременно говорите «сидеть», собака может не подчиниться, если вы только скажете «сидеть» без жеста рукой. В целом, мы заметили, что собаки быстрее улавливают сигналы руками, так как это метод общения, который больше соответствует собачьему миру.

Фраза «Глубокое обучение» для меня подразумевает глубокое понимание контекста и ситуации; но сейчас так не кажется. Считается ли это «глубоким», потому что мы даем компьютеру миллионы и миллионы изображений, которые человек никогда не сможет обработать? Является ли это «обучением», потому что программа сама создает эти, казалось бы, волшебные классификации и ссылается на них позже? Но как собака, если вы измените команду на что-то, чего еще нет в наборе данных, будет ли она знать, как «перевернуться»?

Я понимаю, как люди волнуются, когда что-то начинает работать. Это то же самое, как когда собака с любовью смотрит вам в глаза и идеально «сидит», просто чтобы получить больше лакомства. Мы (дизайнеры, инженеры, специалисты по обработке и анализу данных, работники Силиконовой долины) должны понимать, что даже если у нас есть инструмент, который вроде как работает, у него все равно есть ограничения. Мировые проблемы не будут решены путем обучения программ «сидеть», «стоять», «говорить» и «находить мяч». знаем, что мы хотели.