Недавно я наткнулся на статью, написанную в 2016 году Закари С. Липтоном из Университета Карнеги-Мелон. В своем тексте, озаглавленном Основы алгоритмической предвзятости, Закари пытается демистифицировать концепцию предвзятости, лежащей в основе современных алгоритмов машинного обучения.

Один из анекдотов, о котором он упоминает, - это случай, когда система распознавания изображений Google вызвала споры в 2015 году, когда среди правильно классифицированных изображений небоскребов, самолетов и автомобилей система также пометила изображение черной пары злополучным ярлыком - `` гориллы ''. . Закари объясняет, откуда могла взяться ошибка, предполагая, что набор данных, на котором была обучена система, содержал очень мало образцов изображений чернокожих людей в ее коллекции «люди».

Читая статью, я вспомнил историю, которую недавно рассказал мне мой знакомый. Он поделился своим опытом о трудностях и преимуществах воспитания сына, у которого был диагностирован аутизм. Он объяснял мне, как его ребенок живет в мире установленных правил и моделей, которые часто трудно понять другим.

История

Однажды они ждали автобус на автобусной остановке вместе с некоторыми другими людьми, в первую очередь с черным мужчиной. Чтобы проиллюстрировать важность того, что в противном случае могло бы оказаться несущественной деталью, вы должны принять во внимание контекст.

Они живут в небольшом городке в части Центральной Европы с однородной, преимущественно белой, демографической. И когда я говорю «преимущественно белые», я имею в виду количество небелых людей, которых вы встретите там за неделю, вы, вероятно, можете пересчитать по пальцам своих рук.

Это был первый раз, когда сын увидел стоящего рядом чернокожего человека. Он был очарован. Имея несколько барьеров, аутичный ребенок смотрел на прохожего, пытаясь осмыслить новую ситуацию, вписать неизвестное в набор правил, которыми он руководствуется в своей жизни. Вскоре он пришел к заключению, которое в его мире имело смысл.

Он громко воскликнул: «Папа, я думаю, этот мужчина не очень часто моется». В ужасе отец посмотрел на сына, затем на высокого мужчину рядом с ними, а теперь смотрел на отца с вполне понятным недовольством. Он быстро извинился и объяснил ситуацию сначала мужчине, о котором идет речь, затем своему сыну. Мужчина понял и улыбнулся ребенку, прежде чем сесть в только что прибывший автобус.

Когда автобус уезжал, мужчина, все еще улыбаясь, поднял руку, чтобы помахать ребенку на прощание. Увидев ладонь незнакомца, в которой, естественно, меньше меланина, сын пришел к выводу: «Но он же руки моет!»

Связь

У сына, конечно, не было злого умысла. Если вы попытаетесь объяснить, что означает слово «расизм», он не сможет понять его. Его отец объяснил, что это не вписывается ни в одну из его моделей мира. Но в его мире жестких закономерностей у людей светлая кожа, потому что это все, что он когда-либо видел. Точно так же, как система распознавания изображений Google, когда она «узнала», как выглядят люди.

Сегодняшние алгоритмы машинного обучения в некотором смысле очень похожи на алгоритмы этого человека. Основываясь на прошлом опыте, они создают для себя набор правил, касающихся того, как обстоят дела в целом и, что более важно, какими они должны быть. Они хорошо умеют находить закономерности и структуры, но иногда слишком жестко придерживаются этих закономерностей. Им не хватает интуиции, которая позволила бы им вырваться из строгого следования правилам. Им часто трудно адаптироваться, когда в их среде происходят неожиданные изменения. И когда правила, которым они научились, рушатся, как это часто бывает в реальной жизни, им придется адаптироваться.

Для предотвращения подобных предубеждений в машинах, которые принимают решения за нас с постоянно увеличивающейся частотой, в вопросах, столь меняющих нашу жизнь, например, разрешить ли кому-либо взять ссуду или насколько высок риск сердечной недостаточности, нам необходимо чтобы развеять представление о том, что даже «достоверные данные» часто бывают необъективными. Этого может быть недостаточно, чтобы накормить алгоритм «tabula rasa» на миллионы примеров.

Возможно, если мы хотим осуществить мечту об ИИ, который действует среди людей естественным образом, мы должны попытаться выяснить, что это за интуиция, которые у нас есть о мире, и как они формируются. Мы должны искать то, что позволяет нам видеть закономерности в мире, и при этом быть достаточно гибкими, чтобы изменить наше восприятие, когда шаблоны растворяются.

Чтобы вырасти взрослыми, мы должны наблюдать, как дети учатся понимать мир. Мы должны больше общаться с учеными, занимающимися когнитивными проблемами развития, и учиться в их области исследований. Мы можем обнаружить, что истинное понимание не может быть получено исключительно на основе опыта, но требует некоторого более обширного врожденного набора навыков, которыми наши алгоритмы должны обладать вдобавок.

Когда я погрузился в этот ход мыслей, я вскоре обнаружил, что неудивительно, что я был не первым, кто это сделал. Люди уже ищут способы сблизить человеческий опыт и машинное обучение. В феврале этого года Массачусетский технологический институт запустил исследовательскую инициативу Поиски интеллекта, цель которой объединить различные области и извлечь выгоду из того, чему они могут научить друг друга, чтобы ответить на самые глубокие вопросы об интеллекте. Другие обязательно последуют. Еще неизвестно, приведет ли этот подход к чему-либо.

Я, например, в восторге от того, куда это может пойти.

Заявление об ограничении ответственности: мнения, представленные в этой статье, принадлежат автору и могут не отражать точку зрения их работодателя.