Избегая 1984 года после 2018 года
Слишком часто мои рассуждения о том, что мы можем сделать с ИИ, ведут по коварному пути, когда моему брату приходится останавливать меня чем-то вроде: «Если бы ты не был инженером, из тебя вышел бы действительно хороший диктатор».
Идея может начаться с благонамеренного применения ИИ для улучшения качества обслуживания клиентов, например в розничной торговле. Но чтобы продать продукт бизнесу, нам нужно продемонстрировать его ценность. Скажем, мы можемсохранить деньги супермаркета, остановив людей воровать, предоставив точные данные о товарных запасах и укрепив лояльность к бренду за счет улучшения качества обслуживания клиентов. Звучит здорово, верно?
Но крупный бизнес хочет большего: он хочет знать, какие магазины посещает покупатель, он хочет понять демографические характеристики покупателей, скажем, по украшениям на руках. Это скользкий путь…
При продаже чего-либо корпорации всегда есть риск, что ваше видение может быть искажено, чтобы служить только им, а не людям. Посмотрим правде в глаза, у них есть деньги, так что риск очень реален.
В своем опыте создания технологий машинного обучения я часто слышал песнь сирен о создании чего-то, что отклоняется от пути творить только добро.
Так должны ли мы дать клятву Гиппократа для ИИ?
Я не думаю, что реалистично ожидать, что мы сможем этого добиться. Что мы можем построить ИИ только во благо. Технологии следуют за деньгами, и, в конце концов, это такой запутанный спектр добра и зла. В письме Ларри Финка генеральному директору Blackrock Investments ясно видно, что социальное воздействие компаний находится в центре внимания как никогда.
Я считаю, что наш путь к ИИ потребует управления технологией и принятия разумных решений. Как лидеры, мы должны провести черту того, что мы должны и не должны делать.
Нам не нужна клятва Гиппократа. Только не будь мудаком.
