Книги по технологиям
Важность Клары и Солнца для специалистов в области обработки данных
Сдержанный роман, посвященный серьезным проблемам искусственного интеллекта.
Нобелевский лауреат Казуо Исигуро, вероятно, не собирался делать свой тихий, насыщенный, метафизический научно-фантастический роман Клара и Солнце поучительной историей для специалистов в области науки о данных. Для тех из нас, кто профессионально занимается искусственным интеллектом и машинным обучением или внедряется в них, захватывающая история Исигуро тонко затрагивает многие проблемы и противоречия в этой области сегодня.
Клара, «искусственный друг» (AF), является одноименным рассказчиком этой сказки. AF существуют для того, чтобы обеспечивать неизменно внимательное и лояльное товарищество для богатых семей, которые могут себе это позволить. Роман начинается с Клары и ее братьев в магазине AF в центре города, ожидающих покупки своими потенциальными подопечными.
В конце концов, Клару усыновляет 14-летняя Джози с неустановленным заболеванием. Клара становится подругой Джози, но не равной.
Действие романа Исигуро происходит в неопределенное время в ближайшем будущем, где-то в Соединенных Штатах. Общество расслоено. Очное государственное образование больше не предоставляется детям из высших эшелонов общества. Дети учатся на своих «продолговатых» устройствах, цифровых устройствах, напрямую связанных со своими наставниками. Планируемые встречи с другими детьми, обучающимися на дому, для содействия социализации имеют атмосферу Повелителя мух, поскольку родители находятся на периферии, позволяя своим плохо приспособленным детям разрешать свои разногласия без вмешательства взрослых. Исигуро закончил писать «Клару и Солнце» за несколько месяцев до COVID-19, что сделало его не только глубоким, но и дальновидным.
Вот несколько спорных тем об искусственном интеллекте, затронутых в Клара и Солнце:
- Обучение без учителя. Клара - ненадежный рассказчик, потому что ее выводы вытекают из ее узкого мировоззрения. Исигуро с уморительным блеском представляет совершенно логичные, но нестандартные идеи Клары:
Квартира друга находилась в особняке. Из окна его главного холла я мог видеть похожие таунхаусы на противоположной стороне улицы. Их было шесть в ряд, и лицевая сторона каждого была выкрашена в немного другой цвет, чтобы житель не поднялся по неправильной лестнице и не зашел в соседний дом по ошибке.
Клара понимает граффити:
… Увидел два серых здания рядом, которые были разной высоты, и кто-то нарисовал мультяшную картину на стене более высокого здания, где оно возвышалось над своим соседом, возможно, чтобы сделать их несоответствие менее неловким.
Заблуждения Клары принимают мрачный и потенциально опасный оборот, отчасти из-за того, что она не хочет получать реальную проверку от людей.
В своей статье в New York Times автор и журналист журнала Ник Билтон обеспокоен тем, что прагматично логические решения ИИ человеческих проблем могут привести к уничтожению человечества:
Но потрясения могут быстро обостриться и стать более страшными и даже катастрофическими. Представьте, как медицинский робот, изначально запрограммированный на избавление от рака, мог сделать вывод, что лучший способ уничтожить рак - это истребить людей, которые генетически предрасположены к этой болезни.
Изложение Исигуро мягче, чем катастрофические предсказания Билтона. Тем не менее, история Исигуро предвещает, как ИИ может использовать свою жестокую машинную логику против людей.
2. Объяснимый искусственный интеллект / машинное обучение. Практики искусственного интеллекта сталкиваются с сопротивлением из-за приложений искусственного интеллекта в виде черных ящиков. Критики вполне разумно утверждают, что трудно доверять выводам ИИ, когда нет объективов в его принятии решений. Точно так же Клара испытывает враждебность со стороны людей, подозрительных к мотивам AF. Клару объясняют агрессию так:
Клара, факт в том, что сейчас существует растущая и широко распространенная озабоченность по поводу AF. Люди говорят, как ты стал слишком умным. Они боятся, потому что больше не могут следить за тем, что происходит внутри. Они видят, что вы делаете. Они признают, что ваши решения, ваши рекомендации являются разумными и надежными, почти всегда правильными. Но им не нравится не знать, как вы к ним пришли. Вот откуда это, эта обратная реакция, это предубеждение.
Объяснимый ИИ - это развивающаяся область, которая пытается обеспечить видимость того, «как производятся колбасы», в заявлениях ИИ / МО. Если человек понимает процесс принятия решений AI / ML, ему будет легче вносить изменения, обеспечивая лучшие результаты, как если бы учитель математики требовал увидеть «работу» вместе с окончательным ответом.
3. ИИ захватывает человеческие рабочие места. Хотя Клара работает вместе с людьми, она испытывает враждебность со стороны людей по поводу смены рабочих мест, связанных с искусственным интеллектом. Когда Клара и Джози приходят на спектакль, их товарищ из театралов раскритиковал аферистов, что также может отражать тонкое неодобрение Исигуро сегодняшних антииммиграционных приемов:
Сначала они берутся за работу. Потом они займут места в театре?
Тайваньско-американский компьютерный ученый, бизнесмен и писатель Кай-Фу Ли считает, что потеря работы из-за искусственного интеллекта неизбежна. Он утверждает, что самые безопасные рабочие места предполагают высокий уровень эмоционального интеллекта, который труднее всего воспроизвести с помощью искусственного интеллекта. Ли объясняет свои мысли в этом сообщении в блоге:
ИИ настолько глубоко проник в общество Клары и Солнца, что работников умственного труда «заменили» ИИ. Роль ИИ в этом обществе, скорее всего, увеличила социальное расслоение, а не уменьшила его. Один из персонажей Клара и Солнце, высококвалифицированный инженер, который сейчас находится в самом низу иерархии, храбро смотрит на замену:
Честно? Думаю, замены были лучшим, что со мной случилось. … Я действительно верю, что они помогли мне отличить важное от несущественного. И там, где я сейчас живу, много прекрасных людей, которые чувствуют то же самое.
Искусство и литература часто дают возможность заглянуть в будущее. Хотя большая часть научной фантастики, в том числе Клара и Солнце, представляет антиутопическое общество, будущее страданий и несправедливости не предрешено. Технологи могут избежать мрачного будущего, усвоив уроки из литературы и прислушиваясь к этическим и практическим соображениям этих мощных технологий.
Если вам понравилась эта статья, возможно, вас заинтересует и эта:
