Кто на самом деле будет контролировать ИИ?
Вчера принесли новости об еще одной инициативе, поддержанной миллиардером — на этот раз во главе с Ридом Хоффманом и Пьером Омидьяром — направленной на обеспечение мирного сосуществования искусственного интеллекта и общественных интересов. Это благородное начинание, как и такие инициативы, как OpenAI и AI100, но остается фундаментальный вопрос: кто на самом деле будет применять лучшие практики, рекомендованные этими инициативами, или предотвратит ужасные результаты, которые они предсказывают?
За последние несколько лет исследователи, журналисты, специалисты в области политики и другие люди потратили много времени и сил на размышления о мощном, если не извращенном, влиянии алгоритмов на общество. Появились аналитические центры. Было проведено бесчисленное количество докладов на конференциях и опубликованы эссе. В мае Белый дом опубликовал очень проницательный отчет, в котором подчеркивается потенциальный риск анализа данных для поощрения дискриминации в таких областях, как кредит, образование, уголовное правосудие и занятость.
И у нас до сих пор нет конкретного ответа о том, как эффективно регулировать использование алгоритмов. ИИ — это просто еще один очень сложный слой, добавленный к этому и без того сложному обсуждению, иногда напрямую связанный с «большими данными» (например, в случае глубокого обучения), а иногда — с решением гораздо более серьезных вопросов (например, в случае разумных машин). ).
Подпишитесь на информационный бюллетень ArchiTECHt, чтобы получать ежедневные новости и аналитические материалы! Хотите спонсировать информационный бюллетень или подкаст? Электронная почта [email protected].
Кто может управлять использованием алгоритмов?
Да, такие компании, как Amazon, Facebook, Google, IBM и Microsoft добились удивительного прогресса в публичном обсуждении этики ИИ, и это служит хорошим предзнаменованием для определенного уровня самоуправления среди крупнейших мировых технологических компаний.
Но ИИ стремительно демократизируется, и мощные алгоритмы, поставляемые через API, скоро будут в руках каждого разработчика с кредитной картой. Облегченные алгоритмы и передовые архитектуры процессоров дадут нашим устройствам способность к обучению. Кто предоставит этим бесчисленным новым пользователям ИИ набор правил, по которым они будут играть, а затем проследит за тем, чтобы они соблюдались? (Далее следует анализ, который, по общему признанию, ориентирован на США.)
Конгресс? Следующая администрация президента? Я бы не стал задерживать дыхание. Наши нынешние федеральные законы, регулирующие такие технологические темы, как конфиденциальность и киберпреступность, уже устарели, и бездействие в отношении всего, что связано с ИИ, кажется вероятным в течение следующих нескольких лет. Циник может предсказать, что некоторые правила, регулирующие использование данных предприятиями, будут ослаблены.
ФТК? Он активно применял санкции за нарушение конфиденциальности данных (фактически в отношении некоторых компаний, упомянутых выше) и давал рекомендации по большим данным, но применять эти меры в каждом конкретном случае будет непростой задачей, поскольку ИИ использование увеличивается.
Текущий групповой иск в Иллинойсе против Facebook может пролить свет на то, как суды могут решать некоторые из этих вопросов, но также подчеркивает ограниченный и медленный характер судебного процесса. Дело основано на различных биометрических определениях, разработанных в 2008 году, и функции Facebook, запущенной в 2010 году. На дворе 2017 год, и системы распознавания лиц Facebook "значительно развились" (и, возможно, более непрозрачно) благодаря своей глубокой системы обучения.
И, как подчеркивает полемика по поводу европейской политики, такой как «право на забвение», существует тонкая, не слишком простая грань между защитой граждан и препятствием инновациям. Если и когда правительства начнут принимать законы, касающиеся ИИ и других передовых алгоритмов, им будет разумно учесть, как эти законы могут также повлиять на исследования и разработки, экономический результат и даже выгоды для потребителей.
Отрадно видеть, что некоторые компании и люди, получившие наибольшую выгоду от ИИ, активно действуют, чтобы установить некоторые ограничения, но эти организации не принимают законов. Задача превращения теории в эффективнуюполитику на национальном или даже международном уровне будет гораздо более крепким орешком.
