Иллюстрацияиз журнала Университета Торонто
Автор Холли Збирски
Ни для кого не секрет, что наш мир стремительно автоматизирует процессы, ранее выполнявшиеся людьми. Ни для кого не секрет, что алгоритмы, лежащие в основе этих автоматизаций, «подвержены широкому спектру недостатков, от предвзятости программирования до ошибочных наборов данных, которые могут усиливать более широкую дискриминацию в обществе, особенно в отношении женщин и цветных людей» (пресс-релиз Wyden). Ранее в этом месяце группа членов Конгресса США представила в Палату представителей законопроект под названием «Акт об алгоритмической ответственности», который требует от компаний оценивать воздействие своих алгоритмов для защиты американского народа от вреда. Это знаковый законопроект, который может значительно помочь повысить прозрачность отношений между компаниями и потребителями, а также контроль над программным обеспечением, алгоритмами и другими автоматизированными системами, которые ежедневно используются для принятия важных решений. Если закон будет принят, «крупные компании больше не смогут закрывать глаза на пагубное воздействие своих автоматизированных систем, намеренно или нет», по словам представителя Иветт Д. Кларк (штат Нью-Йорк).
Предыстория + важность
«Когда алгоритмы определяют, кто пойдет в колледж, кто получит медицинскую помощь, кто получит дом и даже кто попадет в тюрьму, алгоритмическая дискриминация должна рассматриваться как очень важная проблема». — Представитель США Иветт Кларк
Очень похожий законопроект был внесен в Палату представителей в 2019 году, но так и не был принят. Поскольку эта проблема никуда не исчезла, представитель Кларк и сенаторы Кори Букер (штат Нью-Джерси) и Рон Уайден (штат Техас) тесно сотрудничали с экспертами, чтобы улучшить предыдущую версию, сделав ее более конкретной и всеобъемлющей. Внесение этого законопроекта — огромное достижение, поскольку оно демонстрирует, что политики осознают социальное влияние предвзятости алгоритмов и делают шаги к алгоритмическим стандартам справедливости.
Алгоритмы все чаще используются для очень важных процессов принятия решений, таких как поступление в колледж, страховое покрытие, покупка жилья и уголовное правосудие, поэтому любые предубеждения или предубеждения внутри них могут иметь разрушительные последствия. Тем не менее, поскольку теперь без Закона об алгоритмической ответственности компании не могут нести ответственность за дискриминацию, вызванную их алгоритмами. Как признает сенатор Мэйзи Хороно (D-H.I.), соавтор законопроекта: «Дискриминацию и предвзятость нельзя оставлять без внимания только потому, что решение принимается автоматизированной системой и ошибочным алгоритмом». Вице-президент организации по защите гражданских прав Color of Change Ариша Хэтч отмечает, насколько важным было бы принятие этого закона, говоря, что он «эффективно защитит чернокожих от автоматизированной дискриминации» и «предоставит FTC [Федеральной торговой комиссии] ресурсы, необходимые для обеспечения соблюдения этих мер защиты и создания более справедливого цифрового пространства».
Основные положения законопроекта📜
В частности, Закон об алгоритмической подотчетности реализует «положения, требующие от компаний проводить [внутреннюю] оценку воздействия» любых автоматизированных систем принятия решений, влияющих на жизнь потребителей (раздел за разделом). FTC будет ожидать сводных отчетов по каждой из этих оценок, чтобы возложить на них ответственность за смягчение или устранение любых возможных негативных воздействий, которые они обнаруживают. Цель здесь, очевидно, состоит в том, чтобы заставить компании задуматься о потенциальных последствиях их автоматизации, прежде чем внедрять их и позволять им причинять реальный вред.
Законопроект также предлагает создать новое бюро FTC под названием Технологическое бюро, которое будет «управляться главным технологом и укомплектовано 50 новыми экспертами с целью оказания помощи и консультирования FTC по технологическим аспектам всех процессов». его функции» (Раздел за Разделом). FTC также будет предоставлено право назначить 25 дополнительных сотрудников в отдел правоприменения, чтобы следить за выполнением новых обязанностей Комиссии.
Чтобы информировать потребителей о влиянии автоматизации, Федеральная торговая комиссия должна будет публиковать ежегодный отчет, в котором суммируются тенденции и уроки, извлеченные из оценок воздействия в течение года. Эти отчеты будут компилироваться в общедоступном хранилище информации, которое они также должны создать. Это позволит потребителям получить доступ к ключевой информации, которую FTC собрала, и обеспечить прозрачность для американского народа.
Алгоритмическая ответственность за правосудие⚖️
Закон об алгоритмической подотчетности символизирует, что Соединенные Штаты находятся на пути к «продвижению расовой справедливости в техническом регулировании» (пресс-релиз Wyden). Чрезвычайно важно бороться с алгоритмической предвзятостью и дискриминацией, и предлагаемые правила в этом законопроекте очень помогут, предоставив правительству полномочия привлекать компании к ответственности за такие правонарушения.
«Мы должны сделать так, чтобы наши технологии 21 века стали инструментами расширения прав и возможностей, а не маргинализации и изоляции». — Представитель США Иветт Кларк
Источники:
Закон об алгоритмической подотчетности от 2022 года.
Закон об алгоритмической подотчетности от 2022 г. по разделам: https://www.wyden.senate.gov/imo/media/doc/2022-02-03%20Algorithmic%20Accountability%20of%202022%20Section-by-section% 20(SxS).pdf
Пресс-релиз Booker: https://www.booker.senate.gov/news/press/booker-wyden-clarke-introduce-bill-requiring-companies-to-target-bias-in-corporate-algorithms
Законопроект 2019 г.: https://www.congress.gov/bill/116th-congress/house-bill/2231/actions
Законопроект 2022 года: https://www.congress.gov/bill/117th-congress/house-bill/6580?s=1&r=7
