Мы запустили проект на стыке машинного обучения и прав человека. Atlas Lab - это платформа, которая помогает юристам лучше понять, как машинное обучение и алгоритмическое принятие решений пересекаются с правами человека. Вот почему вам должно быть не все равно.
Технология - это не просто отрасль; это инструмент, который изменил каждую отрасль. Что это на самом деле означает для нашего отношения к технологии как к людям, которые ее создают ?
Сделаем шаг назад. Все инструменты получают свое значение из контекста, в котором они используются. Если вы строите дом, вам понадобится молоток. Непросто представить себе строительство дома без него. Однако предположим, что ваша цель - придать зеркалу круглую форму. В этом случае молоток не только бесполезен, но и имеет разрушительные последствия.
Конечно, молоток - это упрощенная аналогия. Это не касается реальной власти, которой обладают технологии. Возможный ущерб, который может нанести молот, ограничен его мощностью, масштабом и использованием. Применяя это понимание к технологиям, давайте теперь зададимся вопросом: в каком контексте существуют все технологии?
Технологии существуют в социальном и политическом контексте, от которого их невозможно отделить по существу.
Люди за пределами технологического пузыря придерживаются совершенно неверного предположения, что принятие решений машиной - это высший разум, свободный от предубеждений. Однако реальность такова, что предвзятые люди не создают нейтральные технологии. Системы угнетения и подпитывающие их анти-чернокожие, расизм и колониализм не исчезают, когда технологии разрабатываются, разрабатываются и внедряются.
Отношение человечества к свободе воли началось с выполнения воли божественного существа к сдвигу, когда многие люди обрели силу в принятии своих собственных решений. Сегодня происходит еще один сдвиг - на этот раз в алгоритмы.
Поначалу идея перехода от принятия решений людьми к машинам казалась привлекательной. Однако мы снова и снова убеждаемся в том, что машинное принятие решений не является нейтральным и по своей сути предвзято.
Законодательство не успевает за быстрым развитием технологий. Законодатели пытаются понять, как работают технологии машинного обучения и какие проблемы необходимо решать. Бездействие отражает не столько отсутствие воли, сколько отсутствие обмена знаниями между отраслями.
Как машины принимают решения - это вопрос прав человека. По этой причине мы запускаем Atlas Lab - попытку восполнить этот пробел в знаниях, обучая и объединяя юристов, работающих на переднем крае судебных разбирательств в области искусственного интеллекта и прав человека.
В рамках восполнения этого пробела в знаниях у Атлас Лаб есть ресурсы и для технологов. Мы публикуем статьи с разъяснениями о судебном процессе, праве прав человека и небольшую коллекцию резюме судебных решений на пересечении этих двух миров.
В ближайшие месяцы, помимо деятельности DFF и Mozilla, я буду организовывать серию мероприятий, посвященную историям тех, на кого в ближайшие месяцы повлияло алгоритмическое принятие решений. Сериал будет вращаться вокруг системы уголовного правосудия, иммиграционных агентств и служб защиты детей. Чтобы оставаться в курсе, RSVP на серию мероприятий в Atlas Lab и следите за новостями в Twitter и LinkedIn! Пожалуйста, свяжитесь со мной по адресу [email protected], если вы заметите что-то неправильное или пропущенное в наших пояснениях.
