«Они надеются, что смогут это остановить, но не могут»
В конце прошлого года Amazon потратила 12000 долларов на лоббирование нового закона о распознавании лиц в Портленде, штат Орегон. Предлагаемый закон полностью запретит использование технологии государственными и частными организациями и поставит под угрозу ряд предприятий, которые продают и используют эту технологию в городе. (Открытые записи показывают, что с тех пор, как эта история была впервые опубликована, Amazon потратила дополнительно 12000 долларов на лоббирование, чтобы связаться и встретиться с персоналом городского совета Портленда по поводу запрета на распознавание лиц, в результате чего общее лоббирование по состоянию на сентябрь 2020 года составило 24000 долларов.)
«[Amazon] надеется, что они смогут это остановить, но не могут», - сказала OneZero комиссар городского совета Портленда Джо Энн Хардести, сторонница этого предложения.
Архивы публичных документов города показывают, что это первый раз, когда Amazon проводит лоббирование в городе. Компания надеется по крайней мере смягчить законодательство, которое готово ввести некоторые из самых жестких мер контроля над технологиями в Соединенных Штатах.
Новое законодательство не только предотвратит использование распознавания лиц государственными учреждениями и правоохранительными органами, но и остановит использование этой технологии частными организациями, такими как предприятия. И это даже запретит городским агентствам оценивать технологии распознавания лиц, в том числе системы, предоставляемые бесплатно.
«Если они не могут остановить это, они надеются смягчить язык, чтобы у них было больше места для маневра», - сказал Хардести. «И они тоже не смогут этого сделать».
В проекте постановления уже делаются определенные исключения для использования правительством. Например, это позволит использовать распознавание лиц, чтобы разблокировать телефон, отметить кого-либо в социальных сетях или скрыть лица на изображениях и видео. Остается неясным, как именно постановление будет применяться к частным организациям.
Первоначально город планировал провести голосование по постановлению к апрелю, но из-за блокировки Covid-19 голосование не ожидается как минимум до июня. В настоящее время, по словам городских властей, ни одно агентство Портленда, в том числе полицейское управление Портленда, не использует распознавание лиц или биометрические технологии. Если постановление будет одобрено, каждое городское бюро должно будет провести техническую оценку, чтобы убедиться, что это так.
В сентябре генеральный директор Amazon Джефф Безос заявил, что его команда по государственной политике разрабатывает собственное федеральное предложение по закону о распознавании лиц.
Amazon очень заинтересован в законодательстве о распознавании лиц. Система распознавания лиц Rekognition использует технологию глубокого обучения для анализа лиц и идентификации объектов и людей на изображениях и видео. На веб-сайте Amazon указано, что список клиентов Rekognition включает NFL и CBS; клиенты используют его для ряда целей, включая проверку личности и обнаружение лиц в видео для маркировки контента.
Rekognition в настоящее время используется офисом шерифа округа Вашингтон, расположенного к западу от округа Малтнома Портленда.
Компания стремится влиять на распознавание лиц на местном и федеральном уровне. В сентябре генеральный директор Amazon Джефф Безос заявил, что его команда по общественной политике разрабатывает собственное федеральное законодательное предложение по распознаванию лиц.
«Откровенно говоря, они обеспокоены своей чистой прибылью», - недавно сказал OneZero комиссар городского совета Хардести. Она подтвердила, что ее офис встретился с Amazon. «Они потеряют продажи, если не смогут продать оборудование, которое позволяет им собирать данные».
Записи Портлендского городского аудитора показывают, что лоббисты Amazon связались с сотрудниками офисов четырех комиссаров городского совета и мэрии в ноябре и встретились с тремя из них в декабре, и все они касались предложения по распознаванию лиц. Сотрудники города говорят, что Amazon хотела повлиять на формулировки проекта, в том числе на определение термина распознавание лиц. Ни компания, ни ее лоббисты из Oxley & Associates не ответили на запросы о дополнительной информации.
Ссылаясь на опасения по поводу инвазивного наблюдения и технических неточностей, все большее число городов США запрещают правительству и полиции использовать технологию распознавания лиц или рассматривают ограничения. Наряду с Сан-Франциско и Оклендом, муниципалитеты Массачусетса в Бруклине, Кембридже, Нортгемптоне, Сомервилле и Спрингфилде запретили местным органам власти использовать технологию распознавания лиц. Подобные законопроекты находятся на рассмотрении в Бостоне и Нью-Йорке.
Большинство акционеров Amazon хотят, чтобы компания продолжала продавать технологию. В прошлом году акционеры проголосовали против предложения ограничить продажи технологии распознавания лиц правительствам и оценить ее влияние на гражданские права и конфиденциальность.
Сторонники гражданских свобод обеспокоены тем, что широкое использование технологии распознавания лиц может привести к инвазивной слежке на уровне сообщества. ACLU назвал Amazon в иске, поданном в октябре прошлого года, в котором запрашивались общедоступные документы, связанные с использованием распознавания лиц и других биометрических технологий федеральными правоохранительными органами, которые можно было бы использовать для отслеживания, идентификации и мониторинга людей.
Некоторые системы распознавания лиц имеют технические недостатки, которые могут иметь серьезные последствия, в том числе тенденцию неверно определять темнокожие лица. Исследование, проведенное Национальным институтом стандартов и технологий в декабре, показало, что многие алгоритмы распознавания лиц в 10–100 раз чаще неточно идентифицируют черные или лица восточноазиатских лиц по сравнению с белыми лицами.
В исследовании 2018 года ACLU обнаружило, что Rekognition неправильно сопоставила 28 членов Конгресса с лицами людей, арестованных за преступления. Amazon заявила, что исследователям не удалось правильно откалибровать ее систему.
В Портленде, городе, который все еще борется с историей узаконенного расизма и красной черты, запрет на технологию, оказывающую негативное воздействие на цветных людей, может стать важным сигналом.
Законодательство будет соответствовать заявленному обязательству города по внедрению справедливой политики использования технологий и данных. В 2018 году Портленд установил рамки, отдавая приоритет рассмотрению наиболее маргинализированных и уязвимых сообществ при использовании технологий. В прошлом году Smart City PDX, городской консультативный орган, курирующий эти усилия, помог принять решение о конфиденциальности данных, в которое были включены темы справедливости и недискриминации. Эта же группа курировала разработку проекта запрета на распознавание лиц.
Трое из четырех уполномоченных городского совета выразили поддержку запрету. (Есть пять мест в городском совете, но одно пусто после смерти комиссара). Во время заседания рабочей группы по распознаванию лиц в январе, в которое входили группы по защите гражданских прав, правоохранительные органы и бизнес-ассоциации, мэр Портленда Тед Уиллер сказал, что город должен использовать только технологии, при этом в первую очередь в ходе разговора рассматриваются передовые сообщества.
Хардести, первая афроамериканка в городском совете Портленда, была более резкой в своих комментариях к OneZero. «Прямо сейчас вы не можете доверять технологии [распознавания лиц], если вы не белый человек. ," она сказала.
ACLU обнаружил в исследовании, что Rekognition неправильно сопоставил 28 членов Конгресса с лицами людей, арестованных за преступления.
Предлагаемый Портлендом запрет на распознавание лиц, потенциально первый, включающий частные предприятия, вызвал сопротивление лоббистов, работающих на некоторые из самых известных технологических компаний. В статье, опубликованной в январе 2020 года в The Oregonian, крупнейшей газете штата, Фонде информационных технологий и инноваций (ITIF) - аналитическом центре в Вашингтоне, округ Колумбия, члены правления которого лоббируют интересы Amazon, Apple и Microsoft - утверждала, что вместо того, чтобы применять подход« сначала запретить, а потом задавать вопросы , Портленду следует провести серию небольших пилотных испытаний технологии, чтобы оценить ее эффективность и влияние на конфиденциальность в различных условиях».
Вице-президент Amazon по общественной политике Шеннон Келлог входит в совет директоров ITIF.
Появилось немного подробностей относительно ожидаемого запрета на использование распознавания лиц в личных целях, и проект постановления по этому поводу еще не опубликован. Мониторинг соблюдения является камнем преткновения. Хардести предположил, что город может оштрафовать организации, не соблюдающие правила.
Технология распознавания лиц уже используется в Портленде. Например, клиенты, пытающиеся войти в три магазина Jacksons Food Stores в городе в нерабочее время, должны сначала пройти через систему распознавания лиц.
Прежде чем система откроет двери в магазины, она говорит потенциальным посетителям: «Пожалуйста, посмотрите в камеру, чтобы войти». Если чье-то лицо совпадает с базой данных магазина о нежелательных людях, двери остаются запертыми.
Ни Jacksons, ни компания Blue Line Software, занимающаяся разработкой систем распознавания лиц, не лоббировали законодательство Портленда. Но местные бизнес-группы выступили против запрета на использование в личных целях. Некоторые предполагают, что компании хотят использовать распознавание лиц в целях безопасности или для распознавания лояльных покупателей в своих магазинах.
На январской сессии совета представитель Portand Business Alliance предположил, что строгий запрет на распознавание лиц может послужить сигналом о том, что Портленд не гостеприимен для технологической индустрии.
Мэр Уилер ответил, что Портленд не борется с технологиями. Скорее, сказал он, город принимал активные меры по защите маргинализированных граждан от потенциального вреда, отчасти в качестве реакции на крупные технологические компании, которые сносили местные сообщества бульдозерами в отсутствие федеральных стандартов.
Хардести сказал, что городу пора «действовать решительно, поскольку мы переходим на другую сторону этой пандемии и начинаем восстанавливать процесс». Она добавила: «Одно беспокойство, которое мы можем отвлечь от людей, заключается в том, когда они занимаются своими повседневными делами, собирают ли люди данные о них, а затем продают их для целей, которые они не могут контролировать».
Обновление: Эта история была обновлена с учетом дополнительного лоббирования с момента первой публикации этой статьи.
