Написано совместно с Джейсоном Таши для Гарвардского центра Шоренштейна и Новой Америки.

Если искусственный интеллект обещает сделать системы умнее и эффективнее, лучшего кандидата, чем система уголовного правосудия США, быть не может. В любой день около полумиллиона человек, многие из которых в конечном итоге будут сняты с обвинений, сидят в тюрьме в ожидании суда, что оценивается в 14 миллиардов долларов в год для налогоплательщиков [1]. Каждый третий, или 74 миллиона взрослых в США, имеет судимость [2]. Однако большинство этих записей содержат ненасильственные проступки или обвинения, по которым так и не было вынесено обвинительного приговора [3, 4]. Для тех, кто отбывает срок, отказ от реабилитации является в этой стране нормой: чуть меньше ошеломляющих 77 процентов государственных заключенных повторно арестовываются в течение пяти лет после их освобождения [5].

Это бремя непропорционально ложится на цветные сообщества и бедняков. Афроамериканцы находятся в тюрьмах штатов в пять раз чаще, чем белые американцы [6]. Вероятность ареста чернокожих за преступления, связанные с употреблением марихуаны, в четыре раза выше, чем у белых, несмотря на одинаковые уровни употребления [7]. Денежный залог заключает людей в тюрьму в первую очередь из-за их неспособности купить свою свободу, а не из-за их риска для общества.

К счастью, политика «жесткой борьбы с преступностью» уступает место подходам «умной борьбы с преступностью». По всей стране усилия по реформированию денежного залога могли бы избежать значительной части человеческих и финансовых потерь — около 38 миллионов долларов в день — связанных с досудебным заключением, однако результаты неоднозначны [8–11]. В Грузии распространение судов по делам о наркотиках, психических расстройствах и ветеранских судах привело к снижению преступности и числа заключенных по всему штату, включая 36-процентное снижение числа заключенных среди молодежи [12]. Когда в Нью-Йорке прекратились остановки и обыски — полицейская практика временного задержания и обыска на улицах непропорционально большого количества чернокожих и коричневых людей — в 2013 году, количество зарегистрированных остановок сократилось с более чем 685 000 в 2011 году до 12 000 в 2016 году (падение на 98 процентов), а преступность продолжалась. снижаться [13].

Данные, автоматизация и культура экспериментирования могут еще больше ускорить реформы, сделав нашу систему уголовного правосудия умнее, справедливее и справедливее. Однако особое внимание необходимо уделить инфраструктуре, лежащей в основе каждой системы искусственного интеллекта: данным и их алгоритмам, людям, которые их используют, и подотчетности.

ИИ — это простая часть: нам нужны более качественные данные и политика в отношении данных, чтобы положить конец массовому заключению. Мы считаем, что это начинается с политиков, которым необходимо уделять больше внимания основополагающим вопросам сбора и стандартизации данных, включая обучающие данные для создания систем искусственного интеллекта. и обмен данными, а также надзор, необходимый для обеспечения того, чтобы автоматизированные процессы приносили желаемые результаты на практике, а не в теории. В нынешнем виде недостатки в этих областях уже создают проблемы в трех основных областях: досудебная оценка рисков, повторный вход и второй шанс.

Досудебная оценка рисков

По всей стране суды используют профильные инструменты оценки рисков для принятия решений о предварительном заключении. Инструменты основаны на агрегированных данных о прошлых ответчиках для выявления факторов, коррелирующих с совершением последующего преступления или пропуском даты судебного разбирательства. Они используются для оценки лиц и прогнозирования необходимости предварительного заключения.

Каждый инструмент оценки риска, доступный на рынке, зависит от различных факторов. Инструмент оценки общественной безопасности (PSA), разработанный Фондом Лауры и Джона Арнольдов и развернутый в более чем 40 юрисдикциях, использует девять факторов, включая судимости в прошлом и возраст обвиняемого на момент ареста, для определения подсчета очков [14]. Программное обеспечение Equivant COMPAS Classification использует шесть факторов для оценки риска и более 100 факторов для проведения оценки потребностей, которая определяет, в каких услугах нуждается человек [15, 16]. Несмотря на их различия, поскольку эти инструменты основаны на исторических данных, они подвергаются реальному риску усиления прошлой практики, которая привела к массовому лишению свободы, например чрезмерному заключению под стражу бедных и представителей меньшинств [17]. COMPAS и PSA были обжалованы в суде, пока безуспешно, в отношении их точности, прозрачности или влияния на права ответчика на надлежащую правовую процедуру.

Уменьшение рецидивизма на основе данных

Аналогичные опасения вызывает применение основанных на доказательствах инструментов на противоположном конце тюремного цикла, воздействующего на 640 000 заключенных, которые ежегодно возвращаются в общество. Президент поддержал Закон о первом шаге, сделал возвращение в тюрьму приоритетом и способствовал основанному на доказательствах сокращению рецидивизма в федеральной пенитенциарной системе [18–20].

Но для создания успешных программ, основанных на данных, необходимо укрепить базовые данные уголовного правосудия, которые, как известно, беспорядочны и разрознены. Согласно недавнему отчету Совета экономических консультантов Белого дома, необходимы инвестиции в более качественные доказательства и инструменты оценки, а также тщательно разработанные эмпирические оценки, чтобы определить, что работает, а что нет, чтобы закрыть вращающиеся двери тюрьмы [21]. Закон потребует от Министерства юстиции внедрить систему оценки рисков и потребностей, чтобы определить, как назначать программы и предоставлять стимулы и вознаграждения заключенным. Но остаются опасения, что, поскольку инструмент, скорее всего, будет создан с использованием исторических данных и будет применяться по усмотрению генерального прокурора (хотя и при участии независимого контрольного комитета), он может усилить существующие расовые и другие предубеждения.

Второй шанс

Также в сфере повторного въезда по всей стране были проведены волны реформ «второго шанса». Эти правила расширяют права людей на досрочное освобождение, освобождают их от судимостей или помогают им восстановить право голоса. Но в то время как большое внимание уделяется растущей доступности возможностей второго шанса, меньше известно об их использовании и влиянии.

Недавнее исследование, проведенное одним из нас, определяет и документирует «разрыв второго шанса» между правом на получение второго шанса и предоставлением права на получение второго шанса — в форме повторного вынесения приговора, очистки записей и повторного предоставления избирательных прав [22]. Выяснилось, что, хотя десятки миллионов американцев могли очистить свои записи, это удалось сделать лишь небольшой части из них, оставляя позади нижнюю оценку в 25–30 миллионов человек, живущих с документами, которые можно было бы очистить в соответствии с действующим законодательством, и ущерб, причиненный жизнь с судимостью, на работу, жилье и множество других перспектив, уменьшились. Большое количество лиц, находящихся в дефиците, связано с целым рядом причин, включая неосведомленность о правах, непомерно высокие расходы, штрафы и сборы, а также громоздкие процессы подачи заявок. Потенциальные выгоды от устранения этого «разрыва во втором шансе», включая снижение расходов на содержание под стражей, восстановление достоинства среди бывших заключенных, общественную безопасность и занятость, слишком ценны, чтобы их игнорировать. Автоматизация машин может помочь устранить бюрократическую волокиту, а не стальные прутья, которые сдерживают людей, как это было продемонстрировано в Калифорнии, Мэриленде и Пенсильвании [23–25]. Дьявол, как обычно, в данных и деталях конструкции — с досягаемостью клиренса и его стоимостью — от копеек до тысяч — в зависимости от того, как он реализован [26].

Общим для всех трех контекстов — досудебного задержания, рецидивизма и второго шанса — является то, что количество потенциальных улучшений и ответственность за их осуществление зависят от качества исходных данных и используемых алгоритмов, а также от доступа к полученному результату. данные.

Машинная автоматизация и машинное обучение требуют машиночитаемых, структурированных и, в случае контролируемого обучения, помеченных данных. Алгоритмы, полученные на основе этих данных, необходимо оценить и сравнить с точки зрения их производительности. После развертывания новые вмешательства и их воздействие должны быть подтверждены. Эти шаги, каждый из которых по-своему сложен, могут произойти. Активное внимание к жизненно важным вопросам сбора данных, обмена ими и контроля повысит вероятность того, что они это сделают.

Сбор данных и стандартизация

Несмотря на прогресс, достигнутый в последние годы, данные о системе уголовного правосудия, как известно, остаются запутанными, сложными и труднодоступными в стандартизированных форматах. Информация часто скрыта в хранилищах общедоступных и частных данных и бумажных файлах, а также в документах по трудоустройству, тюрьмах и судебных заседаниях. В результате получение разрешения на сбор и очистку данных из разрозненных источников отнимает непропорционально много времени, часто делая его недоступным для тех самых реформаторов, которые пытаются разработать и проверить новые идеи и изучить последствия их внедрения.

Уделяя внимание сбору и стандартизации данных с самого начала, можно избежать дефицита данных. Новый закон Флориды указывает один путь [27]. Он требует, чтобы округа публично публиковали на 25% больше данных, чем в настоящее время, в общедоступную базу данных, обеспечивая централизованный процесс регулярного сбора, компиляции и управления данными о лицах, процессах и результатах в системе уголовного правосудия [28]. . В этом случае все данные должны быть представлены в пригодной для использования (машиночитаемой, дезагрегированной, обеспечивающей конфиденциальность) форме с единым уникальным идентификатором для информации, собранной о человеке в органах уголовного правосудия, таких как суды, исправительные учреждения и полиция. Результат должен поддерживать инновации и разработку, внедрение и уточнение политики на уровне сообщества, а также, в процессе, подотчетность и доверие.

Обучение и тестирование данных и обмен данными

После сбора системных данных необходимо потратить дополнительное время на их подготовку к исследованию. Как сказал Фей Фей Ли: «Неблагодарная работа по созданию набора данных лежит в основе исследований ИИ. [29]» Учебный набор данных Imagenet, который Ли помог создать и поделиться с миром, стал основой для обеспечения и измерения достижений в распознавании изображений [30]. Такие наборы данных можно использовать для «обучения» программного обеспечения распознаванию и правильной маркировке изображений, а также в качестве «теста» или эталона для оценки относительной точности различных алгоритмов искусственного интеллекта.

Обмен данными об уголовном правосудии, будь то в форме помеченного обучения, наборов данных о задержке или других средств, ускорит прогресс. Готовые к исследованию данные должны иметь приоритет с самого начала, а специальные интерфейсы уже разработаны для использования как компьютерами, так и людьми, чтобы облегчить безопасный обмен данными с соблюдением конфиденциальности.

Алгоритмический контроль

Содействуя сбору и обмену данными, федеральные и местные органы власти также должны серьезно относиться к надзору за ИИ. Существует проблема прозрачности в отношении существующих инструментов, которая находится в прямом противоречии с открытым и прозрачным судебным процессом. Например, COMPAS отказывается обнародовать детали своего алгоритма, и ни COMPAS, ни PSA публично не обнародовали свои обучающие данные, хотя при этом могут возникнуть противоречия с защитой конфиденциальности. После того, как система была внедрена, также трудно провести аудит системы, чтобы узнать, работает ли она так, как предполагалось.

Но вместо того, чтобы принимать решения в каждом конкретном случае, следует проводить упреждающую политику, поддерживающую общественное доверие и хорошую науку. Нью-Йорк принял закон об изучении вопроса прозрачности алгоритмов, используемых правительствами. Однако в целом Соединенные Штаты отстают в данных и алгоритмическом регулировании. Отсутствие прозрачности и надзора снижает потенциал инструмента для улучшения и влечет за собой ответственность за сокращение надлежащей правовой процедуры ответчика.

Хотя юрисдикции, будь то местные, общегосударственные или национальные, скорее всего, будут продвигать стандарты, адаптированные к их индивидуальным потребностям, следует помнить об основных принципах управления данными. Поставщики инструментов должны раскрывать свои входные данные и процессы, а агентства и суды должны объяснять, как они используют инструменты и как они работают. Конечно, не каждый должен иметь доступ ко всем данным и соответствующим алгоритмам — это может подорвать конфиденциальность, стимулировать игру и препятствовать инновациям, — но доступ должен быть достаточно надежным, чтобы обеспечить подотчетность, способствовать научному пониманию и повторению, а также завоевать общественное доверие.

Искусственный интеллект обладает огромным потенциалом, чтобы переломить ситуацию с массовыми лишениями свободы в США. Однако это будет не так просто, как использовать правильный инструмент или найти правильный набор данных. Если реформаторы системы уголовного правосудия и политики серьезно настроены на создание более разумной системы уголовного правосудия, частично усиленной искусственным интеллектом, они должны уделить первоочередное внимание созданию умной и прочной основы, основанной на достоверных данных и надежной политике в отношении данных, на которой она будет поддерживаться.

Ссылки

  1. Институт предварительного следствия. Досудебное правосудие: сколько это стоит? Вашингтон, округ Колумбия (2017 г.) доступно по адресу https://university.pretrial.org/HigherLogic/System/DownloadDocumentFile.ashx?DocumentFileKey=4c666992-0b1b-632a-13cb-b4ddc66fadcd&forceDialog=0
  2. Ежемесячный информационный бюллетень по идентификации нового поколения (NGI) (2016 г.), доступен по адресу https://www.fbi.gov/file-repository/ngi-monthly-fact-sheet/view.
  3. Александра Натапофф, Проступки, 85 Southern California Law Review 101 (2012); Доклад Лойолы-Л.А. по юридическим исследованиям № 2012–08. https://ssrn.com/abstract=2010826
  4. Гэри Филдс и Джон Р. Эмшвиллер, Поскольку количество арестов растет, американцы обнаруживают, что последствия могут длиться всю жизнь, The Wall Street Journal, 18 августа 2014 г. https://www.wsj.com/articles/as-arrest-records -Восстание-американцы-находят-последствия-могут длиться всю жизнь-1408415402
  5. Мэтью Р. Дюроз, Алексия Д. Купер и Ховард Н. Снайдер, «Рецидивизм заключенных, освобожденных в 30 штатах в 2005 г.: закономерности с 2005 по 2010 г.», Специальный отчет Статистического бюро юстиции, (2014 г.)
  6. Эшли Неллис, Цвет правосудия: расовое и этническое неравенство в государственных тюрьмах, проект Приговор (2016 г.), доступно по адресу https://www.sentencingproject.org/publications/color-of-justice-racial-and-ethnic. -неравенство-в-государственных-тюрьмах/#II.%20Общие%20Результаты»
  7. Американский союз гражданских свобод (ACLU) Аресты марихуаны в цифрах, доступно на https://www.aclu.org/gallery/marijuana-arrests-numbers
  8. Уди Офер Мы не можем положить конец массовому тюремному заключению, не отменив денежный залог, 11 декабря 2017 г. https://www.aclu.org/blog/smart-justice/we-cant-end-mass-incarceration-without-ending -деньги-залог
  9. Институт предварительного следствия. Досудебное правосудие: сколько это стоит?, Вашингтон, округ Колумбия (2017 г.), доступно по адресу https://university.pretrial.org/HigherLogic/System/DownloadDocumentFile.ashx?DocumentFileKey=4c666992-0b1b-632a-13cb-b4ddc66fadcd&forceDialog =0
  10. Меган Стивенсон и Дженнифер Долеак, Преграда на пути к реформе, Американское конституционное общество (2018 г.), доступно по адресу https://www.acslaw.org/wp-content/uploads/2018/11/RoadblockToReformReport.pdf.
  11. Джейсон Таши, «Борьба с залогом: индустрия залога сопротивляется реформам, которые угрожают ее средствам к существованию», ABA Journal (2018)
  12. Ассошиэйтед Пресс, Главный судья Джорджии приветствует успех реформы уголовного правосудия, Сиэтл Таймс, 22 февраля 2018 г. успех/"
  13. Эл Бейкер, Полицейские оценки должны быть сосредоточены на законности остановок, говорит монитор, New York Times, 20 октября 2017 г. https://www.nytimes.com/2017/10/20/nyregion/new-york-police-evaluations -stops-monitor.html
  14. Фонд Лауры и Джона Арнольда, Оценка общественной безопасности: инструмент риска, который способствует безопасности, равенству и справедливости, (2017 г.) http://www.arnoldfoundation.org/public-safety-assessment-risk-tool-promotes- безопасность-справедливость-справедливость/
  15. Программное обеспечение COMPAS Classification, http://www.equivant.com/solutions/inmate-classification
  16. Equivant, Официальный ответ на научные достижения, 17 января 2018 г. http://www.equivant.com/blog/official-response-to-science-advances
  17. Джон Кёпке и Дэвид Робинсон, «Впереди опасность: оценка рисков и будущее реформы залога», Washington Law Review, готовится к публикации (2018 г.).
  18. Комитет по судебным органам, Закон о первом шаге, доступно по адресу https://www.judiciary.senate.gov/imo/media/doc/S.%203649%20-%20First%20Step%20Act%20Section-by -Раздел.pdf
  19. CJ Ciaramella, Трамп говорит в SOTU, что администрация будет проводить тюремные реформы, Reason, 30 января 2018 г. http://reason.com/blog/2018/01/30/trump-says-in-state-of-the- союз-речь
  20. Закон и справедливость, Президент Дональд Трамп поддерживает законодательные меры по сокращению рецидивизма в нашей пенитенциарной системе, 18 мая 2018 г. https://www.whitehouse.gov/briefings-statements/president-donald-j-trump-supports. -законодательные-действия-уменьшить-рецидив-тюремную-систему/»
  21. Закон и правосудие, Отчет CEA: окупаемость инвестиций в программы по снижению рецидивизма, 18 мая 2018 г. https://www.whitehouse.gov/briefings-statements/cea-report-returns-investments-recidivism-reduction-programs /
  22. Коллин Чиен, Второй шанс, Университет Санта-Клары. Исследовательский документ по юридическим исследованиям (2018 г.). Доступно на SSRN: https://ssrn.com/abstract=3265335 или http://dx.doi.org/10.2139/ssrn.3265335
  23. Джейсон Таши, «Окружной прокурор Сан-Франциско использует алгоритм для помощи в удалении марихуаны», ABA Journal (2018)
  24. Nation, Вот почему многие американцы не очищают свои судимости, PBS Socal, 8 января 2016 г. https://www.pbs.org/newshour/nation/heres-why-many-americans-dont-clear-their- судимости
  25. JD Prose, Пенсильвания становится первым штатом, принявшим закон о ненасильственных преступлениях с чистого листа, The Times, 28 июня 2018 г., http://www.timesonline.com/news/20180628/pennsylvania-becomes-first-state- с-чистым листом-законом-для-ненасильственных-уголовных-записей
  26. Коллин Чиен, Презентация на семинаре «Использование технологий для закрытия «второго шанса», Центр американского прогресса, 16 ноября 2018 г., доступно по адресу https://docs.google.com/presentation/d/1xuRvppY3ZhoyDdpXYP3pupOweBYVguWALypRA95UU9w/ редактировать#слайд=id.g46f7e70723_0_0
  27. Законопроект Сената Флориды 1392 (2018 г.), доступен по адресу http://src.bna.com/xwk.
  28. Исси Лаповски, Флорида может начать революцию данных в области уголовного правосудия, Wired, 13 марта 2018 г., доступно по адресу https://www.wired.com/story/florida-criminal-justice-data-sharing/
  29. Дэйв Гершгорн, Дело не в алгоритме: данные, которые изменили исследования ИИ — и, возможно, мир, Quartz, 26 июля 2017 г., доступно по адресу https://qz.com/1034972/the-data-that-changed- направление-ИИ-исследований-и-возможно-мира/
  30. ImageNet, http://www.image-net.org

Первоначально опубликовано на сайте ai.shorensteincenter.org 10 декабря 2018 г.