Могут ли несовершенные алгоритмы помочь устранить системное неравенство в системе уголовного правосудия? Трое исследователей недавно обратились к New York Times, чтобы возразить, по сути, да.
Я восхищаюсь их работой и в принципе согласен с тем, что при определенных обстоятельствах инструменты прогнозирования, которые сталкиваются со значительными ограничениями, тем не менее могут играть незамедлительную роль в снижении вреда в зале суда, особенно при освобождении под залог. Но меня беспокоит, что их эссе может оставить у некоторых читателей ошибочные представления о том, как досудебная оценка рисков работает сегодня. Проблемы намного сложнее, чем может представить себе случайный читатель их эссе.
В частности, я хочу более подробно рассмотреть три критических вопроса: насколько хорошо досудебная оценка риска работает на практике, что на самом деле измеряют инструменты и как инструменты связаны с решениями, влияющими на формирование жизни. реформаторы волнуют больше всего?
1. Ранние данные об использовании досудебной оценки рисков на практике неоднозначны, в лучшем случае.
Авторы утверждают, что реализация алгоритма оценки риска «часто дает немедленные и ощутимые выгоды: например, количество заключенных может уменьшаться без ущерба для общественной безопасности».
На сегодняшний день Меган Стивенсон провела самое тщательное исследование воздействия досудебной оценки рисков на получившие признание реформы системы освобождения под залог в Кентукки. Стивенсон обнаружил, что введение досудебной оценки рисков на слушаниях по делу об освобождении под залог в Кентукки не существенно увеличило долю обвиняемых, освобожденных до суда.
Авторы также указывают на часто цитируемую историю успеха штата Нью-Джерси, где они утверждают, что алгоритмические инструменты ... способствовали 16-процентному сокращению числа заключенных в следственные изоляторы, опять же без роста преступности. Новый алгоритм, возможно, действительно внес свой вклад, но количество заключенных в СИЗО в Нью-Джерси уже уменьшалось даже до того, как было развернуто новое программное обеспечение. Например, с 30 июня 2015 года по 1 января 2017 года количество неосужденных до суда в Нью-Джерси уменьшилось на 19 процентов.
Подобные истории - где была введена оценка рисков, но количество досудебных тюрем уже сокращалось до ее внедрения - можно рассказать в Сан-Франциско, Калифорния, и Мекленбург Каунти, Северная Каролина.
Кроме того, простой акт предоставления судье алгоритмически полученной оценки сам по себе не борется с судебным произволом. Напротив, первые свидетельства указывают на высокий уровень судебных отклонений, когда судьи отклоняются от рекомендаций инструмента оценки рисков. Например, в отчете шерифа округа Кук обнаружено, что судьи отклонялись от рекомендаций своего инструмента оценки рисков более чем в 80% случаев. Исследование Стивенсона в Кентукки также показало, что судьи чаще отклоняются от рекомендаций своей системы оценки рисков.
Не случайны и отклонения судей: рекомендации о задержании обычно соблюдаются, а рекомендации об освобождении часто игнорируются. Возьмем, к примеру, Санта-Крус, Калифорния. Там судьи отклонялись от рекомендаций об освобождении чуть более чем в половине случаев (53 процента), но отклонялись от рекомендаций задерживать только в 16 процентах случаев.
Оценка рисков может оказаться силой обезглавливания. Но ранние доказательства, которые у нас есть, неоднозначны, в лучшем случае. Как отметили исследователи, более совершенные алгоритмы могут помочь «противостоять предвзятости и непоследовательности человеческих суждений без посторонней помощи». Но, опять же, у нас мало доказательств того, что сегодня это верно в отношении решений об освобождении под залог.
2. Измерение важно, но не всегда ясно, что мы измеряем.
«Во-первых, измерение имеет значение»
Я не мог с этим согласиться. Учитывая, что залог всегда был предсказанием, важно критически изучить, что мы просим предсказывать судьи. Как объясняют авторы, просто арест за преступление «не то же самое, что совершить это преступление».
Но в настоящий момент было бы слишком великодушно сказать, как это делают авторы, что многие юрисдикции - хотя и не все - решили сосредоточить внимание на вероятности ареста обвиняемого в связи с насильственным преступлением. . Безусловно, верно, что в 1970-х и 1980-х годах законы об освобождении под залог по всей стране были переписаны, чтобы судьи предсказывали, представляет ли арестованный опасность для общества. Но я не думаю, что будет достаточно точным утверждать, что когда дело доходит до досудебной оценки рисков и принятия решений сегодня, юрисдикции сосредоточены на насилии.
Фактически, как наблюдали другие, большинство современных инструментов оценки рисков дают единую сводную оценку, которая объединяет риск того, что обвиняемый (1) не явится и (2) будет повторно арестован при освобождении. Это означает, что если вы судья, то оценка, которую вы видите, говорит о вероятности любого события, а не только о конкретной вероятности совершения насильственного преступления в будущем. Даже для наиболее широко используемого инструмента досудебной оценки рисков - Оценки общественной безопасности Фонда Арнольда - неясно, его уделяется внимание насильственным преступлениям. Три показателя результата инструмента - это неявка, новая преступная деятельность и новая насильственная преступная деятельность, но в большинстве случаев, которые мы видели, это повторный арест инструмента и неявка прогнозов (а не прогнозов насилия), которые юрисдикции используют для разработки их советы судьям.
И хотя авторы осторожно относятся к данным об арестах, они должны (но не относятся) так же скептически относиться к непредоставлению данных. Они пишут, что «акт пропуска судебного разбирательства можно прекрасно наблюдать, что исключает возможность предвзятого измерения поведения».
Технически это правда. Мы прекрасно можем наблюдать, кто явится на судебное заседание, а кто не явится. Но общая проблема с пониманием неявки данных состоит в том, что существует большая разница между случайным пропуском даты суда и преднамеренным бегством из-под юрисдикции. Кто-то мог не явиться на заседание суда, потому что у него не было достаточно денег на транспорт, юрисдикция никогда не напоминала дату суда, не могла организовать присмотр за детьми, не могла позволить себе отпуск на работе или много других приземленных причин. Некоторые могут даже не явиться, потому что власти округа указали им неправильную дату появления, как это происходит в округе Харрис.
Так же, как важно помнить о том, что означает повторный арест, а что не означает, также важно помнить о том, что неявка означает, а что не означает.
3. Алгоритмы оценки рисков просто предоставляют цифры - что мы будем делать с этими цифрами, зависит от нас.
Если юрисдикция решит сконцентрировать свою систему освобождения под залог на досудебной системе оценки рисков, им придется ответить на следующий вопрос: «Какой риск должно терпеть наше сообщество?» Такой ответ более чем вероятен переводятся в нечто, называемое рамкой принятия решений, которая выглядит примерно так:
По сути, эти рамки рекомендуют действия судьи на основе оценки риска. Важный вывод заключается в том, что независимо от того, насколько хорошо спроектирован или хорошо проверен прогноз, инструмент просто выдаст число. Это число нужно будет преобразовать в какую-то рекомендацию для судьи. Если системы досудебной оценки рисков призваны способствовать лишению свободы и сокращению количества произвольных судебных решений, именно здесь политики могут заставить это произойти.
Конечно, эти рекомендации по решению могут измениться - либо в пользу большего выпуска, менее выпуска, либо выпуска с дополнительными условиями - в результате политических ветров. Например, генеральный прокурор Нью-Джерси недавно изменил свое руководство, так что даже более низкие оценки риска могут вызвать презумпцию предварительного заключения.
Авторы справедливо отмечают, что алгоритмы не являются заменой разумной политики, которая по своей сути требует человеческого, а не алгоритмического выбора. Это правда, но я бы хотел, чтобы они не упустили возможность подчеркнуть важность этого человеческого выбора. Как недавно заметил мой коллега Дэвид Робинсон, [f] во всех наших дебатах по поводу исходных цифр, получаемых с помощью этих инструментов управления рисками, очень мало публичных дебатов (или даже широкой общественности) о фреймворках, которые на самом деле являются резина чисел риска встречает путь фактических рекомендаций, что делать для человека .
Заключение
В целом, я согласен со значительной частью того, за что отстаивают авторы. Мы должны быть осторожны при построении алгоритмов оценки риска и быть ясными как в выборе критериев результата, так и в нашем знании того, что эти меры представляют.
Но в то время как их анализ того, как лучше всего разрабатывать алгоритмы, является тщательным и беспристрастным, их описание того, как инструменты досудебной оценки риска работают сегодня, слишком оптимистично по сравнению с доказательствами, которые у нас есть до сих пор. Эти инструменты могут быть средством обезвреживания и судебной законности, но нет никакой гарантии, что это произойдет.
