MIL OSI Перевод. Регион: США – Анализ разговоров – Алгоритм является центральным элементом одной из программ реформы уголовного правосудия, но должен ли он быть вне расовой слепоты? the_burtons/Момент через Getty Images
Предполагается справедливость быть «слепым». Но всегда ли расовая слепота — лучший способ добиться расового равенства? Алгоритм, предсказывающий рецидивизм среди заключенных, подчеркивает эти дебаты.
Инструмент оценки риска является центральным элементом Акт первого шага, который Конгресс принял в 2018 году при значительной двухпартийной поддержке, и призван сократить некоторые уголовные сроки и улучшить условия в тюрьмах. Помимо других изменений, он награждает федеральных заключенных досрочным освобождением, если они участвуют в программах, направленных на снижение риска повторного совершения преступления. Потенциальные кандидаты, имеющие право на досрочное освобождение, определяются с помощью Инструмент оценки заключенных, ориентированный на предполагаемый риск и потребностипод названием PATTERN, который оценивает риск совершения преступления заключенным после освобождения.
Сторонники отпраздновали Акт первого шага как шаг к реформе уголовного правосудия, которая обеспечивает четкий путь к сокращению числа заключенных, состоящих из ненасильственных правонарушителей с низким уровнем риска, при сохранении общественной безопасности.
Но обзор системы PATTERN опубликованный Министерством юстиции в декабре 2021 года, обнаружил, что PATTERN завышает прогноз рецидивизма среди заключенных из числа меньшинств на 2–8% по сравнению с белыми заключенными. Критики опасаются, что PATTERN усиление расовых предубеждений которые уже давно преследуют тюремную систему США.
Как специалисты по этике кто исследует использование алгоритмы в системе уголовного правосудия, мы тратим много времени на размышления о том, как избежать повторения расовых предубеждений с помощью новых технологий. Мы стремимся понять, можно ли сделать такие системы, как ОБРАЗЕЦ, расово справедливыми, продолжая при этом выполнять свою функцию. для чего они были разработаны: сократить количество заключенных при сохранении общественной безопасности.
Чтобы сделать PATTERN одинаково точным для всех заключенных, может потребоваться, чтобы алгоритм учитывал расу заключенных, что может показаться нелогичным. Другими словами, для достижения справедливых результатов в отношении расовых групп может потребоваться больше внимания к расе, а не меньше: кажущийся парадокс, который проявляется во многих дискуссиях о честности и расовой справедливости.
Как работает ШАБЛОН
То ШАБЛОН алгоритм оценивает людей в соответствии с рядом переменных, которые, как было показано, предсказывают рецидивизм. Эти факторы включают криминальное прошлое, уровень образования, дисциплинарные проступки во время заключения, и завершили ли они какие-либо программы, направленные на снижение рецидивизма, среди прочих. Алгоритм предсказывает как общий, так и насильственный рецидивизм и не принимает во внимание расу заключенного при расчете оценки риска.
На основании этого балла люди относятся к группе высокого, среднего или низкого риска. Только те, кто попадает в последнюю категорию, имеют право на досрочное освобождение.
Тогдашний президент Дональд Трамп слушает, как Элис Мари Джонсон, которая провела в заключении 21 год, выступает на саммите по тюремной реформе 2019 года и праздновании первого шага в Белом доме.
AP Photo/Сьюзан Уолш
Министерство юстиции последний отзыв, который сравнивает прогнозы PATTERN с фактическими результатами бывших заключенных, показывает, что ошибки алгоритма, как правило, ставили в невыгодное положение небелых заключенных.
По сравнению с белыми заключенными, PATTERN преувеличил общий рецидив среди чернокожих заключенных-мужчин на 2-3%. Согласно отчету Министерства юстиции, это число выросло до 6-7% для чернокожих женщин по сравнению с белыми женщинами. PATTERN завышал прогноз рецидивизма у латиноамериканцев на 2-6% по сравнению с белыми заключенными и завышал прогноз рецидивизма среди азиатских мужчин на 7-8% по сравнению с белыми заключенными.
Эти несопоставимые результаты, вероятно, покажутся многим людям несправедливыми и могут усилить существующее расовое неравенство в системе уголовного правосудия. Например, чернокожие американцы уже заключенный почти в пять раз больше, чем у белых американцев.
В то же время алгоритм завышал прогноз рецидивизма для одних расовых групп и недооценивал для других.
Общий рецидив среди коренных американцев был занижен на 12-15% по сравнению с белыми заключенными, с недооценкой на 2% для насильственного рецидива. Насильственный рецидив был недопрогнозирован на 4-5% для чернокожих мужчин и на 1-2% для чернокожих женщин.
Уменьшение предвзятости за счет включения расы
Заманчиво сделать вывод, что Министерству юстиции следует вообще отказаться от этой системы. Тем не менее, компьютерщики и специалисты по данным разработали набор инструментов за последнее десятилетие, предназначенный для решения проблем алгоритмической несправедливости. Поэтому стоит спросить, можно ли исправить неравенства PATTERN.
Одним из вариантов является применение «техник устранения предвзятости», описанных в недавняя работа экспертами по уголовному правосудию Дженнифер Ским и Кристофером Ловенкампом. Так как ученые-компьютерщики а также ученые-правоведы Как мы заметили, прогностическая ценность части информации о человеке может варьироваться в зависимости от его других характеристик. Например, предположим, что наличие стабильного жилья снижает риск того, что бывший заключенный совершит новое преступление, но связь между жильем и отказом от повторного совершения преступления сильнее для белых заключенных, чем для чернокожих. Алгоритм может учитывать это для повышения точности.
Но учет этой разницы потребует, чтобы разработчики включили расу каждого заключенного в алгоритм, что вызывает юридические проблемы. Различное отношение к людям на основе расы при принятии юридических решений может привести к нарушению 14-я поправка к Конституции, что гарантирует равную защиту в соответствии с законом.
Ряд ученых-правоведов, в том числе Дебора Хеллман, недавно утверждали, что эта юридическая озабоченность преувеличена. Например, закон разрешает использовать расовые классификации для описания лиц, подозреваемых в совершении преступлений, и для сбора демографических данных в ходе переписи.
Другое использование расовых классификаций более проблематично. Например, расовое профилирование и положительное действие программы продолжают быть оспариваемый в суде. Но Хеллман утверждает что разработка алгоритмов, чувствительных к тому, как прогностическая ценность информации варьируется по расовым линиям, больше похожа на использование расы в подозрительных описаниях и переписи.
Отчасти это связано с тем, что расово-чувствительные алгоритмы, в отличие от расового профилирования, не полагаются на статистические обобщения о распространенности признаков, таких как частота повторных правонарушений, в пределах расовой группы. Скорее, она предлагает сделать статистические обобщения о надежности информации алгоритма для членов расовой группы и соответствующим образом скорректировать.
Но есть и несколько этические проблемы рассматривать. Включение расы может представлять собой несправедливое обращение. Он может не рассматривать заключенных как отдельных лиц, поскольку опирается на статистические данные о расовой группе, к которой они относятся. И это может поставить некоторых заключенных в худшее положение, чем другие, чтобы заработать кредиты на досрочное освобождение, просто из-за их расы.
Ключевое отличие
Несмотря на эти опасения, мы утверждаем, что есть веские этические причины для включения расы в алгоритм.
Во-первых, за счет включения расы алгоритм может быть более точным для всех расовых групп. Это может позволить федеральной тюремной системе предоставлять досрочное освобождение большему количеству заключенных, которые представляют низкий риск рецидивизма, в то же время оставляя заключенных с высоким риском за решеткой. Это будет способствовать правосудию без ущерба для общественной безопасности – что сторонники реформы уголовного правосудия хотят.
Кроме того, изменение алгоритма для включения расы может улучшить результаты для чернокожих заключенных, не ухудшив ситуацию для белых заключенных. Это потому, что получение кредитов на досрочное освобождение из тюрьмы — это не игра с нулевой суммой; право одного человека на участие в программе досрочного освобождения не влияет на право кого-либо еще. Это сильно отличается от таких программ, как положительное действие при приеме на работу или образование. В этих случаях позиции ограничены, поэтому улучшение положения одной группы неизбежно приводит к ухудшению положения другой группы.
Как показывает PATTERN, расовое равенство не обязательно достигается путем исключения расы из уравнения — по крайней мере, не тогда, когда все участники получают выгоду.
[Нравится то, что вы прочитали? Хочу больше? Подпишитесь на ежедневную рассылку The Conversation.]
Дункан Первес получает финансирование от Национального научного фонда.
Джереми Дэвис не работает, не консультирует, не владеет акциями и не получает финансирование от какой-либо компании или организации, которые могли бы извлечь выгоду из этой статьи, и не раскрыл никаких соответствующих связей, кроме своей академической должности.
ПРИМЕЧАНИЕ РЕДАКТОРА: Эта статья является переводом. Приносим свои извинения, если грамматика и/или структура предложения не идеальны.