Могут ли суды защитить справедливость в возрасте ИИ?

В системе уголовного правосудия решения о том, когда и как долго задерживать людей исторически принималось другими людьми, такими как судьи и доски по условно -досрочному освобождению. Но этот процесс меняется: лица, принимающие решения, все чаще включают системы искусственного интеллекта в различных задачах, от прогнозирования преступности до анализа ДНК до рекомендации тюремного заключения.

Использование ИИ в этих областях поднимает насущные вопросы о том, как эти вычислительные системы используют данные для прогнозирования и рекомендаций, а также более крупные вопросы о том, как защитить справедливость в возрасте ИИ.

Примечательно, что многие системы ИИЧерные ящики«Это означает, что их поведение и процессы принятия решений непрозрачны для проверки. Это создает проблему в системе правосудия, в которой общественное доверие И ответственность таких ключевых игроков, как судьи, связана с пониманием того, как и почему принимаются решения, изменяющие жизнь.

Кроме того, даже если система черного ящика является статистически справедливой и точной, она может не соответствовать стандартам процедурной справедливости, требуемой нашей конституционной системой.

В апреле 2024 года Национальный институт юстиции (NIJ) выпустил общественность запросить информацию Это может помочь сообщить будущие руководящие принципы о безопасных и эффективных способах использования искусственного интеллекта в Система уголовного правосудияПолем

Ассоциация по компьютерным исследованиям – крупная организация, ориентированная на инновационные исследования в области компьютеров, связанные с своевременными проблемами, – отвечает на созыв команды экспертов из академических учреждений и промышленности для кристаллизации комментариев для представления в NIJ. Профессор SFI Крис Мур и внешний профессор Стефани Форрест (Университет штата Аризона) были среди Представление авторы. Аргумент группы был ясен: где на карту поставлены конституционные права, критические решения не должны принимать с помощью ИИ со скрытыми процессами.

«Идея о том, что непрозрачная система, которая не является ни ответчиками, ни их адвокатами, ни их судьями, могут играть роль в важных решениях о свободе человека, отвратительна для нашей индивидуальной системы правосудия», – отметили авторы. «Непросновная система является обвинителем, с которым обвиняемый не может столкнуться; свидетель, с которым они не могут перекрестно допросить, представляя доказательства, которые они не могут оспорить».

В августе этого года группа последовала за мнение Опубликовано в Коммуникации ACMПолем В то время как первоначальный исполнительный приказ 14110, который вызвал запрос NIJ, был отменен, новый исполнительный приказ 13859 призывает к безопасному тестированию ИИ и «укреплению общественного доверия и уверенности в технологиях искусственного интеллекта и защите гражданских свобод, конфиденциальности и американских ценностях в своем заявлении».

По словам Мур, в условиях преступной и поправки AI Technologies будет соответствовать этому законопроекту, только если они улучшат справедливость и прозрачность текущей системы. Это часть того, что делает ИИ привлекательным. В конце концов, процессы принятия решений человеком также не всегда прозрачны.

https://www.youtube.com/watch?v=nzjitxawgr8

«Мы должны использовать ИИ, если это делает судебную систему более прозрачной и подотчетной», – говорит Мур. «Если это не так, мы не должны его использовать».

Он и его сотрудники представили свои замечания в NIJ в мае 2024 года. Они подчеркнули ключевые аргументы, которые Министерство юстиции должно учитывать, когда оно разрабатывает и реализует новые руководящие принципы о справедливом и полезном использовании ИИ при вынесении приговора и других случаях.

Многие из этих аргументов подчеркивали необходимость прозрачности: каждый, кто либо использует ИИ, либо влияет рекомендация, разработанная AI, должен иметь четкое понимание данных, которые он использовал, и то, как они придумали свои рекомендации или оценки риска. Кроме того, посоветовали эксперты, процедура, с помощью которой судья использует руководство из системы ИИ, должна быть ясна.

Некоторые исследователи предупреждают, что повышение прозрачности может снизить полезность системы ИИ, но в последние несколько лет исследователи в области «объяснимого ИИ» разработали подходы, которые помогают осветить, как эти модели обрабатывают информацию и создают входные данные.

Объяснимые системы ИИ могут помочь, но Мур отмечает, что существует ряд способов определения прозрачности. Прозрачность не должна означать, что все понимают компьютерный код и математику под капотом нейронной сети. Это может означать понимание того, какие данные использовались, и как.

Он указывает на Закон о справедливой кредитной отчетности (FCRA), который требует, чтобы компании кредитного рейтинга раскрывали информацию о потребителях, используемая для принятия кредитных решений и установления рейтингов. По словам Мур, компании могут скрыть свой процесс, но потребитель может легко загрузить информацию, используемую в алгоритме.

Это также дает потребителям право оспорить эти данные, если они не точны. С другой стороны, он отмечает, что FCRA не позволяет потребителям задаваться вопросом, делает ли алгоритм правильные вещи со своими данными.

«Важно иметь возможность смотреть на внутреннюю работу ИИ, а не только на его входы и выходы», – говорит он.

В дополнение к рекомендациям о прозрачности, исследователи сообщили, что выход из систем ИИ должен быть конкретным и количественным, сообщая о «7% вероятности восстановления для насильственного уголовного преступления», а не описывая подозреваемого с этикеткой, подобной «высоким риску». Мур говорит, что качественные этикетки оставляют слишком много места для неправильного толкования.

«Если судья понимает, что означает выход системы, в том числе какие ошибки они могут совершить, то я думаю, что они могут быть полезными инструментами», – говорит Мур. «Не как замены для судей, а для предоставления средней или базовой рекомендации».

Критически, авторы предупредили, что системы ИИ никогда не должны полностью заменять человека лица, принимающие решенияособенно в тех случаях, когда задержание и конституционные права человека поставлены на карту.

В оптимальном сценарии системы ИИ могут стать своего рода цифровым консультантом, который придает выработку, принимаемый во внимание судьей или другими лицами, принимающими решения, наряду с другими факторами, связанными с этим делом. «Но мы всегда должны быть готовы объяснить рекомендацию ИИ и задаться вопросом, как она была произведена», – говорит Мур.