Вероятность рецидивистов, неправильно рассчитанная на протяжении многих лет службой пробации

АНП

Новости НОС•сегодня, 10:39•Изменено сегодня, 11:08

Есть серьезные ошибки в алгоритме, который использует служба пробации для расчета вероятности повторного совершения преступниками преступлений. Что заключает Инспекция юстиции и безопасности. В инспекции заявляют, что служба пробации должна прекратить использование систем или как можно быстрее их адаптировать.

Почти в четверти случаев расчет оказывается слишком завышенным или заниженным. В большинстве ошибок риск повторного совершения преступления недооценивается. «Служба пробации, помимо прочего, консультирует судью, и поэтому вполне возможно, что судья принял неверные решения на основании службы пробации», — говорит Арьен Шмидт из инспекции.

Если оценка риска слишком низкая, общество может быть недостаточно защищено. Если оценка слишком высока, это может иметь неблагоприятные последствия для подозреваемого или преступника.

Джессика Вестерик из Службы пробации Нидерландов в ответ сообщает, что использование системы «приостановлено». Она называет отчет проверки «конфронтационным и ценным». В ближайшем будущем мы будем исследовать, как можно «снова использовать систему ответственным образом».

Задержанные и подозреваемые поменялись местами

Серьезным примером того, как научные открытия оказались в алгоритме ошибочными, является, например, неверный ввод категорий осужденных и подозреваемых. В результате осужденные, которые чаще ошибаются, подвергаются меньшему риску. В формулу также занижен риск рецидива (рецидивизма) для потребителей наркотиков.

Кроме того, из системы были исключены такие переменные, как, например, наличие у кого-либо миграционного прошлого или психического заболевания. Хотя, по мнению инспекции, могут быть веские причины не использовать этот тип конфиденциальных данных, модель недостаточно для этого адаптирована. Введенные данные также, как правило, устарели. Они взяты, например, из шведских и американских исследований и не обновляются.

Более 40 000 раз в год

Система широко использовалась в течение многих лет, более 40 000 раз в год в исследуемый период 2023–2024 годов. Поскольку алгоритм является лишь частью общей оценки риска, инспекция ничего не может сказать о том, в скольких случаях это действительно привело к неверным результатам. Потому что сотрудники тоже выставляют свою оценку, которую судья учитывает при вынесении окончательного решения. Но существует риск того, что люди содержались под стражей слишком недолго или слишком долго или получали неправильное обращение.

По мнению инспекции, большое значение придается результатам работы алгоритма при проведении оценки. «По нашей оценке, они слишком на это полагаются», — говорит Шмидт. Поскольку сотрудники не совсем понимают, как это работает, это очень рискованно.

По мнению Шмидта, то, что все это так долго оставалось незамеченным, можно объяснить тем, что системы не проверяются. «Что мы на самом деле видим в службе пробации, так это то, что в организации недостаточно опыта, чтобы подойти к этому ответственно».

Риск дискриминации

Более того, нельзя исключать риск дискриминации со стороны системы. Две характеристики, которые принимаются во внимание, — почтовый индекс и доход — могут иметь связь с происхождением человека. По мнению Нидерландского института по правам человека, такое взаимодействие может косвенно представлять собой дискриминацию. Такие функции можно использовать только при определенных условиях. Затем необходимо разъяснить, что использование является соразмерным и как предотвращается дискриминация. В данном случае этого также не произошло.

«Мы не хотим проводить дискриминацию и проводить различия только в том случае, если это явно важно для выявления рисков преступного поведения», — говорит Вестерик из службы пробации. «Национальность или этническая принадлежность у нас, конечно, не регистрируется».

Расследование в отношении службы пробации является первым в более масштабном расследовании использования алгоритмов в правительстве, которое было начато после проблем с использованием алгоритмов в деле о льготах и в DUO. Инспекция проверила работу службы пробации, поскольку известно, что там широко используются алгоритмы.

2026-02-12 09:39:00
1770892774
#Вероятность #рецидивистов #неправильно #рассчитанная #на #протяжении #многих #лет #службой #пробации