Значительный процент ошибок. С конца 2024 года в продажу поступило устройство видеонаблюдения «Умная Сампа», созданное на базе распознавание лицбыл развернут в центре Сан-Паулу, Бразилия. Но система, непрерывно анализирующая изображения с 40 000 распределенных камер, иногда допускает ошибки. Более 8% людей, арестованных как беглецы, были освобождены после ошибок в идентификации.
Технология, стоимость которой составляет 1,6 миллиона евро в месяц, была внедрена в конце 2024 года. В том году почти каждая пятая телефонная кража в Бразилии произошла в этом юго-восточном городе, иногда с применением насилия.
4000 человек арестованы на месте преступления
В общей сложности внедрение этой системы позволило арестовать на месте преступления 4000 человек и найти около 3000 беглецов путем сверки изображений с камер в реальном времени с данными судебной системы. «Сегодня я не могу представить Сан-Паулу без Smart Sampa», — объясняет Орландо Морандо, министр безопасности этого города с населением 12 миллионов человек.
Например, он загружает в систему свою фотографию. Менее чем через секунду на экране отображается список мест и времени, когда его лицо было распознано камерами.
«Это напоминает мне книгу 1984 г. » Оценивает Соня Феррейра Силва, 68-летняя пенсионерка, со ссылкой на роман-антиутопию Джорджа Оруэлла, описывающий тоталитарный мир. «Мне это нравится, я одобряю это на 100%», — говорит она, однако, возле грузовика, который служит мобильным постом наблюдения на символическом проспекте Паулиста.
Жертвы замешательства
Однако система страдает от серьезных сбоев. Официальные данные, проанализированные -, показывают, что более 8% людей, арестованных в течение первого года действия «Смарт-Сампы» за то, что их идентифицировали как беглецов, пришлось отпустить после того, как они были выбраны по ошибке.
В декабре 80-летний пенсионер провел несколько часов в отделении полиции, поскольку система спутала его с насильник. Жертвами такого рода неразберихи стали по меньшей мере 59 человек.
Система питается не только от камер, установленных на улице, но и в общественных зданиях (например, больницах) и в некоторых частных местах, которые смирились с их присутствием.
Истекшие ордера на арест
По меньшей мере 141 человек был арестован на основании ордеров на арест, срок действия которых оказался истек. Но местные власти обвиняют судебную систему в неправильном обновлении данных.
Еще одна критика со стороны критиков системы: почти половина арестованных беглецов относятся к категории «другие» (правонарушения). Большинство из них подозреваются в неуплате алиментов, «что не способствует укреплению общественной безопасности», согласно отчету НПО.
«Используется для контроля граждан»
«Smart Sampa представляет собой решение проблемы преступности, но оно используется для контроля над гражданами», — критикует Амарилис Коста, директор сети адвокатов Liberdade и соавтор доклада.
Столкнувшись с попытками «дискредитировать» свою систему наблюдения, мэрия предпочитает подчеркнуть тот факт, что в прошлом году количество краж в Сан-Паулу сократилось почти на 15%. Более того, официальные данные не уточняют расовую принадлежность более половины людей, заключенных в тюрьму после идентификации с помощью Smart Sampa.
По мнению Амарилис Коста, этот «разрыв» не позволяет выявить возможный «алгоритмический расизм» в стране, где большинство населения составляют чернокожие или смешанные расы. Согласно исследованиям, проведенным в нескольких странах, ИИ-распознавание лиц имеет тенденцию совершать больше ошибок с чернокожими людьми.
«У «Смарт-Сампы» нет предубеждений, мы не арестовываем людей по цвету кожи», — возражает секретарь муниципальной безопасности. Большинство арестов «Смарт-Сампы» произошло в отдаленных районах и было направлено против многих людей из более бедных регионов внутри страны.
1773829554
#Пенсионера #приняли #за #насильника #СанПаулу #видеонаблюдение #помощью #искусственного #интеллекта #нацелено #не #только #на #преступников #но #на #невиновных #людей
Ещё по этой теме
