8 мифов, которые саботируют современное управление искусственным интеллектом

Искусственный интеллект уже встроен в системы найма, мониторинга рабочих мест, оценки соответствия требованиям, принятия кредитных решений и государственного управления. Эти системы влияют на то, кто попадает в шорт-лист на должности, какие заявки отдаются приоритетным, как отмечаются риски соблюдения требований и как распределяются государственные ресурсы.

Тем не менее, политические дебаты по-прежнему склонны рассматривать ИИ одним из двух способов: как экзистенциальную будущую угрозу или как нейтральный технический инструмент. И то, и другое вводит в заблуждение. Реальный регуляторный риск заключается не в гипотетических системах будущего, а в неправильном понимании систем искусственного интеллекта, которые уже сегодня формируют юридически важные решения.

Это недоразумение подкрепляется небольшим набором устойчивых мифов, которые не просто слишком упрощают ИИ. Они ослабляют управление, затемняют подотчетность и отвлекают внимание регулирующих органов от современных рисков, с которыми учреждения уже пытаются справиться.

Представление ИИ как чисто технического вопроса позволяет организациям транслировать ответственность. На самом деле системы искусственного интеллекта — это социотехнические системы, сформированные человеческим выбором в отношении выбора данных, целей оптимизации, контекста развертывания и допустимых ошибок. При проверке занятости, автоматизированной оценке производительности или административной сортировке риск редко заключается только в «алгоритме». Это зависит от институциональных решений, касающихся того, как эти системы проектируются, развертываются и на что полагаются. Отношение к ИИ как к чисто технической подрывает четкие границы юридической и организационной ответственности.

Масштаб часто ошибочно принимают за надежность. В регулируемых условиях большие наборы данных могут усиливать шум, систематическую ошибку и ложные корреляции, а не уменьшать их. Высококачественные, репрезентативные наборы данных обычно превосходят массивные, но плохо курируемые. Политики, которые приравнивают масштаб к системам одобрения рисков безопасности, которые не соответствуют базовым стандартам проверки, документации и комплексной проверки.

Оба предположения неверны. Системы искусственного интеллекта не нейтральны, но предвзятость не является неизбежной особенностью. Предвзятость можно уменьшить, а в некоторых случаях и эффективно устранить, за счет продуманных технических и управленческих решений. К ним относятся тщательная обработка данных, ограниченная оптимизация, проверка по подгруппам населения и непрерывный аудит. Ошибка регулирования заключается в том, что предвзятость рассматривается как отсутствующая или неизбежная, а не в обязательном порядке соблюдать обязательства по управлению предвзятостью в системах занятости, кредитной и административной системах.

ИИ может помочь профессионалам, отмечая аномалии, ранжируя варианты или моделируя результаты. Оно не может заменить суждение, усмотрение или юридическую ответственность. Чрезмерное делегирование ИИ создает пробелы в подотчетности при принятии решений об увольнении, праве на льготы или соблюдении нормативных требований. Политики должны обеспечить, чтобы человеческий надзор был значимым, а не символическим, и чтобы ответственность оставалась четко распределенной, когда решения, принимаемые с помощью ИИ, причиняют вред.

Значительная часть регулирования сосредоточена узко на прогнозировании, упуская из виду более широкую роль ИИ в ранжировании, оптимизации и формировании решений. Генеративные и оптимизационные системы влияют на результаты, даже если не делается явный прогноз. Если рассматривать ИИ исключительно как инструмент прогнозирования, это приводит к неполным структурам управления, которые не могут отразить, как эти системы на самом деле влияют на юридические и административные решения.

Непрозрачность часто представляется неизбежной. На практике объяснимость часто является выбором дизайна и управления. Интерпретируемые модели, методы объяснимости и стандарты документации уже существуют и используются в областях, критически важных для безопасности. Принятие непрозрачности по умолчанию подрывает обязательства по прозрачности, надлежащей правовой процедуре и проверяемости, которые лежат в основе административного и трудового законодательства.

Системы искусственного интеллекта не являются по своей сути безопасными или небезопасными. Безопасность возникает на основе стандартов, испытаний, мониторинга и надзора. Сплошные ограничения, вызванные страхом, могут быть столь же неэффективными, как и бездействие регулирующих органов. Эффективное управление фокусируется на сертификации, проверке и подотчетности, а не на предположении, что рисками невозможно управлять.

Возможно, самый разрушительный миф заключается в том, что регулирование ИИ может подождать. ИИ уже формирует процесс найма, продвижения по службе, увольнения, оценки соответствия критериям и определения административных приоритетов. Отношение к искусственному интеллекту как к проблеме будущего задерживает надзор за системами, которые уже сегодня приводят к юридическим последствиям.

Сбои в управлении ИИ редко вызваны технологическими ограничениями. Они возникают из-за концептуальных ошибок, которые неправильно направляют регулирование. Политики должны меньше сосредотачиваться на спекулятивном будущем и больше на обязательствах, подлежащих исполнению. К ним относятся четкая ответственность за решения о развертывании, стандарты качества и проверки данных, требования к объяснимости и проверяемости, а также механизмы возмещения ущерба, когда решения с помощью ИИ причиняют вред.

Исправление этих мифов не устранит риск. Но это позволит политикам регулировать ИИ в том виде, в котором он существует на самом деле, а не как будущую абстракцию, и решать реальные проблемы в области законодательства и соблюдения требований, с которыми уже сталкиваются учреждения.