Обещания OpenAI в области безопасности после событий в Тамблер-Ридж — это не регулирование ИИ, а наблюдение.

Спустя два дня после новостей о том, что аккаунт ChatGPT преступника в Тамблер-Ридж был помечен до стрельбы, генеральный директор OpenAI Сэм Альтман встретился с федеральным министром искусственного интеллекта Эваном Соломоном и Премьер Британской Колумбии Дэвид Эби.

Он обеспечил обязательства с обеих сторон: сообщать об угрозах непосредственно КККП, ретроактивную проверку ранее помеченных учетных записей, протоколы перенаправления в случае бедствия, доступ в офис безопасности компании для канадских экспертов и соглашение о работе с Британской Колумбией над рекомендациями регулирующих органов для Оттавы.

Он также согласился извинись перед сообществом Тамблер-Риджгде 18-летний Джесси Ван Рутселаар убил восемь человек и ранил многих других, прежде чем скончался от раны, нанесенной самому себе. За несколько месяцев до стрельбы учетная запись Ван Рутселаара в ChatGPT была помечена как сценарий, связанный с насилием с применением огнестрельного оружия. Аккаунт забанили, но в правоохранительные органы не сообщили.

Новые обязательства OpenAI — это важные жесты. Но они решают более узкий вопрос, чем тот, который на самом деле поднял Тамблер Ридж. Как я раньше спорилосновная проблема заключалась не в сбое отчетности. Это был вакуум управления.

Что изменилось с тех пор? OpenAI согласилась принять такое же одностороннее решение, как и раньше, но действовать более агрессивно, направляя результат непосредственно в RCMP. Это не исправление. Это та же необъяснимая архитектура с более быстрым триггером.

Заблуждение «человек в цикле»

Рассмотрим, что мы теперь знаем о внутреннем процессе. Аккаунт стрелка был помечен. Модераторы-люди проверяли взаимодействия. Некоторые выступали за обращение в правоохранительные органы. Другие люди, руководствуясь собственными непрозрачными порогами компании, отказались от этого. Поломка не была механической. Это было институционально.

“Человек в петле” является одним из самые повторяющиеся заверения в дискуссиях о безопасности ИИ. Дело Тамблер-Риджа обнажает пределы его возможностей. Люди в этом цикле несут ответственность лишь в той мере, в какой институциональная структура вокруг них. Когда эта структура представляет собой частную корпорацию, не имеющую юридически обязательных обязательств по отчетности, требований прозрачности и внешнего надзора, человек, участвующий в процессе, становится просто более симпатичным лицом в неподотчетной системе.

OpenAI с тех пор объявила, что ее пороговые значения были обновлены. Но кем обновляется, по каким критериям, при какой проверке? Это остаются внутренние решения, невидимые для общественности и недоступные для парламента.

Замена наблюдения

Есть более глубокая проблема, которой почти не уделяется внимания. Предлагаемое соглашение не регулирует ИИ. Он регулирует пользователей.

Весь создаваемый аппарат (выявление внутренних угроз, маркировка, прямое направление в RCMP) ориентирован на мониторинг того, что люди говорят ИИ, а не на то, как системы ИИ проектируются, обучаются или ограничиваются в своих ответах.

Настоящее регулирование ИИ задается вопросом, может ли модель способствовать или усиливать вредные идеи посредством своих моделей взаимодействия. В нем задается вопрос, как устроена система, для чего она тестируется и какие обязательства связаны с ее развертыванием.

Нынешняя договоренность не задает ни одного из этих вопросов. Вместо этого он выстраивает конвейер от частного взаимодействия ИИ до правоохранительных органов, управляемый корпорацией и регулируемый политикой собственности.

Я называю это заменой слежки: вакуум управления заполняется не демократическим регулированием, а корпоративным наблюдением за пользователями. Это не регулирование ИИ. Это регулирование людей, использующих ИИ, осуществляемое самой ИИ-компанией, конечной точкой которого является полиция.

Последствия для гражданских свобод существенны. Исследования чувствительного к состраданию искусственного интеллекта, включая мою собственную работу над как системы искусственного интеллекта должны реагировать на пользователей в уязвимых состоянияхпостоянно показывает, что люди рассказывают чат-ботам о своих переживаниях именно потому, что общение кажется личным и непредвзятым.

Если это пространство станет контролируемый канал когда раскрытие информации приводит к обращению в правоохранительные органы на основании непрозрачных корпоративных критериев, наиболее уязвимые пользователи могут перестать раскрывать информацию. Сдерживающий эффект на поведение людей, обращающихся за помощью, не изучался и не обсуждался ни на одном из публичных переговоров после Тамблер-Риджа.

Рациональная стратегия, отсутствие рамок

Важно быть точным в том, что делает OpenAI. Компания не действует недобросовестно. В отсутствие нормативной базы он ведет себя как рациональная частная организация, предлагая минимально возможный ответ на политическое давление, сохраняя при этом как можно большую оперативную автономию.

Посмотрите на юг, и логика станет яснее. В Соединенных Штатах отношения между компаниями, занимающимися искусственным интеллектом, и государственной властью принудительно пересматриваются. Пентагон искала модели искусственного интеллекта со снятыми защитными ограждениями для военного применения. Когда Anthropic сопротивлялась, OpenAI решила заполнить пробел.. В этом контексте Постановления правительства США и компании, занимающиеся искусственным интеллектом, соблюдают требования.

В Канаде ситуация обратная: OpenAI не находится под контролем. Это добровольные уступки, призванные предотвратить введение обязательного законодательства, которое фактически ограничило бы его деятельность. Поддерживать широкие нормы, не имеющие непосредственной юридической силы; сопротивляться конкретным внутренним обязательствам, которые влекут за собой реальные последствия. Так начинается регулятивный захват: не с коррупции, а с удобства.

Канада имеет здесь реальные рычаги влияния: необычный межпартийный консенсус о том, что что-то должно измениться, общественное внимание, которое придало управлению ИИ человеческое лицо, и провинциальное правительство, которое понимает ставки.

Но рычаги испаряются. Если федеральное правительство примет обещания OpenAI в качестве достаточного ответа, оно нормализует корпоративное саморегулирование в качестве базовой линии. Будущие компании будут ссылаться на эту договоренность как на прецедент. Окно для принятия законодательства сужается.

Чего требует устойчивое управление

Ответ, которого требует Tumbler Ridge, — это не более эффективный надзор за пользователями. Это нормативная архитектура, которая касается самих систем.

Это означает обязательное законодательство с юридически определенными пороговыми значениями, в которых компании, занимающиеся искусственным интеллектом, должны передавать властям помеченные взаимодействия: пороговые значения, определенные парламентом, разработанные совместно со специалистами в области психического здоровья, экспертами по конфиденциальности и правоохранительными органами, а не унаследованные из условий обслуживания компании.

Это означает независимый орган по сортировке таким образом, помеченные взаимодействия оцениваются профессионалами, способными отличить идею от намерения, подотчетными публичному праву, а не корпоративной ответственности. И это означает подотчетность на уровне модели: внимание регулирующих органов, которое перемещается от пользователей к системам. Как эти модели призваны реагировать на растущие случаи раскрытия идей, связанных с насилием? Какие обязательства по тестированию применяются? Какие существуют требования к аудиту?

Эти вопросы отсутствуют в текущих политических переговорах, и их отсутствие определяет пределы того, чего могут достичь нынешние обещания.

Обязательства OpenAI после Tumbler Ridge — это начало разговора, а не его конец. У Канады хорошие карты. Вопрос в том, играет ли она по ним или позволяет другой стороне устанавливать правила, пока стол еще строится.

Эта статья переиздана с Разговор по лицензии Creative Commons. Прочтите оригинальная статья.