почему регулирование чат-ботов с искусственным интеллектом вызывает беспокойство

От США до Нидерландов, Великобритании и Китая многие страны стремятся регулировать чат-ботов с искусственным интеллектом, указывая на риски для несовершеннолетних, а также на дезинформацию и манипулирование выборами.

Чат-боты с искусственным интеллектом пронеслись по планете, словно цунами, после запуска ChatGPT в конце 2022 года. С тех пор правительства всего мира ломают голову, пытаясь определить, как лучше всего регулировать эту технологию.

Некоторые нормативные акты уже приняты, ряд других находится в стадии разработки. Как правило, они исходят из благих намерений, но тем не менее вызывают обеспокоенность защитников свободы выражения мнения, которые опасаются, что правительства проявят слишком жесткую руку или используют этот предлог для дальнейшего усиления регулирования слова в Интернете, в то время как свобода выражения мнения в Интернете уже в свободном падении в течение многих лет.

В США Дональд Трамп против «разбуженного ИИ»

В Соединенных Штатах желание лучше регулировать чат-ботов с искусственным интеллектом является одной из редких тем, которая объединяет республиканцев и демократов в американском политическом ландшафте. В результате два закона, разрабатываемые в настоящее время, имеют хорошие шансы увидеть свет. Первый, Закон ЧАТ (О детях, пострадавших от технологий ИИ), направлен, прежде всего, на защиту несовершеннолетних от контента сексуального характера и манипуляций, допускаемых агентами ИИ. Несколько случаев самоубийства подростков после установления близких отношений с чат-ботом попали в заголовки газет и потребовали более эффективного регулирования этих систем.

Созданный по образцу Закона о безопасности детей в Интернете (или KOSA), более общего закона, направленного на защиту несовершеннолетних в Интернете, который также в настоящее время разрабатывается, Закон о ЧАТе должен, в частности, требовать от операторов чат-ботов проверять возраст своих пользователей и устанавливать различные ограничения для несовершеннолетних, включая запрет на все виды контента сексуального характера. Они также будут вынуждены внедрить соответствующие механизмы реагирования, когда пользователь делает суицидальные комментарии, например, предлагая ему позвонить по номеру предотвращения самоубийств.

Второй готовящийся закон, Закон AWARE (о предупреждениях об искусственном интеллекте и образовательных ресурсах), должен разрешить создание образовательных ресурсов, которые помогут несовершеннолетним и их родителям понять, как работают чат-боты с искусственным интеллектом, чтобы использовать их без риска. Эти два закона также призваны обеспечить единую основу на федеральном уровне, в то время как некоторые штаты, такие как Калифорния, Нью-Йорк и Северная Каролина, начали принимать свои собственные законы.

Но политика администрации Трампа также отмечена стремлением бороться с «пробудившимся» ИИ: полагая, что чат-боты ИИ содержат левые предубеждения, республиканцы намерены навязать им больший нейтралитет. «Американцы не хотят марксизма и пробуждают абсурдность в своих моделях ИИ», — заявил Дональд Трамп в июне перед подписанием указа, требующего от ветвей власти использовать агентов ИИ только с соблюдением строгой идеологической нейтральности. Необходимо провести регулярный аудит чат-ботов, используемых федеральными агентствами, и те, которые не соблюдают свои обязательства по нейтральности, больше не смогут использоваться.

Дэвид Сакс, возглавляющий стратегию администрации Трампа по искусственному интеллекту, повторил комментарии президента, обвинив стартап Anthropic, чей чат-бот Клод является одним из самых популярных, в создании «разбудившего ИИ». Критика, высказанная президентом и его лагерем, если она отвечает идеологической повестке дня, не является полностью необоснованной: несколько исследований, в том числе одно из Стэнфордский университетпоказывают, что чат-боты с искусственным интеллектом, включая Грока, в своих ответах склоняются влево.

Тем не менее, желание правительства регулировать и наказывать ИИ за их идеологическую принадлежность вызывает опасения не только по поводу свободы выражения мнений в Интернете, но и по поводу способности американской индустрии ИИ внедрять инновации.

“Алгоритмы никогда не могут быть полностью свободными от идеологии, особенно если именно правительство определяет, что составляет идеологию. По-настоящему уважительный подход к свободе слова позволил бы сосуществовать различным моделям, отражающим разные ценности, а не навязывал единообразие посредством общественного порядка”, – говорят Джейкоб Мчангама и Хорди Кальвет-Бадемунт из будущего свободы слова, лобби в Университете Вандербильта.

«Это нереалистичное стремление к нейтралитету может легко перерасти в борьбу с общественным мнением, поскольку все больше компаний стремятся получить государственные контракты и заслужить расположение. Первая поправка была разработана именно для того, чтобы не дать правительственным субъектам диктовать, какие точки зрения являются приемлемыми. Лидерство Америки в области искусственного интеллекта и свободы слова зависит от сохранения твердой приверженности этим принципам».

Европейский подход также вызывает беспокойство

В Европе обличительные речи американского президента и его союзников против «пробуждённого ИИ» вызывают у нас улыбку, а его склонность использовать закон в политических целях воспринимается как антиутопия. Но Европа не застрахована от надзора ИИ, реагирующего на политическую повестку дня.

В октябре, например, Управление по защите данных Нидерландов предостерегло от использования чат-ботов с искусственным интеллектом во время выборов, указав на риск манипулирования избирателями. Чат-боты «ненадежны и явно предвзяты», беспокоит власти, которые утверждают, что несколько основных чат-ботов с искусственным интеллектом, в том числе OpenAI, xAI и Mistral, давали пользователям идеологически ориентированные рекомендации перед различными выборами.

Если критика звучит не по тем же причинам, она, тем не менее, перекликается с критикой администрации Трампа: чат-боты с искусственным интеллектом не будут достаточно политически нейтральными.

В большей степени, чем реализация новых законов, озабоченность некоторых защитников свободы выражения мнений вызывают уже существующие в ЕС правила и то, как они могут применяться к чат-ботам. Ирен Хан, специальный докладчик ООН по вопросам поощрения и защиты прав на свободу мнений и их свободное выражение, недавно подчеркнула в своем докладе, что обязательства по Закону об ОВ и DSA создают риски злоупотреблений, которые могут нанести ущерб свободе выражения мнений в Интернете, в том числе в контексте использования ИИ. “Законы и политика часто разрабатываются с неоптимальными знаниями об онлайн-вреде и без адекватных данных, исследований или консультаций с общественностью. Государства прибегают к непропорциональным мерам, […] и приняли расплывчатые и чрезмерно широкие законы, направленные на криминализацию, блокирование, цензуру и ограничение высказываний в Интернете, тем самым сокращая гражданское пространство».

Более 100 экспертов (учёные, политики, юристы, журналисты и т. д.) также недавно подписали соглашение открытое письмо лицам, принимающим решения в ЕС, указывая на то, что действующие правила, в частности DSA, рискуют создать экосистему цензуры, вредную для свободы выражения мнений в Интернете.

Опасения разделяют исследователи будущего свободы слова. «В рамках DSA уже появились сигналы раннего предупреждения: угрозы закрыть платформы в ответ на беспорядки, которые последовали за смертью молодого человека североафриканского происхождения, убитого французской полицией; ассимиляция дезинформации с незаконным контентом в контексте конфликта в Газе; или даже угрозы в адрес X и Илона Маска за то, что они брали интервью у Дональда Трампа во время кампании по выборам американского президента в 2024 году», — подробно рассказывают Джейкоб Мчангама и Хорди Кальвет-Бадемунт, для которых это Завтра «Арсенал» рискует быть использован для очистки определенного контента, считающегося спорным, от чат-ботов с искусственным интеллектом.

По их мнению, «вместо ограничения политического контента, создаваемого ИИ, европейские регуляторы должны сосредоточиться на обеспечении плюрализма внутри самого рынка искусственного интеллекта».

Это может включать, например, продвижение моделей с открытым исходным кодом, чтобы не допустить того, чтобы ИИ оставался в руках горстки крупных технологических компаний. «Плюрализм рассеивает власть и снижает риск того, что один орган власти или компания может использовать производство ИИ в политических целях».