Китай заявляет, что чат-боты должны придерживаться партийной линии

Спустя пять месяцев после того, как ChatGPT спровоцировал инвестиционный ажиотаж вокруг искусственного интеллекта, Пекин пытается обуздать китайских чат-ботов, демонстрируя решимость правительства сохранять жесткий регулирующий контроль над технологиями, которые могут определить эпоху.

В этом месяце Управление киберпространства Китая представило проект правил для так называемого генеративного искусственного интеллекта — программных систем, подобных той, что стоит за ChatGPT, которые могут формулировать текст и изображения в ответ на вопросы и подсказки пользователя.

Согласно правилам, компании должны соблюдать строгие правила цензуры Коммунистической партии Китая, так же как веб-сайты и приложения должны избегать публикации материалов, которые порочат лидеров Китая или перефразируют запрещенную историю. Содержание систем ИИ должно будет отражать «основные социалистические ценности» и избегать информации, которая подрывает «государственную власть» или национальное единство.

Компании также должны будут убедиться, что их чат-боты создают слова и изображения, которые являются правдивыми и уважают интеллектуальную собственность, и должны будут зарегистрировать свои алгоритмы, программное обеспечение, стоящее за чат-ботами, в регулирующих органах.

Правила не являются окончательными, и регулирующие органы могут продолжать их изменять, но эксперты говорят, что инженеры, создающие службы искусственного интеллекта в Китае, уже выясняют, как включить указы в свои продукты.

Правительства всего мира были поражены мощью чат-ботов, а результаты, генерируемые ИИ, варьировались от тревожных до безобидных. Искусственный интеллект использовался для успешной сдачи экзаменов в колледже и создания поддельной фотографии Папы Франциска в пухлом пальто.

ChatGPT, разработанный американской компанией OpenAI, которая поддерживается Microsoft на сумму около 13 миллиардов долларов, подтолкнул Силиконовую долину к применению базовой технологии в новых областях, таких как видеоигры и реклама. По оценкам венчурной компании Sequoia Capital, предприятия ИИ могут в конечном итоге принести «триллионы долларов» экономической стоимости.

В Китае инвесторы и предприниматели стремятся наверстать упущенное. Акции китайских компаний, занимающихся искусственным интеллектом, резко выросли. Некоторые из крупнейших технологических компаний Китая сделали громкие заявления, в том числе совсем недавно гигант электронной коммерции Alibaba; SenseTime, создающая программное обеспечение для распознавания лиц; и поисковая система Baidu. По крайней мере, два стартапа, разрабатывающие китайские альтернативы технологии OpenAI, привлекли миллионы долларов.

ChatGPT недоступен в Китае. Но столкнувшись с растущим числом доморощенных альтернатив, Китай быстро обнародовал свои красные линии для искусственного интеллекта, опередив другие страны, которые все еще рассматривают возможность регулирования чат-ботов.

Правила демонстрируют подход Китая к регулированию «действуй быстро и ломай вещи», сказала Кендра Шефер, руководитель отдела технической политики пекинской консалтинговой фирмы Trivium China.

«Поскольку у вас нет двухпартийной системы, в которой обе стороны спорят, они могут просто сказать: «Хорошо, мы знаем, что нам нужно это сделать, и мы пересмотрим это позже», — добавила она.

Чат-ботов обучают на больших участках Интернета, и разработчики борются с неточностями и неожиданностями того, что они иногда выплевывают. На первый взгляд, правила Китая требуют такого уровня технического контроля над чат-ботами, которого китайские технологические компании не достигли. Даже такие компании, как Microsoft, до сих пор настраивают своих чат-ботов, чтобы отсеивать вредоносные ответы. В Китае планка намного выше, поэтому некоторые чат-боты уже закрыты, а другие доступны только ограниченному числу пользователей.

Эксперты расходятся во мнениях относительно того, насколько сложно будет обучить системы искусственного интеллекта, чтобы они постоянно соответствовали фактам. Некоторые сомневаются, что компании могут объяснить всю гамму китайских правил цензуры, которые часто носят широкий характер, постоянно меняются и даже требуют цензуры определенных слов и дат, таких как 4 июня 1989 года, день резни на площади Тяньаньмэнь. Другие считают, что со временем и при достаточной работе машины можно привести в соответствие с правдой и определенными системами ценностей, даже политическими.

Аналитики ожидают, что правила претерпят изменения после консультаций с технологическими компаниями Китая. Регуляторные органы могут смягчить свои меры, чтобы правила не подрывали полностью развитие технологии.

Китай имеет долгую историю цензуры в Интернете. На протяжении 2000-х годов страна создала самую мощную в мире информационную сеть через Интернет. Это отпугнуло непослушные западные компании, такие как Google и Facebook. Она наняла миллионы рабочих для мониторинга интернет-активности.

Тем временем китайские технологические компании, которые должны были соблюдать правила, процветали, бросая вызов западным критикам, которые предсказывали, что политический контроль подорвет рост и инновации. По мере появления таких технологий, как распознавание лиц и мобильные телефоны, компании помогали государству использовать их для создания государства наблюдения.

Нынешняя волна ИИ представляет новые риски для Коммунистической партии, сказал Мэтт Шихан, эксперт по китайскому ИИ и сотрудник Фонда Карнеги за международный мир.

По словам г-на Шихана, непредсказуемость чат-ботов, которые делают бессмысленные или ложные утверждения — то, что исследователи ИИ называют галлюцинациями, — идет вразрез с навязчивой идеей партии управлять тем, что говорится в Интернете.

«Генеративный искусственный интеллект поставил в противоречие две главные цели партии: контроль над информацией и лидерство в области искусственного интеллекта», — добавил он.

По словам экспертов, новые правила Китая касаются не только политики. Например, они нацелены на защиту конфиденциальности и интеллектуальной собственности отдельных лиц и создателей данных, на которых обучаются модели ИИ, что вызывает озабоченность во всем мире.

В феврале Getty Images, компания по созданию базы данных изображений, подала в суд на стартап Stable Diffusion, занимающийся искусственным интеллектом, за обучение его системы генерации изображений на 12 миллионах фотографий с водяными знаками, что, по утверждению Getty, снизило ценность ее изображений.

Китай прилагает более широкие усилия для решения юридических вопросов, связанных с использованием компаниями ИИ базовых данных и контента. В марте в рамках крупной институциональной перестройки Пекин учредил Национальное бюро данных, чтобы лучше определить, что значит владеть, покупать и продавать данные. Государственный орган также будет помогать компаниям в создании наборов данных, необходимых для обучения таких моделей.

«Сейчас они решают, что представляют собой данные об имуществе и кто имеет права на их использование и контроль», — сказала г-жа Шефер, которая много писала о правилах ИИ в Китае и назвала эту инициативу «преобразующей».

Тем не менее, новые ограждения Китая могут быть несвоевременными. Страна сталкивается с усилением конкуренции и санкциями в отношении полупроводников, которые угрожают подорвать ее конкурентоспособность в области технологий, включая искусственный интеллект.

Надежды на китайский ИИ возродились в начале февраля, когда Сюй Лян, инженер по ИИ и предприниматель, выпустил один из первых китайских ответов на ChatGPT в виде мобильного приложения. По словам г-на Сюй, за первый час приложение ChatYuan было загружено более 10 000 раз.

Вскоре в СМИ появились сообщения о заметных различиях между линией партии и ответами ЧатЮаня. В ответах был поставлен мрачный диагноз китайской экономике и охарактеризована война России на Украине как «агрессивная война», что противоречит более пророссийской позиции партии. Через несколько дней власти закрыли приложение.

Г-н Сюй сказал, что добавляет меры по созданию более «патриотического» бота. Они включают в себя отфильтровывание деликатных ключевых слов и наем дополнительных рецензентов, которые помогут ему отметить проблемные ответы. Он даже тренирует отдельную модель, которая может обнаруживать «неправильные точки зрения», которые он будет фильтровать.

Тем не менее, неясно, когда бот г-на Сюя удовлетворит власти. Судя по снимкам экрана, изначально приложение должно было возобновить работу 13 февраля, но по состоянию на пятницу оно все еще не работало.

«Обслуживание возобновится после завершения устранения неполадок», — гласило оно.