Китай разрабатывает правила для защиты детей и борьбы с риском самоубийства

Китай предложил новые строгие правила для искусственного интеллекта (ИИ), чтобы обеспечить защиту детей и запретить чат-ботам давать советы, которые могут привести к членовредительству или насилию.

В соответствии с запланированными правилами разработчики также должны будут гарантировать, что их модели искусственного интеллекта не создают контент, пропагандирующий азартные игры.

Это объявление было сделано после резкого роста числа чат-ботов, запускаемых в Китае и по всему миру.

После доработки правила будут применяться к продуктам и услугам искусственного интеллекта в Китае, что станет важным шагом в регулировании быстроразвивающейся технологии, которая в этом году подверглась пристальному вниманию из-за проблем безопасности.

Проект правилкоторые были опубликованы на выходных Администрацией киберпространства Китая (CAC), включают меры по защите детей. Они включают в себя требование от компаний, занимающихся искусственным интеллектом, предлагать персонализированные настройки, устанавливать ограничения по времени на использование и получать согласие опекунов, прежде чем предоставлять услуги эмоционального общения.

Операторы чат-ботов должны поручить человеку вести любой разговор, связанный с самоубийством или членовредительством, и немедленно уведомлять опекуна пользователя или контактное лицо для экстренных случаев, заявила администрация.

Поставщики ИИ должны гарантировать, что их услуги не создают и не распространяют «контент, который ставит под угрозу национальную безопасность, наносит ущерб национальной чести и интересам». [or] подрывает национальное единство”, – говорится в заявлении.

В CAC заявили, что поощряют внедрение ИИ, например, для продвижения местной культуры и создания инструментов для общения пожилых людей, при условии, что технология безопасна и надежна. Он также призвал получить обратную связь от общественности.

Китайская фирма искусственного интеллекта DeepSeek попал в заголовки газет по всему миру в этом году после того, как он возглавил чарты загрузок приложений.

В этом месяце два китайских стартапа Z.ai и Minimax, которые вместе имеют десятки миллионов пользователей, объявили о планах выхода на фондовый рынок.

Эта технология быстро завоевала огромное количество подписчиков, причем некоторые используют ее для общение или терапия.

В последние месяцы влияние искусственного интеллекта на поведение человека стало объектом пристального внимания.

Сэм Альтман, глава OpenAI, создателя ChatGPT, заявил в этом году, что то, как чат-боты реагируют на разговоры, связанные с членовредительством, является одной из самых сложных проблем компании.

В августе семья в Калифорнии подали в суд на OpenAI из-за смерти их 16-летнего сынаутверждая, что ChatGPT подстрекал его покончить с собой. Иск стал первым судебным иском, обвиняющим OpenAI в смерти в результате противоправных действий.

В этом месяце компания объявила о назначении «руководителя отдела готовности», который будет отвечать за защиту от рисков, связанных с моделями ИИ, для психического здоровья человека и кибербезопасности.

Успешный кандидат будет отвечать за отслеживание рисков ИИ, которые могут нанести вред людям. Господин Альтман сказал: «Это будет напряженная работа, и вы почти сразу же прыгнете в самую глубь».

Если вы страдаете от стресса или отчаяния и нуждаетесь в поддержке, вы можете поговорить с медицинским работником или организацией, которая предлагает поддержку. Подробную информацию о помощи, доступной во многих странах, можно найти на сайте Befrienders Worldwide: www.befrienders.org.

В Великобритании список организаций, которые могут помочь, доступен по адресу: bbc.co.uk/actionline. Читатели в США и Канаде могут позвонить на линию помощи самоубийцам 988 или посетите его сайт.