Создателям чат-ботов с искусственным интеллектом, которые подвергают детей риску, грозят крупные штрафы или запрет в Великобритании | Интернет-безопасность

Создателям чат-ботов с искусственным интеллектом, которые подвергают детей риску, грозят огромные штрафы или даже блокировка их услуг в Великобритании в соответствии с изменениями в законодательстве, о которых Кейр Стармер объявит в понедельник.

Воодушевленные тем, что Илон Маск X запретил своему инструменту Grok AI создавать сексуализированные изображения реальных людей в Великобритании после общественного возмущения в прошлом месяце, министры планируют «преодоление отвратительного незаконного контента, созданного ИИ».

Поскольку все больше и больше детей используют чат-ботов для самых разных целей, от помощи с домашними заданиями до поддержки психического здоровья, правительство заявило, что «будет действовать быстро, чтобы закрыть юридическую лазейку и заставить всех поставщиков чат-ботов с искусственным интеллектом соблюдать обязанности по незаконному контенту, предусмотренные Законом о безопасности в Интернете, или столкнуться с последствиями нарушения закона».

Стармер также планирует ускорить введение новых ограничений на использование социальных сетей детьми, если они будут согласованы депутатами после общественных консультаций с возможным запретом для детей до 16 лет. Это означает, что любые изменения в использовании детьми социальных сетей, которые могут включать и другие меры, такие как ограничение бесконечной прокрутки, могут произойти уже этим летом.

Но консерваторы отвергли заявление правительства о том, что оно будет действовать быстро, поскольку консультации еще не начались.

«Заявления о том, что они предпринимают «немедленные действия», просто не заслуживают доверия, когда их так называемых срочных консультаций даже не существует», — сказала Лора Тротт, теневой министр образования. “Лейбористы неоднократно заявляли, что у них нет точки зрения на то, следует ли запрещать детям до 16 лет доступ к социальным сетям. Этого недостаточно. Я понимаю, что мы должны прекратить доступ детей до 16 лет к этим платформам”.

Эти шаги были предприняты после того, как интернет-регулятор Ofcom признал, что у него нет полномочий действовать против Грока, поскольку изображения и видео, созданные чат-ботом без его поиска в Интернете, не подпадают под действие существующих законов, если только они не приравниваются к порнографии. Изменение, согласно которому чат-боты с искусственным интеллектом будут подпадать под действие Закона о безопасности в Интернете, может произойти в течение нескольких недель, хотя о лазейке известно уже более двух лет.

«Технологии развиваются очень быстро, и закон должен идти в ногу со временем», — сказал Стармер. “Действия, которые мы предприняли в отношении Грока, дали четкий сигнал о том, что ни одна платформа не получает бесплатного прохода. Сегодня мы закрываем лазейки, которые подвергают детей риску, и закладываем основу для дальнейших действий”.

Компании, которые нарушают Закон о безопасности в Интернете, могут быть наказаны в размере до 10% мирового дохода, а регулирующие органы могут обратиться в суд с просьбой заблокировать их подключение в Великобритании.

Если чат-боты с искусственным интеллектом используются специально в качестве поисковых систем, для производства порнографии или работы в контексте взаимодействия между пользователями, они уже подпадают под действие закона. Но их можно использовать для создания материалов, которые побуждают людей причинять себе вред или покончить с собой, или даже создавать материалы о сексуальном насилии над детьми, не подвергаясь при этом никаким санкциям. Это лазейка, которую правительство хочет закрыть.

Исполнительный директор NSPCC Крис Шервуд сказал, что молодые люди обращались в его горячую линию, сообщая о вреде, причиненном чат-ботами с искусственным интеллектом, и что он не доверяет технологическим компаниям в их безопасной разработке.

В одном случае 14-летняя девочка, которая разговаривала с чат-ботом с искусственным интеллектом о своих привычках в еде и дисморфии тела, получила неточную информацию. В других случаях они видели «молодых людей, которые причиняют себе вред, даже когда им преподносят материалы, содержащие еще больше причинения себе вреда».

«Социальные сети принесли молодым людям огромную пользу, но и много вреда», — сказал Шервуд. «ИИ будет таким же на стероидах, если мы не будем осторожны».

OpenAI, стартап из Сан-Франциско стоимостью 500 миллиардов долларов, стоящий за ChatGPT, одним из самых популярных чат-ботов в Великобритании, и xAI, производящая Grok, обратились за комментариями.

Поскольку 16-летний калифорнийец Адам Рейн покончил с собой после, как утверждают его родственники, «месяцев поддержки со стороны ChatGPT», OpenAI запустила родительский контроль и внедряет технологию прогнозирования возраста, чтобы ограничить доступ к потенциально опасному контенту.

Правительство также проведет консультации по вопросу о том, как заставить социальные сети запретить пользователям отправлять и получать изображения обнаженных детей – практика, которая уже является незаконной.

Лиз Кендалл, министр технологий, сказала: «Мы не будем ждать, чтобы принять меры, необходимые семьям, поэтому мы ужесточим правила в отношении чат-ботов с искусственным интеллектом и закладываем основу для того, чтобы мы могли действовать в соответствии с результатами консультаций с молодежью и социальными сетями».

Фонд Молли Роуз, основанный отцом 14-летней Молли Рассел, покончившей с собой после просмотра вредоносного контента в Интернете, назвал эти шаги «желанным первоначальным взносом». Но он призвал премьер-министра принять новый Закон о безопасности в Интернете, «который ужесточает регулирование и ясно дает понять, что безопасность продукции и благополучие детей — это издержки ведения бизнеса в Великобритании».