Страны ЕС согласились запретить модели искусственного интеллекта, допускающие сексуальные «дипфейки» | Технология

В эту пятницу страны ЕС договорились потребовать запрета на системы искусственного интеллекта (ИИ), которые позволяют создание сексуальных изображений без согласия й поколение детской порнографии. Это решение является частью текущего законодательного процесса, целью которого является упрощение европейского регулирования. Окончательное принятие меры зависит от переговоров с парламентом о реформе Закона об AI, которые должны начаться в начале апреля.

Согласно заявлению Совета, поправка, предложенная Испанией, направлена на то, чтобы европейское регулирование «запретило практику искусственного интеллекта, связанную с созданием без согласия сексуального и интимного контента или материалов о сексуальном насилии над детьми». Модель искусственного интеллекта, позволяющая создавать изображения такого типа, будет наложена вето в ЕС.

Запрос возникает после спора произошедшее в конце декабря и в январе в соцсетигде тысячи сексуализированных изображений реальных женщин, отретушированных с помощью ИИ, стали вирусными, процесс под названием дипфейк. X пользователей сгенерировано три миллиона сексуальных изображений за 11 дней, в том числе более 33 000 несовершеннолетних, согласно данным Центра по противодействию цифровой ненависти. По данным источников в Министерстве цифровой трансформации и государственной службы, предложение Испании было поддержано Францией, которая присутствовала на заседании Совета с аналогичным подходом, а также Германией, Ирландией, Словенией, Бельгией, Словакией и Венгрией.

Предложение включает в себя все системы, которые способны генерировать, манипулировать или воспроизводить изображения (а также реалистичные видео или аудио) интимных частей или которые позволяют идентифицировать людей в сексуальных действиях без явного согласия пострадавшего.

Вирусный спор с Гроком заставил Илона Маска, основателя xAI, ограничить создание этих изображений платящими пользователями X и изменить политику своей системы искусственного интеллекта. Но Грок по-прежнему допускает использование изображений такого типа при некоторых допущениях, зависящих от самой модели. Его политика теперь не позволяет ему создавать изображения «реальных людей в контексте, который может быть истолкован как сексуальный или неприемлемый», говорится в сообщении.

Критерии меняются, если человек знаменит или то, что Грок считает знаменитым. Эта газета попробовала фотографию известной актрисы, и программа ответила другим изображением, на котором она изображена в бикини. Но на другой фотографии с группой женщин внутри радиостудии (не все узнаваемы) модель ИИ интерпретировала, что «блондинка явно является известной ведущей в этом медиа-контексте», и ее политика допускает это в этом случае, потому что «это интерпретируется скорее как творческое редактирование/веселье об общественных деятелях в уже разоблаченной среде (красные дорожки, телешоу и т. д.)». Политика Грока разрешает подобные «творческие или веселые» произведения, но не откровенно сексуальные изображения этих известных деятелей. Инструмент также позволяет геоблокировка по стране или региону этот тип изображений, то есть решение, в каких местах можно или нельзя осуществлять данную деятельность.

Законодательный процесс, в рамках которого было принято это решение, является частью программы общего упрощения регулирования, в данном случае связанного с искусственным интеллектом, почти еженедельные достижения которого требуют постоянной адаптации. Кроме того, ожидается, что изменения в регулировании ИИ также будут добавлены к цифровым стандартам, влияющим на регулирование данных, включая базовое регулирование, вступившее в силу в 2018 году. известный под своей аббревиатурой на английском языке, GDPR. Должностные лица и политические лидеры Исполнительной власти сообщества Они поясняют, что речь идет не о дерегуляции.но снизить административное бремя и обязательства для компаний, которые обеспечивают небольшую добавленную стоимость и снижают их конкурентоспособность. Говорят так, в частности, из-за большого количества нормативных актов, введенных в действие предыдущим законодательным органом (2019-2024 гг.), но изменения идут дальше.