Правительство попросит прокуратуру расследовать X, Meta и Tiktok на предмет создания детской порнографии с использованием ИИ

В этот вторник Совет министров попросит прокуратуру начать расследование в отношении крупных социальных сетей X, TikTok и Meta за создание и распространение детская порнография с помощью искусственного интеллекта. «Эти платформы нападают на психическое здоровье, достоинство и права наших сыновей и дочерей», — написал Педро Санчес в X.

Уже в январе прошлого года министр молодежи и детей Сира Рего направила письмо в Генеральную прокуратуру с просьбой исследовать разведданные искусственный интеллект X, Грока, за предполагаемые преступления, связанные с распространением материалов сексуального насилия в отношении детей. Grok использовался для создания «материалов о сексуальном насилии в отношении несовершеннолетних» благодаря функции редактирования изображений. С его помощью можно было легко удалить настоящие фотографии или манипулировать ими, помещая людей в сексуальные позы.

Согласно исследованию, проведенному Центром по борьбе с цифровой ненавистью, только в период с 29 декабря по 8 января Grok был использован для создания 3 миллионов реалистичных сексуализированных изображений из подлинных фотографий с помощью ИИ. Среди них 23 000 детей. После угроз штрафов в нескольких странах бизнесмен и владелец социальной сети Илон Маск решил ограничить доступ к инструменту для редактирования изображений. платящим членам. В результате скандала Европейская комиссия также начала расследование в отношении X в январе прошлого года.

Преступление

В Испании существует постановление Суда по делам несовершеннолетних Бадахоса от 2024 года, согласно которому несколько человек были осуждены за использование искусственного интеллекта для манипулирования изображениями девочек и подростков. Эта резолюция признает подобную практику формой цифрового насилия, классифицируемого как преступление детской порнографии и направленное против моральной целостности.

Передача ходатайства в прокуратуру — часть новой борьбы Санчеса с «техноолигархами», как их определил сам президент. Некоторые из мер, которые хочет реализовать исполнительная власть, — это запрет на доступ к социальным сетям несовершеннолетних в возрасте до шестнадцати лет, принуждение цифровых платформ к внедрению эффективных систем проверки возраста, а также квалификация в качестве преступления манипулирования алгоритмами и усиления незаконного контента. Санчес также хочет «покончить с безнаказанностью менеджеров, чтобы они несли юридическую ответственность за нарушения, совершенные на их платформах», если контент, который нарушает закон или считается разжигающим ненависть, не удаляется.