Женщина рассказала Би-би-си, что почувствовала себя «дегуманизированной и превращенной в сексуальный стереотип» после того, как искусственный интеллект Илона Маска «Грок» был использован для снятия с нее одежды в цифровом формате.
BBC видела на платформе социальных сетей X несколько примеров, когда люди просили чат-бота раздеть женщин, чтобы заставить их появиться в бикини без их согласия, а также ставили их в сексуальные ситуации.
XAI, компания, стоящая за Grok, не ответила на запрос о комментариях, за исключением автоматически сгенерированного ответа, в котором говорилось о «традиционной лжи СМИ».
Саманта Смит поделилась на X постом об изменении ее изображения, что было встречено комментариями тех, кто испытал то же самое, прежде чем другие попросили Грока создать больше ее изображений.
«Женщины на это не согласны», – сказала она.
«Хотя это был не я в состоянии раздевания, он выглядел как я, и ощущался как я, и это было так же оскорбительно, как если бы кто-то действительно опубликовал мою обнаженную фотографию или фотографию в бикини».
Представитель Министерства внутренних дел заявил, что принимается закон о запрете инструментов для обнажения тела, и в соответствии с новым уголовным преступлением любому, кто предоставил такую технологию, «каждый будет приговорен к тюремному заключению и крупным штрафам».
Регулятор Ofcom заявил, что технологические компании должны «оценить риск» того, что люди в Великобритании просматривают незаконный контент на своих платформах, но не подтвердил, расследует ли он в настоящее время X или Grok в отношении изображений ИИ.
Grok — это бесплатный помощник с искусственным интеллектом (с некоторыми платными премиум-функциями), который реагирует на запросы пользователей X, когда они отмечают его в сообщении.
Его часто используют, чтобы дать реакцию или дополнительный контекст на замечания других авторов, но люди на X также могут редактировать загруженное изображение с помощью функции редактирования изображений AI.
Его критиковали за то, что он позволял пользователям создавать фотографии и видео с обнаженной натурой и сексуализированным контентом, а ранее его обвиняли в создание откровенно сексуального клипа с Тейлор Свифт.
Клэр МакГлинн, профессор права в Даремском университете, сказала, что X или Грок «могли бы предотвратить эти формы злоупотреблений, если бы захотели», добавив, что они «похоже, пользуются безнаказанностью».
«Платформа позволяла создавать и распространять эти изображения в течение нескольких месяцев, не предпринимая никаких действий, и мы до сих пор не столкнулись с какими-либо проблемами со стороны регулирующих органов», — сказала она.
Собственная политика допустимого использования XAI запрещает «изображение изображений людей в порнографической манере».
В заявлении BBC Ofcom заявило, что незаконно «создавать или распространять без согласия интимные изображения или материалы о сексуальном насилии над детьми», и подтвердило, что это включает в себя сексуальные дипфейки, созданные с помощью искусственного интеллекта.
В нем говорится, что такие платформы, как X, должны были предпринять «соответствующие шаги» для «снижения риска» того, что британские пользователи столкнутся с незаконным контентом на своих платформах, и быстро удалить его, когда они узнают о нем.
Дополнительный репортаж Криса Валланса.
Продолжение темы
