Прокурор Калифорнии начал расследование по делу xAI

Генеральный прокурор Калифорнии объявил в среду, что запускает расследование против xAI из-за распространения обнаженных изображений в Интернете женщин и детей, созданных с помощью помощника по искусственному интеллекту Грока, созданного этой компанией Илона Маска. «Похоже, что xAI способствует крупномасштабному незаконному присвоению без согласия интимных изображений (дипфейков), используемых для преследования женщин и молодых девушек в Интернете, особенно через социальную сеть X»обвиняет пресс-релиз прокурора-демократа Роба Бонты, расследования которого дополняют многочисленные расследования, открытые в ряде стран по этому делу.

Соответственно, «Мой офис сегодня официально объявляет о расследовании в отношении xAI, чтобы определить, нарушил ли xAI закон и если да, то каким образом»– заявляет прокурор Бонта, цитируемый в пресс-релизе. «Я призываю xAI принять незамедлительные меры, чтобы подобное не повторилось»он добавляет: «Мы не терпим к созданию и распространению ИИ без согласия интимных изображений или детской порнографии».

Пропустить рекламу

В последние недели вокруг Грока и предлагаемой им возможности изменять изображения, в частности опубликованные в социальной сети X, также принадлежащей Илону Маску, выросло движение международного возмущения. Некоторые пользователи воспользовались возможностью опубликовать или ответить на сообщения, содержащие фотографии женщин, сопровождая их инструкцией типа «Оставь ее в бикини» получить взамен гиперреалистичный монтаж («дипфейк» по-английски).

Аргументационный маркетинг

По состоянию на 9 января функция создания изображений была отключена для неплатящих пользователей X, в которых говорится, что предпринимаются шаги по удалению такого незаконного контента и приостановке работы затронутых учетных записей. Прокурор Калифорнии раскритиковал xAI за пропаганду возможности раздевать людей «как маркетинговый аргумент, который, что неудивительно, вызвал распространение сексуального контента без согласия заинтересованных лиц». «Сообщается, что xAI также создает реалистичные изображения детей, вовлеченных в сексуальные действия»далее осуждает пресс-релиз.

На прошлой неделе анализ более 20 000 изображений, созданных Гроком, проведенный неправительственной организацией AI Forensics, показал, что более половины из них изображают полураздетых людей, из которых 81% — женщины, а 2% — несовершеннолетние. Индонезия и Малайзия на выходных приостановили доступ к Grok, а Индия заявила, что с X были удалены тысячи фрагментов контента. Расследования ведутся в нескольких странах, включая Великобританию и Францию.