X заблокировал поиск Тейлор Свифт после того, как фейковые видео с искусственным интеллектом стали вирусными

X Илона Маска заблокировал поиск Тейлор Свифт после того, как на платформе широко распространились откровенно сексуальные изображения поп-звезды, созданные с помощью искусственного интеллекта.

Этот инцидент является последним примером того, как группы социальных сетей пытаются бороться с так называемыми дипфейками: реалистичными изображениями и звуками, созданными с помощью искусственного интеллекта, которыми можно злоупотреблять для изображения известных людей в компрометирующих или вводящих в заблуждение ситуациях без их согласия.

Любой поиск по таким словам, как «Тейлор Свифт» или «Тейлор AI» на X, возвращал сообщение об ошибке в течение нескольких часов в выходные после того, как за последние несколько дней в Интернете распространились порнографические изображения певицы, созданные ИИ. Это изменение означает, что даже законный контент об одной из самых популярных звезд мира труднее просмотреть на сайте.

«Это временная мера, и она осуществляется с большой осторожностью, поскольку мы уделяем приоритетное внимание безопасности в этом вопросе», — сказал Джо Бенаррох, руководитель отдела бизнес-операций X.

Свифт публично не прокомментировал этот вопрос.

X был куплен за 44 миллиарда долларов в октябре 2022 года предпринимателем-миллиардером Маском, который сократил ресурсы, выделяемые на контроль над контентом, и ослабил политику модерации, ссылаясь на свои идеалы свободы слова.

В эти выходные компания использовала механизм грубой модерации, поскольку X и ее конкуренты Meta, TikTok и Google YouTube сталкиваются с растущим давлением, требующим борьбы со злоупотреблениями все более реалистичной и легкодоступной технологией дипфейков. Появился оживленный рынок инструментов, позволяющих любому человеку с помощью генеративного ИИ создать в несколько кликов видео или изображение по подобию знаменитости или политика.

Хотя технология дипфейков доступна уже несколько лет, последние достижения в области генеративного искусственного интеллекта упростили создание изображений и сделали их более реалистичными. Эксперты предупреждают, что фейковые порнографические изображения являются одним из наиболее распространенных случаев злоупотребления технологией дипфейков, а также указывают на их растущее использование в кампаниях политической дезинформации в год выборов по всему миру.

Отвечая на вопрос об изображениях Swift в пятницу, пресс-секретарь Белого дома Карин Жан-Пьер заявила, что распространение фальшивых изображений «вызывает тревогу», добавив: «Хотя компании, занимающиеся социальными сетями, принимают свои собственные независимые решения об управлении контентом, мы считаем, что распространение фальшивых изображений вызывает тревогу». им предстоит сыграть важную роль в обеспечении соблюдения своих собственных правил». Она призвала Конгресс принять законы по этому вопросу.

В среду руководители социальных сетей, в том числе Линда Яккарино из X, Марк Цукерберг из Meta и Шу Зи Чу из TikTok, предстанут перед допросом на слушаниях в судебном комитете Сената США по вопросу сексуальной эксплуатации детей в Интернете после растущих опасений, что их платформы не делают достаточно для защиты детей.

В пятницу официальный аккаунт безопасности X сообщил в сообщении заявление что размещение «изображений наготы без согласия (NCN)» было «строго запрещено» на платформе, которая придерживается «политики нулевой терпимости к такому контенту».

В нем добавлено: «Наши команды активно удаляют все идентифицированные изображения и принимают соответствующие меры в отношении учетных записей, ответственных за их публикацию. Мы внимательно следим за ситуацией, чтобы гарантировать немедленное устранение любых дальнейших нарушений и удаление контента».

Однако истощенные ресурсы модерации контента X не смогли предотвратить миллионы просмотров поддельных изображений Swift перед удалением, что вынудило компанию прибегнуть к блокировке поиска одной из крупнейших звезд мира.

В отчете сайта технологических новостей 404 Media выяснилось, что изображения, судя по всему, были созданы с анонимной доски объявлений 4chan и группы в приложении для обмена сообщениями Telegram, посвященной обмену оскорбительными изображениями женщин, созданными искусственным интеллектом, часто сделанными с помощью инструмента Microsoft. Telegram и Microsoft не сразу ответили на запросы о комментариях.