Сексуально откровенно Изображения, созданные искусственным интеллектом из Тэйлор Свифт распространено на X (ранее Twitter) на этой неделе, подчеркивая, насколько сложно остановить создание и широкое распространение дипфейков, созданных искусственным интеллектом.
Фальшивые изображения самой известной в мире поп-звезды циркулировали почти весь день в среду, набрав десятки миллионов просмотров, прежде чем были удалены, сообщает >.
Как и большинство других социальных сетей, X придерживается политики, которая запрещает распространение «синтетических, манипулируемых или вырванных из контекста медиа, которые могут обмануть или сбить с толку людей и причинить вред».
Не называя явно Swift, X сказал в своем заявлении: «Наши команды активное удаление всех идентифицированных изображений и принятие соответствующих мер в отношении учетных записей, ответственных за их публикацию».
В сообщении 404 Media утверждается, что изображения возможно, возник в группе в Telegram, где пользователи делятся откровенными изображениями женщин, созданными с помощью искусственного интеллекта, часто созданными с помощью Microsoft Designer. Сообщается, что пользователи группы пошутили о том, как изображения Свифта стали вирусными на X.
Термин «ИИ Тейлор Свифт» также был популярен на платформе в то время, продвигая изображения еще дальше и представляя их большему количеству глаз. Поклонники Swift сделали все возможное, чтобы скрыть изображения, наводнив платформу положительными сообщениями о Swift, используя соответствующие ключевые слова. Предложение «Защитите Тейлор Свифт» также было в моде в то время.
И хотя Swifties во всем мире выразили свою ярость и разочарование по поводу медленной реакции X, это вызвало широкий разговор о распространении несогласованных, сгенерированных компьютером изображений реальных людей.
“Его всегда был темным подводным течением Интернета, разного рода порнография без согласия», — рассказал New York Times Орен Этциони, профессор информатики Вашингтонского университета, занимающийся обнаружением дипфейков. «Теперь это новый штамм, который особенно вреден».
Получите последние новости страны.
Отправляется на вашу электронную почту каждый день.
«Мы увидим цунами этих откровенных изображений, сгенерированных ИИс. Люди, которые это создали, считают это успехом», — сказал Эциони.
Кэрри Голдберг, адвокат, которая представляла интересы жертв дипфейков и других форм материалов откровенно сексуального характера, распространяемых без согласия, сказала NBC News, что правил в отношении дипфейков на платформах социальных сетей недостаточно, и компании должны работать лучше чтобы предотвратить их публикацию в первую очередь.
«У большинства людей нет миллионов фанатов, которые готовы сражаться за них, если они станут жертвами», — сказал Голдберг изданию, ссылаясь на поддержку фанатов Свифта. «Даже те платформы, на которых есть политика дипфейков, они не очень хорошо ее обеспечивают, или, особенно, если контент распространяется очень быстро, это становится типичным сценарием «ударь крота».
ФАЙЛ — Тейлор Свифт выступает во время «The Eras Tour» в Нэшвилле, штат Теннеси, 5 мая 2023 года.
Джордж Уокер IV / Associated Press
«Подобно тому, как технологии создают проблемы, они тоже очевидное решение— продолжила она.
«ИИ на этих платформах может идентифицировать эти изображения и удалить их. Если есть одно изображение, которое распространяется, на это изображение также можно поставить водяной знак и идентифицировать его. Так что нет никаких оправданий».
Но X может столкнуться с дополнительными сложностями, когда дело доходит до обнаружения фальшивых и вредных изображений и дезинформации. Когда Илон Маск купил сервис в 2022 году он принял серию тройных решений, которые широко критиковались за то, что позволили процветать проблемному контенту — он не только ослабил правила содержания сайта, но также распотрошил команду модераторов Твиттера и восстановил аккаунты, которые ранее были заблокированы. за нарушение правил.
Бен Декер, руководитель агентства цифровых расследований Memetica, рассказал >, что, хотя неудачно и неправильно, что Свифт стал мишеньюэто может стать толчком, необходимым для того, чтобы вывести разговор о дипфейках с использованием ИИ на передний план.
«Я бы сказал, что им нужно, чтобы она почувствовала себя лучше, потому что у нее, вероятно, больше влияния, чем у кого-либо еще в Интернете».
И не только ультра-известные люди становятся объектом этой конкретной формы коварной дезинформации; множество обычных людей стали объектами дипфейков, а иногда и мишенью «порномести», когда кто-то создает их откровенные изображения без их согласия.
В декабре канадский орган по надзору за кибербезопасностью предупредил, что избирателям следует внимательно следить за изображениями и видео, созданными искусственным интеллектом, которые могут «весьма вероятно» может быть использовано попытаться подорвать веру канадцев в демократию на предстоящих выборах.
В своем новом отчете Управление безопасности коммуникаций (CSE) заявило, что политические дипфейки «почти наверняка станет труднее обнаруживать, из-за чего канадцам будет труднее доверять онлайн-информации о политиках или выборах».
«Несмотря на потенциальные творческие преимущества генеративного ИИ, его способность загрязнять информационную экосистему дезинформацией угрожает демократическим процессам во всем мире», — пишет агентство.
«Чтобы внести ясность, мы считаем, что активность киберугроз с большей вероятностью произойдет во время следующих федеральных выборов в Канаде, чем это было в прошлом», — сказала глава CSE Кэролайн Ксавьер.
— С файлами Натаниэля Дава из Global News.
© 2024 Global News, подразделение Corus Entertainment Inc.
2024-01-26 19:17:30
1706318335
#Изображения #Тейлор #Свифт #рейтингом #полученные #искусственным #интеллектом #распространились #на #что #вызвало #призывы #репрессиям #National