Генеративный ИИ играет удивительную роль в дезинформации Израиля и ХАМАСа

«Учитывая креативность, которую люди демонстрировали на протяжении всей истории для создания (ложных) историй, и свободу, которую люди уже имеют для создания и распространения дезинформации по всему миру, маловероятно, что значительная часть населения ищет дезинформацию, которую они не могут найти в Интернете. или офлайн», — заключает статья. Более того, дезинформация приобретает силу только тогда, когда люди ее видят, а учитывая, что время, которое люди тратят на просмотр вирусного контента, ограничено, влияние незначительно.

Что касается изображений, которые могут попасть в основные ленты, авторы отмечают, что, хотя генеративный ИИ теоретически может отображать высоко персонализированный и очень реалистичный контент, то же самое может сделать Photoshop или программное обеспечение для редактирования видео. Изменение даты на зернистом видео на мобильном телефоне может оказаться столь же эффективным. Журналисты и специалисты по проверке фактов меньше борются с дипфейками, чем с изображениями, вырванными из контекста или грубо манипулируемыми, превращая их в нечто, чем они не являются, например кадры видеоигры было представлено как нападение ХАМАС.

В этом смысле чрезмерное внимание к ярким новым технологиям часто является отвлекающим маневром. «Быть ​​реалистом — это не всегда то, что люди ищут или то, что необходимо для вирусного распространения в Интернете», — добавляет Саша Алтай, соавтор статьи и научный сотрудник, чья нынешняя область деятельности связана с дезинформацией, доверием и социальными сетями в университете. Цюриха Лаборатория цифровой демократии.

Это справедливо и в отношении предложения, объясняет Машкур; изобретение – это не реализация. «Существует множество способов манипулировать разговором или информационным пространством в Интернете», — говорит она. «И есть вещи, которые иногда требуют меньше усилий или проще в выполнении и могут не требовать доступа к определенной технологии, хотя доступ к программному обеспечению, генерирующему ИИ, в настоящее время легко доступен, определенно существуют более простые способы манипулировать чем-то, если вы» ты ищешь это».

Феликс Саймон, еще один из авторов статьи Школы Кеннеди и аспирант Оксфордского института Интернета, предупреждает, что комментарий его команды не стремится положить конец дебатам о возможном вреде, а вместо этого является попыткой дать отпор утверждениям поколения ИИ вызовет «правдивый армагеддон». Подобные паники часто сопровождают новые технологии.

Оставив в стороне апокалиптический взгляд, легче изучить, как генеративный ИИ на самом деле вписаны в существующую экосистему дезинформации. Например, оно гораздо более распространено, чем в начале российского вторжения в Украину, утверждает Хани Фарид, профессор Школы информации Калифорнийского университета в Беркли.