Создание машины дезинформации с искусственным интеллектом стоит всего 400 долларов

В мае «Спутник» Государственное российское СМИ International опубликовало серию твитов, критикующих внешнюю политику США и администрацию Байдена. Каждый из них вызывал краткое, но хорошо продуманное опровержение со стороны учетной записи CounterCloud, иногда включая ссылку на соответствующую новость или авторскую статью. Это вызвало аналогичные реакции на твиты российского посольства и китайских новостных агентств, критикующих США.

Российская критика США далеко не является чем-то необычным, но CounterCloud выступил с ответным заявлением: твиты, статьи и даже журналисты и новостные сайты были полностью созданы искусственный интеллект Алгоритмы, по словам человека, стоящего за проектом, который известен под именем Неа Пау и говорит, что он предназначен для того, чтобы подчеркнуть опасность массового производства дезинформации ИИ. Paw не публиковал твиты и статьи CounterCloud публично, но предоставил их WIRED, а также подготовил видео обрисовываем проект.

По утверждает, что является профессионалом в области кибербезопасности и предпочитает анонимность, поскольку некоторые люди могут счесть этот проект безответственным. Кампания CounterCloud, направленная против российского обмена сообщениями, была создана с использованием технологии генерации текста OpenAI, подобной той, что стоит за ЧатGPTи другие легкодоступные инструменты искусственного интеллекта для создания фотографий и иллюстраций, говорит По, общей стоимостью около 400 долларов.

По говорит, что проект показывает, что широко доступные генеративные инструменты искусственного интеллекта значительно упрощают создание сложных информационных кампаний, продвигающих поддерживаемую государством пропаганду.

«Я не думаю, что для этого существует серебряная пуля, точно так же, как не существует серебряной пули для фишинговых атак, спама или социальной инженерии», — говорит По в электронном письме. Возможны меры по смягчению последствий, например, обучение пользователей внимательно следить за манипулятивным контентом, созданным ИИ, заставить генеративные системы ИИ пытаться блокировать неправомерное использование или оснастить браузеры инструментами обнаружения ИИ. «Но я думаю, что ни одна из этих вещей не является по-настоящему элегантной, дешевой или особенно эффективной», — говорит По.

В последние годы исследователи дезинформации предупредил что языковые модели искусственного интеллекта могут использоваться для создания высоко персонализированных пропагандистских кампаний, а также для поддержки аккаунтов в социальных сетях, которые сложным образом взаимодействуют с пользователями.

Рене ДиРестаменеджер по техническим исследованиям Стэнфордской интернет-обсерватории, которая отслеживает информационные кампании, говорит, что статьи и профили журналистов, созданные в рамках проекта CounterCloud, достаточно убедительны.

«Помимо государственных деятелей, агентства по управлению социальными сетями и наемники, предлагающие услуги по оказанию влияния, без сомнения, подхватят эти инструменты и включат их в свои рабочие процессы», — говорит ДиРеста. Широкое распространение и распространение фейкового контента является непростой задачей, но этого можно добиться, платя влиятельным пользователям за то, чтобы они распространяли его, добавляет она.

Уже появились некоторые свидетельства проведения онлайн-кампаний по дезинформации с использованием искусственного интеллекта. Академические исследователи недавно обнаружили грубый ботнет, продвигающий криптовалюту очевидно, работает на ChatGPT. Команда заявила, что это открытие предполагает, что ИИ, стоящий за чат-ботом, вероятно, уже используется для более сложных информационных кампаний.

Законные политические кампании также обратились к использованию ИИ в преддверии президентских выборов в США в 2024 году. В апреле Национальный комитет Республиканской партии подготовил видео нападки на Джо Байдена, включая фальшивые изображения, созданные искусственным интеллектом. А в июне аккаунт в социальной сети, связанный с Роном Десантисом, включил в него изображения, созданные искусственным интеллектом. видео призван дискредитировать Дональда Трампа. Федеральная избирательная комиссия заявила, что может ограничить использование дипфейков в политической рекламе.