Британская школьница, созданная искусственным интеллектом, стала крайне правым мемом в социальных сетях | Крайний правый

В некоторых уголках Интернета, в нишевых новостных лентах и алгоритмах, британская школьница, созданная искусственным интеллектом, стала своего рода культурным феноменом.

Ее зовут Амелия, фиолетововолосая «девушка-готка», которая с гордостью носит мини-флаг профсоюза везде, куда бы она ни пошла, и, похоже, имеет склонность к расизму.

Если вы не знакомы с Амелией, скорее всего, вы скоро столкнетесь с тем или иным вирусным мемом, вдохновленным ею, на Facebook или X, где ее репутация растет.

Видео Амелии обычно показывают, как она гуляет по Лондону или Палате общин, заявляя о своей любви к Англии и предупреждая об опасностях, исходящих от «воинственных мусульман» или «мигрантов из третьего мира». В одном из роликов бородатый мужчина в исламской одежде упрекает ее за то, что она съела свиную колбасу.

Это сообщение хорошо репетируется в крайне правых социальных сетях, но именно изобретение Амелии в области искусственного интеллекта сделало ее бесконечно адаптируемой, создав вирусную интернет-тенденцию, в которой может принять участие каждый, у кого есть доступ к основному чат-боту. Пользователи X обратились к ее инструменту Grok AI, чтобы создать так много мемов об Амелии, что теперь она вырывается из нишевых онлайн-хранилищ.

Происхождение персонажа, мягко говоря, иронично. Ранняя версия Амелии начала свою жизнь в видеоигре по борьбе с экстремизмом, финансируемой Министерством внутренних дел Великобритании и созданной для того, чтобы удержать молодых людей в возрасте 13–18 лет от привлечения к крайне правому экстремизму в Йоркшире.

Пути: Навигация в Интернете и экстремизм — это простая игра в формате с несколькими вариантами выбора и базовой анимацией. Игроки отправляются в путешествие в роли персонажей колледжа. Им предлагается принимать решения по сценариям, включая загрузку потенциально экстремистского контента или присоединение к персонажу Амелии на митинге, организованном «маленькой политической группой», протестующей против изменений в обществе и «эрозии британских ценностей».

Определенный выбор приводит к направлению в рамках антитеррористической программы британского правительства по предотвращению терроризма.

Тем не менее, это подрывная версия персонажа Амелии, которая взорвалась в социальных сетях таким образом, что удивила даже создателей оригинальной игры.

Среди множества все более сложных итераций, созданных ИИ, есть Амелия в стиле манги, версия Уоллеса и Громита, а также сгенерированные ИИ встречи из «реальной жизни» между ней и персонажами отца Теда или Гарри Поттера, сопровождаемые расистскими высказываниями и крайне правыми сообщениями.

Анализ, предоставленный Guardian британской компанией Logically, которая отслеживает дезинформацию, показал, что анонимный аккаунт, известный умелым распространением крайне правых сообщений, запустил мем Амелия на канале X 9 января с постом, который с тех пор был просмотрен 1,4 миллиона раз.

С тех пор объем «Ameliaposting» увеличился с 500 в день, когда этот аккаунт впервые представил его миру, до примерно 10 000, начиная с 15 января, когда он стал доступен международной аудитории. В среду только на X было опубликовано 11 137 постов.

Одним из самых сюрреалистических поворотов событий стало появление криптовалюты Amelia, и пользователи социальных сетей стремились использовать ее ценность для повышения популярности мема. В среду Илон Маск ретвитнул аккаунт X, продвигающий криптовалютный токен Amelia.

«То, что мы наблюдаем, — это монетизация ненависти», — сказал Маттео Бергамини, основатель и генеральный директор Shout Out UK, компании по обучению политической и медиаграмотности, которая создала оригинальную игру.

«Мы видели, как группы Telegram обмениваются сообщениями на китайском языке о монете-меме и говорят о том, как искусственно завысить ее стоимость, поэтому на этом зарабатывают много денег».

Сама компания стала объектом потока писем с ненавистью, включая угрозы смертью, о которых сейчас сообщили в полицию.

Бергамини отмечает, что первоначальная инициатива никогда не задумывалась как отдельная игра. Скорее, он предназначался для использования в классах вместе с набором учебных ресурсов, но этот факт, по его словам, игнорируется освещением и комментариями.

«К сожалению, было много искажений», — сказал он. «В игре, например, не говорится, что ставить под сомнение массовую миграцию по своей сути неправильно».

Другие предполагают, что эта инициатива имела неприятные последствия, не в последнюю очередь из-за того, что «милая девушка-гот» была выбрана в качестве отрицательного персонажа, что привело к тому, что она непреднамеренно стала объектом восхищения. Но Бергамини сказал, что игра, в которой перед созданием использовались отзывы фокус-групп с молодыми людьми, продолжала использоваться, а отзывы школ и других лиц были положительными.

Тем не менее, скорость и изощренность создания в сети якобы провокационных мемов об Амелии застали его врасплох.

«Это дало нам возможность задуматься о безопасности, а также продемонстрировало вполне реальные риски, присущие этой новой технологии искусственного интеллекта, когда дело касается демократии, дезинформации и других областей», — сказал он.

Сиддхарт Венкатарамакришнан, аналитик Института стратегического диалога (ISD), сказал: «Мы видели, как этот мем получил широкое распространение и распространение среди крайне правых и за его пределами, но что также следует отметить, так это то, как он теперь стал международным.

“В каком-то смысле это затрагивает суть того, что мы могли бы назвать ультраправыми “диссидентами” – людей, которые позиционируют себя вне основной политической сцены – будь то “дерьмопостеры”, которые просто провоцируют, или другие, которые в твитовых мемах. Целая экосистема приняла это. Очевидно, что сексуализированные образы также являются ключом к этому. Целевая аудитория – почти исключительно молодые люди”.