Почему Facebook заполнен Иисусом Христом, приготовленным из яиц, спагетти или цветной капусты | Технологии

«Никому не нравятся мои художественные работы», «Я сделал это своими руками!», «Май 2024 года — ваш лучший год» — вот некоторые тексты, которые сопровождают Facebook. тысячи причудливых изображений Иисуса Христа созданный искусственным интеллектом. Сетевой алгоритм их продвигает, некоторые становятся вирусными и им удается привлечь огромную аудиторию для страниц, которые затем используют их успех для монетизации или даже мошенничества с пользователями.

«Изображения завораживают: некоторые прекрасны, некоторые сенсационны, а некоторые просто странны», — говорит Рене ДиРеста, исследователь из Стэнфордского университета и соавтор мартовской статьи об этом. явление под названием «Как спамеры а мошенники используют изображения, созданные искусственным интеллектом, на Facebook для увеличения аудитории». Тысячи пользователей взаимодействуют с этими изображениями, многие из них просто произносят «аминь», что может означать, что они — боты.

За прошедшие годы Facebook превратился в сеть, в которой распространяется контент, и основной целью которого является увеличение аудитории. «Иисус Христос» — еще один ресурс, который легко создать и который привлекает внимание: «Конкуренция за внимание среди создателей страниц означает, что они будут использовать любую тактику, которая кажется работающей, которая теперь включает в себя публикацию контента, созданного ИИ, который они, по-видимому, продвигают системы рекомендаций, ДиРеста продолжает.

Тексты, добавленные авторами, способствуют распространению этой вирусности. На некоторых изображениях чернокожий ребенок стоит рядом с Иисусом Христом, сделанным из спагетти, а текст гласит: «Спасибо всем, кто ценит мое искусство». Ни одно из этих изображений не указывает на то, что они были сделаны искусственно.

В академической статье были изучены 120 страниц Facebook, на каждой из которых было опубликовано не менее 50 изображений, созданных искусственным интеллектом. Доказательством успеха является то, что на этой странице в среднем было почти 130 000 подписчиков. Вскоре после просмотра этих фотографий алгоритм Facebook предложил больше примеров и новых вариантов. Те, что увидела EL PAÍS, были со страниц латиноамериканских пользователей, которые объединили эти религиозные изображения с мемами, животными и натюрмортами, также созданными с помощью ИИ, где они перезаписывали слова «доброе утро» или забавные видеоролики. Один из них, гаитянин, проживающий в Мексике, кратко ответил этой газете, что он действительно делал эти изображения, что они действительно нравятся людям, и признал, что с их помощью можно что-то заработать: «Да», — ответил он, но не сделал этого. хочу объяснить как. . У этого пользователя было более 7000 подписчиков.

Помимо мошенничества в Facebook, основная дискуссия такова: если люди путают эти нелепые изображения с настоящим искусством, что произойдет, когда то, что создается ИИ, будет действительно реалистичным? Определенности нет, хотя и не все в замешательстве. Под одной из этих фотографий пользователь пишет: «Какая чудесная скульптура, это руки, благословленные Богом, любовь моя, ты гений, благослови тебя Бог сегодня и завтра и всегда поздравляю из Колумбии». Другой ответил: «О, леди, как вы можете верить в эти вещи, как легко вас обмануть, разве вы не понимаете, что это ложный образ? «Не обязательно верить всему, что публикуется в сетях».

Доверчивая женщина получила еще один ответ, иллюстрирующий один из видов мошенничества. Если кто-то верит, что эти фейковые изображения реальны, они, вероятно, более наивны и их легче обмануть: «Я француженка, и прошло более 13 лет с тех пор, как мой муж повзрослел». [sic] в автокатастрофе. После смерти я унаследовала состояние мужа. Учитывая мой преклонный возраст и состояние здоровья, я решил финансово помочь людям, желающим получить финансовую помощь для своих нужд, так как у меня нет детей, которые могли бы воспользоваться моим наследством, и я не хочу, чтобы правительство заморозило мое состояние после смерти. Так что, если вас интересует экономическая деятельность, пришлите мне сообщение», — и добавил ссылку на реальный номер WhatsApp.

«Аккаунты мошенников иногда взаимодействуют с доверчивыми комментаторами публикаций как на страницах, так и в группах, иногда запрашивая личную информацию о них или предлагая продать товары, которых не существует», — поясняется в статье. После того как в группе или на странице создана аудитория, способы получения выгоды различаются: «Мы отмечаем страницы как «мошеннические», если: во-первых, они обманывают подписчиков, крадя, покупая или меняя контроль над страницей; во-вторых, ложно назвать имя, адрес или другую идентифицирующую характеристику; и/или, в-третьих, они продают поддельную продукцию», — подробно описано в научной статье.

Некоторые страницы, использующие эту тактику, часто меняют свое название и заставляют своих подписчиков заниматься чем-то другим или продавать аудиторию. Спам-страницы используют внимание, чтобы перенаправить пользователей на страницы за пределами Facebook, заполненные рекламой.

Иисус Христос – это лишь одно из главных утверждений. В третьем квартале 2023 года одним из 20 самых просматриваемых изображений на Facebook во всем мире была эта кухня со стеклянным полом. Согласно ежеквартальному отчету платформы о наиболее просматриваемом контенте, у него было 40 миллионов просмотров и 1,9 миллиона взаимодействий. Некоторые страницы, пытающиеся использовать эту ловушку, также пробуют использовать животных, детей, хижины или пейзажи — все, что может привлечь внимание на Facebook: «Подобно тому, как у Пикассо был синий период, страницы часто проходили через периоды, несколько десятков снежных скульптур; несколько десятков резных арбузов; несколько десятков резных изделий из дерева; несколько десятков искусно оформленных тарелок суши, каждая в очень похожем стиле», — говорится в статье.

«Мы подозреваем, что такой высокий уровень вовлеченности частично обусловлен алгоритмом рекомендаций Facebook», — говорят в статье ДиРеста и его соавтор Джош А. Гольдштейн из Джорджтаунского университета. Два года назад, согласно просочившемуся документу Meta, социальная сеть изменила свой алгоритм, чтобы он стал больше похож на TikTok. Согласно документу, цель заключалась в том, чтобы «помочь людям находить и наслаждаться интересным контентом независимо от того, был ли он создан кем-то, с кем вы связаны, или нет». Авторы показывают, как вырос этот контент «Предложено для вас» — в процентах от количества просмотров — с 8% в 2021 году до 24% в 2023 году.

Хотя центром всех этих вирусных изображений является Facebook, есть еще Instagram: «Изображения, созданные искусственным интеллектом, также популярны в Instagram», — говорит ДиРеста. «Они есть в Твиттере и повсюду, но дизайн Facebook и Instagram заставляет людей создавать определенные типы визуального контента и со временем наращивать аудиторию».

В феврале Meta объявила, что собирается маркировать контент, созданный искусственным интеллектом. как в Facebook, Instagram, так и в Threads. На данный момент этого не происходит ни в одном из этих случаев. Для оценки потенциальных опасностей важна эта деталь. Хотя в некоторых случаях легко обнаружить изображения, созданные ИИ, это не всегда так: «Даже в тех случаях, когда есть очевидные признаки, их идентификация все равно требует больших когнитивных усилий, и может быть нереально ожидать, что среднестатистический пользователь Facebook просто просматривает страницы». Посмотрите на свою хронологию.

Вы можете следить Технология Эль-Паис в Фейсбук й Икс или зарегистрируйтесь здесь, чтобы получать наши Семанал информационного бюллетеня.