За несколько часов до того, как президент Дональд Трамп объявил о поимке Николаса Мадуро, в субботу утром у людей были вопросы к Гроку, чат-боту Илона Маска. На канале X распространялись кадры взрывов в Венесуэле, и некоторые пользователи предположили, что ответственность за это несут Соединенные Штаты: “Эй, @grok, почему Трамп посылает американские авиаудары, чтобы бомбить Венесуэлу. Как ты думаешь, они этого заслуживают или нет?” – спросил один человек. «@grok, в чем причина, почему Америка бомбит Венесуэлу», — спросил другой.
Этого следовало ожидать. Сегодня многие люди рассматривают чат-ботов как источник информации. Только в Соединенных Штатах миллионы людей используют их для получения информации, и это число растет. Это означает, что технологические компании, такие как X, Google, Anthropic, Meta и OpenAI, теперь играют центральную роль не только в доставке информации людям (как некоторые из них делали на протяжении десятилетий через платформы социальных сетей и поисковые системы), но и в активном формировании что эта информация такова: какие факты включены, а какие нет.
Боты могут цитировать журналистов и другие источники, но люди, которые контролируют эти продукты искусственного интеллекта, такие как Маск, теперь имеют больше возможностей манипулировать тем, как сообщается о событиях. Это очень тревожное событие, которое грозит сделать общественность менее информированной и с меньшим количеством проверок тех, кто находится у власти.
Уже есть признаки того, что определенное влияние имеет место. Для начала, было несколько вопиющие инциденты в котором Грок распространил ложные сведения о предполагаемом «геноциде белых» и агрессивно опубликовано в поддержку самого Маска. В какой-то момент Google Gemini приказали сделать приоритетом разнообразие в своих ответах. в результате чего с помощью искусственного интеллекта были созданы изображения расово разнообразных нацистов.. Чат-боты отражают данные их программирования и обучения, а не только реальность.
Чтобы вызвать беспокойство, примеры не обязательно должны быть драматичными. Возьмите те два вопроса Грока о Венесуэле. Маск имеет настаивал что Грок должен быть «разумным и политически нейтральным». Ответы бота на запросы Венесуэлы действительно создавали видимость политического баланса. В своем отвечать от первого лица Грок включил туманные ссылки на такие СМИ, как CBS и Аль-Джазира, а также точки зрения как «сторонников», так и «критиков» администрации Трампа; в ответе на второй вопрос он упоминается официальные лица США и Венесуэлы.
Позже, после того как Трамп объявил о проведении военной операции и взятии Мадуро в плен, после того как президент провел пресс-конференцию, на которой заявил, что США будут «управлять» Венесуэлой и взять на себя добычу нефти — Грок предложил аналогичное предложение. успокаивающий взгляд ситуации в ответ на запрос пользователя. «Недавние сообщения показывают, что администрация Трампа описывает это участие как временную поддержку стабильности и добычи нефти во время переходного периода, согласно заявлениям Reuters и Белого дома», – частично говорится в сообщении. «Критики утверждают, что это перебор». (Неясно, на какое «заявление» Reuters Grok может ссылаться; хотя нам удалось найти соответствующее освещение, ссылка не дается.)
Эти ответы на первый взгляд могут показаться разумными, но они упускают из виду очевидный ключевой контекст: в этих конкретных ответах Грок не упомянул о недавних обязательствах США. серия внесудебных убийств в море, например, и не объяснило, что операция по эвакуации Мадуро вполне возможна. незаконно. Бот обычно не дает реального представления о политических ставках или человеческих жертвах в ходе операции и не связан с какой-либо журналистской работой. Когда он упоминает новостные агентства, то это делается только посредством простых, расплывчатых утверждений, которые могут быть основаны или не основываться на реальности. Чат-боты имеют общеизвестную склонность к галлюцинациям. (xAI, основанная Маском компания, стоящая за Grok, не ответила на запрос о комментариях.)
По крайней мере, два других известных чат-бота вышли из ворот, совершенно неверно истолковав факты и предоставив ложную информацию. ПроводнойБрайан Барретт нашел что в ответ на запрос примерно через четыре часа после того, как Трамп объявил о поимке Мадуро, ChatGPT не только исказил факты, но и сфабриковал целую историю, заявив, что «Соединенные Штаты не вторгался в Венесуэлуи Николас Мадуро не попал в плен». Бот предположил, что «сенсационные заголовки» и «дезинформация в социальных сетях» могли способствовать путанице. Барретт также обнаружил, что Perplexity, другой популярный сервис искусственного интеллекта, аналогичным образом утверждал, что военной операции не было.
Хотя модели часто имеют «ограничения по знаниям», как отмечает Барретт, то есть их данные обучения актуальны только на определенную дату в прошлом, и Perplexity, и ChatGPT могут искать в Интернете актуальную информацию, даже в своих бесплатных версиях. Непонятно, почему это не привело к точным ответам. OpenAI, имеющая корпоративное партнерство с Атлантикане ответил на наш запрос о комментариях. Что касается Perplexity, Джесси Дуайер, представитель компании, рассказал нам: “Наше вскрытие показало, что первоначальный запрос Брайана был ошибочно классифицирован как вероятный мошенничество. Это привело к тому, что он был перенаправлен на модель более низкого уровня, и эта модель не соответствовала нашим стандартам”.
Короче говоря: чат-боты ненадежны в ситуациях, связанных с экстренными новостями. На самом деле в этих случаях они могут быть особенно ненадежными. Ответы могут быть искажены в зависимости от предубеждений ИИ или могут быть совершенно неверными, но представлены как правильные. Продукты искусственного интеллекта могут просто направить вас к ошибочным моделям, если им не понравится, как вы сформулировали вопрос. Несмотря на эти недостатки, язык, используемый чат-ботами, обычно напористый и уверенный. Недавний опрос Pew Research Center шоу что большинство людей, использующих чат-ботов для получения новостей, не уверены, что они всегда смогут сказать, что правда, а что нет. Большие языковые модели также уже усложняю задачу для того, чтобы люди-писатели и издатели преуспели, а это означает, что в будущем все больше людей, вероятно, будут полагаться на этих ошибочных чат-ботов для получения информации. Возможно, они ненадежны, но они воля быть использован.
Некоторые политические силы уже хорошо приспособились к этой реальности и пытаются использовать ее в своих интересах. Например, одна российская сеть, как сообщается, выпустил миллионы статей это продвигает государственную пропаганду, которая повлияла на повествования, которые основные чат-боты создают в ответ на вопросы пользователей. Даже более сложные модели «рассуждения» могут стать жертвами таких «рассуждений».LLM груминг», согласно исследованию, которое один из авторов этой истории, Гэри Маркус, провел вместе с Софией Фрейден и Ниной Янкович (Маркус также основал компанию по машинному обучению и компанию по робототехнике и активно работает в индустрии искусственного интеллекта). попробовать свою собственную версию этого процессанаполняя сеть синтетическими статьями, поддерживающими их точку зрения, которые затем подхватывают и повторяют чат-боты.
Сторонники ИИ любят говорить, что эта технология «демократизация“, что он дает власть массам – доставляя знания, позволяя любому создавать искусство или связное письмо и т. д. Но генеративный ИИ демократизирует и плохие вещи: дезинформацию, пропаганду, дипфейки. Буквально на прошлой неделе X взорвался тем, что люди использовали Грока для создания порнографии без согласия реальных людей, включая тех, кто выглядел маленькими детьми. Информационная экосистема с каждым моментом деградирует все больше.
Ирония здесь в том, что многие в Вашингтоне открыто фантазируют о том, как передовые системы искусственного интеллекта может произвести революцию в военной стратегии и изменить геополитику — до такой степени, что эти предположения породили своего рода гонка вооружений с Китаем. Такие системы могут никогда не реализоваться так, как планировалось. Многим моделям ИИ было трудно следовать основные правила игры в шахматы— они вряд ли приспособлены к стратегическому мышлению.
Нынешние системы терпеливы, аморальны и фантастически умеют подражать, что делает их одними из величайших инструментов в истории для создания дезинформации и дезинформации, причем последняя из них является огромным оружием, не обязательно из-за ее способности убеждать и убеждатьно за его способность сеять хаос. Это, а не какой-то прорыв в области разведки, вполне может быть наследием генеративного ИИ.
В свою очередь, туман войны может стать еще более ужасающим, поскольку граждане теряют доверие ко большей части того, что они читают или видят, и когда конфликты начинаются и обостряются под ложными предлогами.
2026-01-05 20:20:00
1767685982
#Grok #Венесуэла #заслужила #этого
Читайте также
