Генеративный искусственный интеллект вступил в новую и опасную фазу, когда вымысел может убедительно сойти за факт. От фальшивых паспортов до клонированных голосов — мистификации ИИ становятся все более изощренными, в результате чего обычные люди, правительства и даже предприятия с трудом могут определить, что же на самом деле является реальностью.
Так называемый ‘Паспорт Торенца Женщина— один из примеров того, как легко дезинформация, созданная генеративным искусственным интеллектом, может распространиться по всему миру за считанные минуты.
Женщина с паспортом Торенцы: вирусный обман искусственного интеллекта
А видео Изображение женщины, прибывающей в международный аэропорт имени Джона Ф. Кеннеди в Нью-Йорке из Токио с паспортом несуществующей страны под названием «Торенца», недавно стало вирусным в TikTok и X (ранее Twitter). В ролике женщина спокойно передает свой сфабрикованный паспорт сотрудникам иммиграционной службы, одновременно объясняя местонахождение своей вымышленной родины. Эти кадры подпитывали онлайн-теории о путешествиях во времени, альтернативных измерениях и правительственных заговорах.
Однако никаких официальных записей о таком инциденте не существует. Власти аэропорта имени Джона Кеннеди и таможенная и пограничная служба США не опубликовали никаких заявлений, подтверждающих наличие пассажира из «Торенцы». Расследование показало, что видео было создано с использованием инструментов искусственного интеллекта, во многом заимствованных из многолетней городской легенды оЧеловек из Тауреда» — предполагаемый путешественник, который появился в Токио в 1954 году с документами из несуществующей страны, а затем загадочно исчез.
Истоки обмана, генерируемого ИИ
Генеративный ИИ дал возможность каждому, у кого есть подключение к Интернету, создавать убедительные изображения, видео и голоса, которые кажутся аутентичными. Такие инструменты, как Runway, Stable Diffusion и ChatGPT, доступны по всему миру, что позволяет пользователям создавать правдоподобные, но ложные истории с минимальными техническими навыками.
Мистификации, создаваемые искусственным интеллектом, эксплуатируют человеческую склонность доверять тому, что можно увидеть и услышать. Когда реалистичный контент распространяется в Интернете, он может вводить в заблуждение миллионы прежде чем фактчекеры успеют отреагировать. По мере совершенствования технологий искусственного интеллекта растет и качество дезинформации, что делает обнаружение более трудным, чем когда-либо.
Дипфейки, клонирование голоса и распространение мошенничества с использованием искусственного интеллекта
Помимо вымышленных историй, таких как «Торенца», генеративный ИИ все чаще используется в киберпреступность. Технология Deepfake, которая может убедительно копировать человеческий облик или голос, позволила проводить мошеннические действия, нацеленные как на отдельных лиц, так и на корпорации. Мошенники клонируют голоса, чтобы выдать себя за членов семьи или руководителей компаний, обманом заставляя жертв переводить деньги или делиться конфиденциальными данными.
Опрос, проведенный в 2024 году, показал, что почти половина компаний в отдельных странах столкнулись с мошенничеством, связанным с дипфейками, при этом в одном отчете указывается, что Гонконгская фирма потерял более 20 миллионов фунтов стерлингов (приблизительно 25 миллионов долларов США) из-за имитации видеозвонка, созданного ИИ. Клонирование голоса в частности, это одна из самых сложных форм обмана для обнаружения: 70% людей признают, что не могут надежно отличить клонированные голоса от настоящих.
Доступность и риск ИИ с открытым исходным кодом
В то время как коммерческие системы искусственного интеллекта, такие как ChatGPT и Midjourney, имеют встроенные фильтры безопасности, модели с открытым исходным кодом часто их не имеют. Эти неограниченные системы, такие как GPT-J, разработанные EleutherAI в 2021 году, были перепрофилированы преступниками для создания мошеннических инструментов, таких как FraudGPT и WormGPT. Эти программы могут без ограничений генерировать фишинговые электронные письма, вредоносное ПО и другие формы кибермошенничества.
Открытый характер этих моделей означает, что разработчики могут обучать их на любых данных по своему выбору, включая вредные или незаконные материалы. Отсутствие контроля делает их мощными инструментами в чужих руках, позволяя злоумышленникам обходить ограничения, существующие в основных системах искусственного интеллекта.
Кто подвергается наибольшему риску?
Быстрое распространение дезинформации, вызванной искусственным интеллектом, непропорционально влияет на общество. самый уязвимый группы: пожилые, молодые и люди с умственными недостатками. Центр рассмотрения жалоб на интернет-преступления ФБР сообщил о росте числа случаев преступности на 14%. мошенничество, направленное на пожилых людей в 2023 году, что приведет к финансовым потерям, превышающим 2,5 миллиарда фунтов стерлингов (приблизительно 3,4 миллиарда долларов США). Многие из этих случаев были связаны с голосовым или видеомошенничеством с использованием генеративного искусственного интеллекта.