Как избежать мошенничества с телефоном с искусственным интеллектом, которое только что ударило по калифорнийскому технологическому инвестору

Отцу Касадо позвонил кто-то, назвавшийся Касадо (и по голосу похожий на него) и сказал, что он «находится в тюрьме после автомобильной аварии и нуждается в залоге в 10 тысяч долларов», написал Касадо в сообщении на X, ранее называвшемся Twitter. «Он направлялся в банк, но на всякий случай решил позвонить мне (к счастью, я взял трубку, я в Японии)».

Этот тип телефонного мошенничества с использованием технологий стал предметом расследования слушание перед сенатским комитетом по вопросам старения в прошлый четверг. В этом типе мошенничества мошенники создают клон чьего-либо голоса, загружая записи фишинговых телефонных звонков или видео из социальных сетей в систему, основанную на искусственном интеллекте. Затем они могут использовать эти клоны ИИ, чтобы звонить вашим близким, выдавая себя за вас, и просить о чем-то (часто финансовой помощи).

Несколько инструментов клонирования голоса легко доступны в Интернете. Создатель одного из таких инструментов, Любовь, утверждает, что использует алгоритм, позволяющий разбивать голосовые записи на крошечные фрагменты звука. Эти фрагменты используются для создания модели, которая может превратить введенный пользователем текст в новый аудиоклип, используя голос, который, по словам Лово, будет звучать почти идентично голосу исходного говорящего.

Улучшения в технологиях искусственного интеллекта снизили планку создания такой синтетический звук. Исследователи Microsoft объявлено в январе они успешно имитировали речь, используя трехсекундную запись голоса, хотя этот конкретный инструмент недоступен для публики. Речькоторая действительно предлагает публике такие голосовые клоны, заявляет, что может сделать это с помощью 30-секундного аудиоклипа.

Теперь, когда технология стала доступной и совершенствуется, возможность должностных преступлений привлекла внимание федерального правительства. «Голосовые клоны могут имитировать голос любимого человека и могут легко обмануть потребителей и предприятия, заставив их выдать ценную личную информацию», — заявил сенатор Боб Кейси от Пенсильвании на слушаниях в четверг.

На слушаниях выступили несколько родителей, поделившихся историями, очень похожими на историю Касадо: каждому из них звонили люди, похожие на их детей, с просьбой немедленно помочь внести залог. В пятницу ФБР опубликовало Объявление государственной службыпредупреждая, что агентство получило более 195 жалоб на подобные «мошенничества с бабушками и дедушками», при этом у жертв было изъято не менее 1,9 миллиона долларов.

ФБР рекомендует людям ограничивать личную информацию, которую они публикуют в социальных сетях и на сайтах знакомств, и предупреждает потребителей никогда не отправлять деньги неизвестному человеку, который обратился к ним через Интернет или по телефону.

«Если вы получите нежелательный или подозрительный звонок от кого-то, назвавшегося членом семьи и срочно требующего денег, повесьте трубку», — написали в ФБР. «Уточните эту историю у члена своей семьи, позвонив ему напрямую. Если вы не можете с ними связаться, позвоните кому-нибудь из членов вашей семьи, даже если мошенники сказали вам держать это в секрете».

Слышали о чем-нибудь, происходящем в технологической компании Bay Area? Свяжитесь с техническим репортером Стивеном Каунлом по адресу [email protected] или по телефону 628-204-5452.