Как не попасться на гиперреалистичные звонки, которые используют ИИ для имитации голоса знакомых и осуществления мошенничества

Лас телефонное мошенничество Они очень повторяющийся метод для злоумышленников, пытающихся обмануть пользователей, чтобы получить деньги или украсть соответствующие данные, такие как пароли или банковские ключи.

Лас Методы телефонного мошенничества постоянно совершенствуются. больше пытается избежать защитных барьеров, которые стоят между преступниками и их целями. Прежде всего, добавляя к своим методам работы новейшие функции, предлагаемые технологиями, такие как генеративный ИИ.

Мошенники используют программы генерации голоса с технологией искусственного интеллекта к, посредством телефонных звонков, изображать из себя люди, близкие к пострадавшим и попытаться получить деньги.

В звонке злоумышленники, выдавая себя за любимого человека, рассказывают, что находятся в опасная ситуация и срочно просить помощи и денег у пострадавших. Например, мошенники могутизображая из себя внука, у которого закончились деньги во время путешествия и срочно нуждается в бабушке и дедушке, чтобы одолжить ему определенную сумму, чтобы иметь возможность вернуться домой.

Обычно мошенники прикрываются подражанием родственникам или очень близким жертве людям, например, детям или братьям и сестрам, чтобы меньше сопротивляться даче денег или меньше сомнений в законности этих звонков.

Таким образом, несмотря на то, что во время звонка жертва удивлена ​​и есть детали, которые она не может понять в истории, эти типы мошенников используют определяющий элемент, чтобы убедить жертву, что это близкий человек и должно помочь: голос. Для этого мошенники используют программы для генерации речи на основе искусственного интеллекта.

Согласно данным из Федеральная торговая комиссия (ФТК) собранные The Washington Post, телефонные аферы привели к потере до 11 миллионов долларов (около 10,2 миллиона евро) в течение 2022 года.Мошенничество с самозванцами стало вторым по распространенности типом в США.

Эти программы ИИ анализировать голос человека, которому они хотят подражать и ищите шаблоны, которые закрепляют нюансы и уникальное звучание человека, о котором идет речь, когда он говорит. То есть программы поезд для имитируйте тон, акцент и даже возраст, а затем воссоздайте их.

Кроме того, эти программы способны за считанные секунды научиться имитировать голоса. Для этого просто им нужен небольшой аудио образец в качестве основы. Например, в некоторых программах просто используйте 30 секунд человека, говорящего, чтобы подражать ему.

Эти аудиозаписи можно получить с любое видео, в котором говорит человек, которому вы хотите подражатьнапример, в личных публикациях в социальных сетях, таких как Instagram или TikTok, или даже в видео или подкастах на YouTube.

Популярность этого мошеннического метода может быть связана с тем фактом, что, помимо своей эффективности, имитация голоса несколько просто и дешево. Например, одной из компаний, разрабатывающих это «программное обеспечение», является ElevenLabs, и, в зависимости от желаемых преимуществ, их услуги могут быть бесплатными или стоить от 5 долларов (4,65 евро) и 330 долларов в месяц (279 евро).

Однако есть другие компании, которые также разрабатывают этот тип технологии как и Murf.ai; Play.ht; и Уважаемый, цена которых колеблется между 20 и 30 долларов в месяц (около 18 или 27 евро в месяц). Например, в случае Respeecher включите функция преобразования голоса в режиме реального времени. То есть по мере того, как пользователь говорит, ИИ мгновенно меняет высоту звука на имитируемый голос.

КАК ИЗБЕЖАТЬ ЭТИХ МОШЕННИЧЕСТВ

До появления этих передовых программ пользователи имитации голоса могли посмотреть на некоторые сигналы, чтобы определить, был ли вызов сделан программой генерации голоса с искусственным интеллектом.

Например, как указывает Аналитик «Лаборатории Касперского» по кибербезопасности Марк Риверо, один из этих признаков был принудительный или «роботизированный» языкголоса, используемого программой. Другим сигналом могла быть короткая пауза после вмешательства пользователя, так как система должна была обработать информацию.

По словам Риверо, также удалось идентифицировать “отсутствие типичного человеческого взаимодействия”, например, способность отвечать на непредвиденные вопросы.

Столкнувшись с этими новыми мошенничествами, в которых используются программы ИИ, имитирующие желаемый голос, технический директор Check Point Software в Испании и Португалии Эусебио Ниева, предлагает принять некоторые меры предосторожности.

Хотя он признает, что проводить проверки становится все труднее «из-за степени специализации и компетентности этих программ ИИ», следует предположить, что философия недоверия“в отношении некоторых звонков, особенно если они исходят из неизвестного источника и связаны с денежными операциями, “даже если голос можно идентифицировать”.

В этом смысле, как объяснил Эусебио Ниева, в случае получения вызова с этими характеристиками, как только пользователь определить легкое подозрениедолжен «установить какую-либо идентификацию, чтобы без всяких сомнений определить личность говорящего на другом конце».

Некоторые варианты, предложенные Ниевой, стоит попробовать говорить о том, о чем знал только реальный человек о ставить “маленькие ловушки”” во время разговора указывает на то, что есть какая-то попытка обмана.

Следуя этой теме, другим способом защиты этих вызовов является «установить протокол для двойной аутентификации вызывающего абонента, чтобы избежать этого». Например, запрос обратного звонка звонящему, чтобы определить, что это действительно известное существо.

Эти предложения также применимы к рабочей среде, прежде всего, «зная, что объектом аферы будет какой-то администратор или менеджер финансового отдела», — говорит Ниева.