Запрета FCC на искусственный интеллект в роботизированных звонках будет недостаточно

За несколько дней до первичных выборов Демократической партии США в Нью-Гемпшире, состоявшихся 23 января, потенциальным избирателям начали звонить с Сгенерированный искусственным интеллектом звук фальшивого президента Байдена призывая их не голосовать до всеобщих выборов в ноябре. Аудиозапись избирателей в Словакии размещена на Фейсбук содержал подделку, Аудио кандидата в президенты, созданное искусственным интеллектом планируют украсть выборы, что возможно, повлияло на исход выборов в пользу другого кандидата. Недавние выборы в Индонезия и Тайвань также были омрачены дезинформацией, созданной ИИ.

В ответ на звонок робота-фальшивого Байдена в Нью-Гэмпшире Федеральная комиссия по связи США переехал, чтобы сделать Голоса, сгенерированные искусственным интеллектом, в звонках роботов запрещены 8 февраля. Но эксперты IEEE-спектр Опрошенные не уверены, что этого шага будет достаточно, даже несмотря на то, что генеративный искусственный интеллект привносит новые повороты в старые мошенничества с вызовами роботов и предлагает возможности активизировать усилия по обману людей.

Предполагается, что общее количество потерь от мошенничества и спама в США в 2022 году составит США. 39,5 миллиардов долларов, по данным компании TrueCaller, которая создает приложение для идентификации вызывающего абонента и блокировки спама. В том же году средняя сумма денег, потерянных людьми, ставшими жертвами мошенничества, в США составил $431,26, согласно опросу Hiya, компании, предоставляющей услуги защиты вызовов и идентификации. Хия говорит, что эта сумма будет расти по мере того, как использование генеративного искусственного интеллекта будет набирать обороты.

«В целом просто ошеломляет, сколько потерь теряется из-за мошенничества, совершаемого посредством звонков от роботов», — говорит Эрик Бургердиректор по исследованиям Кибер-инициативы Содружества в Технологическом институте Вирджинии.

«Я не думаю, что мы сможем оценить, насколько быстро из-за этого изменится опыт работы с телефоном». —Джонатан Нельсон, Хия

ИИ облегчит мошенникам охоту на отдельных лиц

«Самый большой страх, связанный с генеративным искусственным интеллектом, заключается в том, что он приведет к тому, что специально разработанные мошенничества станут массовыми», — говорит Джонатан Нельсон, директор по управлению продуктами в Hiya. В частности, по его словам, генеративный ИИ облегчит реализацию целевые фишинговые атаки.

В целом, фишинговые атаки Целью обмана заставить людей поделиться личной информацией, такой как пароли и финансовая информация. Целенаправленный фишинг, однако, более целенаправленный: мошенник точно знает, на кого нацелен, и надеется на большую выплату за счет более индивидуального подхода. Теперь, благодаря генеративному искусственному интеллекту, говорит Нельсон, мошенник может парсить сайты социальных сетей, черновики текстов и даже клонировать доверенный голос массово отнимать у ничего не подозревающих людей их деньги.

После единогласного голосования FCC за запрет генеративного искусственного интеллекта в звонках роботов вопрос, естественно, переходит к правоприменению. Вот где эксперты, которые IEEE-спектр обсуждаемые вопросы, как правило, сомнительны, хотя многие также рассматривают это как необходимый первый шаг. «Это полезный шаг», — говорит Дэниел Вайнер, директор программы выборов и управления Центром Бреннана, «но это не полное решение». Вайнер говорит, что FCC трудно использовать более широкий подход к регулированию в том же духе, что и FCC. общий запрет на дипфейки обдумывается Европейским Союзом, учитывая объем полномочий FCC.

Бургер, который был техническим директором FCC с 2017 по 2019 год, говорит, что голосование агентства в конечном итоге окажет влияние только в том случае, если оно начнет обеспечивать более широкое соблюдение запрета на звонки от роботов. Большинство типов роботизированных звонков были запрещены с тех пор, как в 1991 году агентство приняло Закон о защите потребителей телефонной связи. (Есть некоторые исключения, такие как, например, заранее записанные сообщения из кабинета вашего стоматолога, напоминающие вам о предстоящем приеме.)

«Похоже, что правоприменения не происходит», — говорит Бургер. «Политики любят говорить: «Мы преследуем плохих парней», но они этого не делают – не с той энергией, которую мы хотели бы видеть».

Инструментов защиты от роботов-вызовов может быть недостаточно для борьбы с искусственным интеллектом

Ключевой метод определения источника звонка от робота (и, следовательно, предотвращения продолжения его совершения злоумышленниками) — это проследить обратный вызов через сложную сеть телекоммуникационной инфраструктуры и определить точку происхождения вызова. Раньше обратная связь была сложной задачей, поскольку вызов обычно проходит через инфраструктуру, поддерживаемую несколькими сетевыми операторами, такими как AT&T и T-Mobile. Однако в 2020 году Федеральная комиссия по связи утвердила мандат сетевым операторам начать внедрение протокол под названием STIR/SHAKEN это, среди других мер по борьбе с вызовами роботов, сделает возможным одноэтапное обратное отслеживание.

«Одноэтапная обратная связь подтвердилась», — говорит Бургер. Трассировка, например, определил источник фейковых звонков Байдена нацелена на избирателей Нью-Гэмпшира как техасская компания Life Corporation. Проблема, по словам Бергера, заключается в том, что Федеральная комиссия по связи США, Федеральное бюро расследований США и государственные агентства не предоставляют ресурсы, необходимые для борьбы с огромным количеством незаконных операций по вызову роботов. Исторически сложилось так, что FCC преследовала только самые крупные преступники.

«Эти звонки невозможно остановить», — говорит Нельсон из Hiya, — по крайней мере, не полностью. «Наша задача — не остановить их, а сделать их убыточными». Hiya, как и аналогичные компании, стремится достичь этой цели, снижая количество успешных случаев мошенничества с помощью защитных служб, в том числе раскрывая, где и кем был создан звонок, чтобы снизить вероятность того, что человек вообще ответит на звонок.

Однако Нельсон обеспокоен тем, что генеративный ИИ сделает барьер для входа настолько низким, что эти превентивные действия станут менее эффективными. Например, сегодняшние мошенничества почти всегда требуют передачи жертвы живому агенту в колл-центре, чтобы успешно закрыть мошенничество. Благодаря голосам, генерируемым ИИ, операторы-мошенники могут в конечном итоге полностью отключить колл-центр.

«В целом просто ошеломляет, сколько потерь теряется из-за мошенничества, совершаемого посредством звонков от роботов». — Эрик Бургер, Технологический институт Вирджинии

Нельсон также обеспокоен тем, что по мере совершенствования генеративного ИИ людям будет труднее даже распознавать, что они вообще разговаривали не с реальным человеком. «Именно здесь мы начнем терять равновесие», — говорит Нельсон. «У нас может увеличиться число получателей звонков, вообще не осознающих, что это мошенничество». Например, мошенники, позиционирующие себя как фальшивые благотворительные организации, могут успешно собирать «пожертвования», при этом доноры даже не осознают, что на самом деле произошло.

«Я не думаю, что мы сможем оценить, насколько быстро из-за этого изменится опыт работы с телефоном», — говорит Нельсон.

Еще одна проблема, осложняющая правоприменение, заключается в том, что большинство незаконных звонков роботов в США происходят из-за пределов страны. Группа отраслевого отслеживания обнаружили, что в 2021 году, например, 65 процентов всех таких звонков были интернациональными по своему происхождению.

Бургер отмечает, что Федеральная комиссия по связи предприняла шаги по борьбе с международными роботизированными звонками. Агентство позволило другим операторам связи отказаться от передачи трафика от провайдеров шлюзов (термин для сетевых операторов, соединяющих внутреннюю инфраструктуру с международной инфраструктурой), которые отправляют мошеннические вызовы. Например, в декабре 2023 года Федеральная комиссия связи США заказала двум компаниям: Сплошной дабл и CallWinчтобы прекратить передачу незаконных вызовов роботов или рисковать, что другие операторы связи будут вынуждены отказаться от своего трафика.

«Похоже, что правоприменения не происходит. Не с той энергией, которую мы хотели бы видеть». — Эрик Бургер, Технологический институт Вирджинии

Недавние действия FCC против генеративного искусственного интеллекта в роботизированных вызовах являются первыми в своем роде, и еще неизвестно, последуют ли за ними регулирующие органы в других странах. «Я определенно считаю, что Федеральная комиссия по связи подает хороший пример быстрых и смелых действий в рамках своих регулирующих полномочий», — говорит Вайнер. Однако он также отмечает, что коллеги FCC в других демократических странах, скорее всего, дадут более полные результаты.

По словам Бургера, трудно сказать, как действия FCC будут сочетаться с действиями других регулирующих органов. Как только Федеральная комиссия по связи (FCC) опережает ситуацию, например, в совместное использование спектра— это так же часто сильно отстает, как, например, использование средний диапазон 5G.

Нельсон говорит, что он ожидает увидеть изменения в решении FCC в течение нескольких лет, поскольку в настоящее время оно не позволяет компаниям использовать генеративный искусственный интеллект для законной деловой практики.

Еще неизвестно, будет ли голосование FCC иметь какой-либо реальный эффект. Бургер отмечает, что в случае таких звонков, как фальшивый звонок Байдена, поскольку размещение этих звонков от роботов, а также выдача себя за президента уже было незаконным, признание незаконным другого аспекта звонка, скорее всего, не изменит правила игры.

«Сделав это трижды незаконным, действительно ли это отпугнет людей?» — говорит Бургер.