Враг падает вместе с его голосом. Когда ИИ звучит зловеще

AGI — Последнее громкое дело касается учителя физкультуры и бывшего спортивного директора средней школы округа Балтимор, арестованного за использование службы клонирования голоса с помощью искусственного интеллекта для подставы директора школы. Но в последний год интерес к технологии Клонирование голоса на основе искусственного интеллекта он растет по мере того, как услуги становятся все более человечными. Растет число случаев неправомерного, если не откровенно преступного, использования приложений и программного обеспечения для клонирования голоса.

Дело в Балтиморе связано с распространенной в социальных сетях в январе записью предполагаемой фальшивой аудиозаписи директора средней школы Пайксвилля Эрика Эйсверта, делающего расистские и антисемитские комментарии. Эксперты сообщили газете Baltimore Banner и полиции, что запись, которая привела к кратковременному отстранению Эйсверта, имеет “плоский тон, необычно чистые фоновые звуки и отсутствие связных звуков дыхания или пауз”.

Полиция округа Балтимор выследила запись Дажона Дариена, бывшего спортивного директора школы, чье имя также упоминалось в аудиоклипе. Он бы использовал школьные компьютеры «для доступа к инструментам OpenAI и службам Microsoft Bing Chat», как сообщили WBAL-TV 11 и Новости Эн-Би-Си. Он также был связан с выпуском аудио через адрес электронной почты и соответствующий номер телефона для восстановления.

Неясно, какую голосовую платформу искусственного интеллекта использовал Дариен. Полиция арестовала мужчину в четверг в аэропорту и сообщила, что спортивный директор средней школы Пайксвилля сделал запись, чтобы отомстить Эйсверту, который в то время проводил расследование возможного нецелевого использования школьных средств. Он был освобожден под залог, и ему предъявлены обвинения, в том числе в краже (из-за проблем со школьными средствами), срыве работы школы, преследовании свидетеля и преследовании.

Другие примечательные случаи также произошли в Пакистане, где политическая партия Имрана Хана, находящегося в тюрьме бывшего премьер-министра Пакистана, использовала ElevenLabs, популярную коммерчески доступную платформу для преобразования текста в голос, чтобы повторить его голос во время избирательной кампании. В Техасе две компании были связаны с одной фальшивый звонок от робота, выдающий себя за президента Джо Байдена призывая людей не голосовать. Федеральная комиссия по связи запретили использование роботизированных звонков с искусственным интеллектом в феврале. И естественно, фальшивый Дрейк использовал искусственный интеллект для создания песни «Heart on My Sleeve».

В этом напряженном климате В марте OpenAI решила сдержаться свою платформу для преобразования текста в речь на базе искусственного интеллекта Voice Engine для публичного использования. Услуга, которой для клонирования чьего-то голоса требуется всего лишь 15-минутный аудиоклип, доступна только ограниченному числу исследователей из-за отсутствия барьеров вокруг этой технологии.

Американские законодатели внесли, но еще не приняли несколько законопроектов, таких как Закон о запрете подделок е Закон о запрете мошенничества с использованием ИИ которые стремятся помешать технологическим компаниям использовать лицо, голос или имя человека без его разрешения. Балтимор Баннер сообщает, что полиция округа Балтимор верит в запись