ФБР предупреждает, что число дипфейков жертв, используемых в сексторсионных атаках, резко возросло

Федеральные власти предупреждают о недавнем всплеске сексуализированных дипфейковых изображений, предназначенных для использования в новой волне так называемых сексторсионных кампаний. В понедельник Федеральное бюро расследований предупредило о всплеск таких атак с апреля.

«ФБР отмечает всплеск числа жертв сексуального вымогательства, сообщающих об использовании поддельных изображений или видео, созданных на основе контента, размещенного на их сайтах в социальных сетях или веб-публикациях, предоставленных злоумышленникам по запросу или захваченных во время видеочатов», — говорится в предупреждении.

Затем жертвы вымогают деньги или сталкиваются с угрозой распространения дипфейковых изображений или видео с членами семьи или через каналы социальных сетей с друзьями, предупреждает ФБР.

Зловещий новый поворот в вымогательстве

Секс-вымогательство — угроза утечки компрометирующего сексуального контента с участием жертвы, если она не заплатит, — это хорошо изученная глава в сборнике действий по борьбе с киберпреступностью.

Но злоумышленники начали выводить секстормоз на новый уровень: используя технологию дипфейков для создания явных изображений или видео, которые, по-видимому, принадлежат цели. Тот факт, что контент является фальшивым, может не уменьшить угрозу, если жертва опасается, что разоблачение может, тем не менее, поставить ее в неловкое положение или навредить ей.

По данным ФБР, атаки могут начаться с того, что сексторсионеры соскребают контент, размещенный их жертвами в социальных сетях, и используют его для создания дипфейков. Еще одним источником жертв являются цели, которых обманом заставили передать изображения и видео самих себя или обнаружить, что контент, захваченный во время видеозвонка, был перепрофилирован.

«ФБР продолжает получать сообщения от жертв, в том числе несовершеннолетних детей и несогласных взрослых, чьи фотографии или видео были изменены на откровенный контент», — говорится в сообщении бюро. новое предупреждение из Центра жалоб на интернет-преступления (IC3).

«Затем фотографии или видео публично распространяются в социальных сетях или на порнографических сайтах с целью преследования жертв или схем сексуального вымогательства. ”

Жертвы обычно сообщали, что злоумышленники угрожали поделиться дипфейками с членами семьи или друзьями в социальных сетях, если они не заплатят, или, в некоторых случаях, отказались отправлять реальный контент сексуального характера.

Еще до того, как в смесь был добавлен элемент дипфейка, сексторция была растущей отраслью для киберпреступников.

Проблема становится хуже

В 2021 году бюро сообщило Известно, что у него вымогали 8 миллионов долларов. от американцев в течение семи месяцев. А в январе этого года ФБР и агентства-партнеры выпустил предупреждение о «взрыве» случаев сексторинга детей и подростков.

«За прошлый (2022) год в правоохранительные органы поступило более 7000 заявлений, связанных с онлайн-сексуальным вымогательством несовершеннолетних, жертвами которого стали не менее 3000 человек, в основном мальчики. Сообщалось, что более дюжины жертв сексуального вымогательства покончили жизнь самоубийством», — говорится в сообщении.

«ФБР, прокуратура США и наши партнеры из правоохранительных органов умоляют родителей и опекунов сообщать своим детям о схемах сексуального вымогательства, чтобы мы могли предотвратить их в первую очередь».

Растущая проблема вредоносных дипфейков — не только в качестве инструмента для сексуального вымогательства, но и для других гнусных действий, включая распространение дезинформации, — привлекла внимание законодателей. Некоторые штаты, включая Калифорнию и Вирджинию, уже запретили дипфейковое порно.

Одна жертва дипфейка, идентифицированная в Инсайдерский отчет как QTCinderella, написала в Твиттере о ее эксплуатации: «Количество телесных дисморфий, которые я испытал с тех пор, как увидела эти фотографии, разрушило меня. Это не так просто, как «просто» насилие. Это гораздо больше».

Подавление дипфейков

Конгрессмен Джо Морелл (штат Нью-Йорк) введено федеральное законодательство в прошлом месяце это сделало бы дипфейки без согласия незаконными.

«Распространение созданных искусственным интеллектом и измененных изображений может нанести непоправимый эмоциональный, финансовый и репутационный ущерб — и, к сожалению, женщины страдают непропорционально больше», — сказал тогда Морелл.

«Поскольку искусственный интеллект продолжает развиваться и проникать в наше общество, крайне важно, чтобы мы предпринимали активные шаги для борьбы с распространением дезинформации и защиты людей от компрометирующих ситуаций в Интернете».

Дипфейки могут быть созданы с использованием программных сред с открытым исходным кодом, таких как DeepFaceLab которые в основном используются энтузиастами, за которыми наблюдает сильное и благонамеренное сообщество. Но таких добрых намерений нет, когда код используется и используется в даркнете.

Крупные технологические компании и платформы социальных сетей предприняли шаги для решения проблемы несанкционированного производства и распространения дипфейков, что, в свою очередь, снизит их эффективность как инструмента для сексторсионных атак.

В прошлом году Google запретил обучение систем искусственного интеллекта, которые можно использовать для создания дипфейков, на Colaboratory, общедоступной платформе анализа данных и машинного обучения.

Мета, материнская компания Facebook, работает над технологией обнаружения дипфейков, чтобы предотвратить распространение вредоносного контента на своих платформах. Исследователи безопасности и поставщики также работают над аналогичными решениями, поскольку постоянный цикл попыток превзойти злоумышленников продолжается.

Проблема с дипфейковым порно

В течение многих лет явный дипфейк-контент просачивался во многие отсортированные уголки Интернета и становился жертвой знаменитостей и создавал кустарную индустрию дипфейковых видео для взрослых. В 2019 году такие приложения, как DeepNude (ныне несуществующее), продавались по цене 50 долларов и позволяли любому создавать их. С тех пор увеличилось количество сообщений о биче синтетических изображений, эксплуатирующих в основном женщин.

Согласно Отчет MIT Technology Review за 2020 г., сервис на основе Telegram был заблокирован, когда было обнаружено, что он использовал технологию дипфейка для «раздевания» почти 100 000 жертв. С тех пор, с появлением дипфейковых изображений, созданных искусственным интеллектом, проблема обострилась.

Март 2023 г. Репортаж NBC News раскрыл шумный нелегальный бизнес, скрывающийся у всех на виду. «Вам не нужно заходить в даркнет или быть особенно подкованным в компьютерах, чтобы найти дипфейковое порно. Как выяснила NBC News, через Google легко получить доступ к двум крупнейшим веб-сайтам, на которых размещен этот контент. Создатели веб-сайта используют платформу онлайн-чата Discord для рекламы своих товаров, и люди могут платить за это с помощью Visa и Mastercard», — говорится в сообщении, написанном Арва Махдави написал для The Guardian.

Уменьшение урона и предотвращение атак

Тем временем сообщение ФБР состоит в том, чтобы быть осторожным в отношении того, что вы публикуете или делитесь в Интернете, через любую платформу или канал.

«Хотя изображения и видео кажутся безобидными при публикации или совместном использовании, они могут предоставить злоумышленникам обильный контент для использования в преступной деятельности», — говорится в сообщении бюро.

«Достижения в технологии создания контента и доступные личные изображения в Интернете открывают новые возможности для злоумышленников по поиску и нацеливанию жертв. Это делает их уязвимыми перед смущением, преследованием, вымогательством, финансовыми потерями или длительной повторной виктимизацией».

Чтобы проверить, была ли ваша личная информация (или ваших детей) раскрыта и распространена в Интернете, ФБР рекомендует проводить частые поиски такой информации, как ваше полное имя, адрес и номер телефона.

Бюро также рекомендует использовать системы обратного поиска изображений для проверки любых личных фотографий или видео, которые могут циркулировать в Интернете без вашего ведома.