Мошенники в Китае используют изображения, сгенерированные искусственным интеллектом, для получения возмещения

Не хочу в этом признаваться, но в этот сезон праздничных покупок я потратил много денег в Интернете. И неудивительно, что некоторые из этих покупок не оправдали моих ожиданий. Купленная мной фотокнига была повреждена при транспортировке, поэтому я сделал несколько фотографий, отправил их продавцу по электронной почте и получил возмещение. Платформы онлайн-покупок уже давно полагаются на фотографии, представленные покупателями, чтобы подтвердить законность запросов на возврат средств. Но генеративный ИИ сейчас начинает ломать эту систему.

Щепотка слишком подозрительна

На китайском приложение для социальных сетей RedNoteWIRED обнаружил по меньшей мере дюжину сообщений от продавцов электронной коммерции и представителей службы поддержки клиентов, жалующихся на полученные ими якобы сгенерированные искусственным интеллектом требования о возврате средств. В одном случае покупатель пожаловался, что купленная им простыня была разорвана на куски, но китайские иероглифы на транспортной этикетке выглядели как тарабарщина. В другом случае покупатель прислал фотографию кофейной кружки с трещинами, похожими на слезы бумаги. “Это керамическая чашка, а не картонная. Кто мог бы разорвать керамическую чашку на такие слои?” продавец написал.

Продавцы сообщили, что есть несколько категорий товаров, где больше всего злоупотребляют фотографиями повреждений, созданными с помощью ИИ: свежие продукты, недорогие косметические товарыи хрупкие предметы, такие как керамические чашки. Продавцы часто не просят покупателей вернуть эти товары до возврата средств, что делает их более склонными к мошенничеству при возврате.

В ноябре торговец, продающий живых крабов на Douyin, китайской версии TikTok, получил от покупательницы фотографию, на которой было похоже, что большинство купленных ею крабов прибыли уже мертвыми, а двое других сбежали. Покупатель даже прислал видео, на которых видно, как в мертвых крабов тыкают человеческим пальцем. Но что-то пошло не так.

“Моя семья выращивает крабов уже более 30 лет. Мы никогда не видели мертвого краба с ногами, направленными вверх”, – сказала Гао Цзин, продавец, в видео, которое она позже разместила на Douyin. Но что в конечном итоге выдало обман, так это пол крабов. В первом видео было двое мужчин и четыре женщины, а во втором клипе – три мужчины и три женщины. У одного из них также было девять ног вместо восьми.

Позже Гао сообщил о мошенничестве в полицию, которая установила, что видео действительно были сфабрикованы, и задержала покупателя на восемь дней, согласно полицейскому уведомлению, которым Гао поделился в Интернете. Это дело привлекло широкое внимание в китайских социальных сетях, отчасти потому, что это было первое известное мошенничество с возвратом средств с использованием ИИ такого рода, вызвавшее ответную реакцию регулирующих органов.

Снижение барьеров

Эта проблема не уникальна для Китая. Forter, нью-йоркская компания по обнаружению мошенничества, подсчитала, что количество изображений, обработанных искусственным интеллектом, используемых в требованиях о возмещении, выросло более чем на 15 процентов с начала года и продолжает расти во всем мире.

«Эта тенденция началась в середине 2024 года, но за последний год она ускорилась, поскольку инструменты создания изображений стали широко доступными и невероятно простыми в использовании». — говорит Майкл Рейтблат, генеральный директор и соучредитель Forter. Он добавляет, что ИИ не обязательно должен все делать правильно, поскольку у работников розничной торговли и групп по проверке возвратов может не хватить времени на тщательное изучение каждой фотографии.