Новый рубеж для мошенников в путешествиях: путеводители, созданные искусственным интеллектом

В марте, планируя предстоящую поездку во Францию, Эми Кольски, опытный международный путешественник, живущий в округе Бакс, штат Пенсильвания, посетила Amazon.com и ввела несколько поисковых запросов: путешествовать, путеводитель, Франция. В верхней части страницы появились названия нескольких надежных брендов: Rick Steves, Fodor’s, Lonely Planet. Также среди лучших результатов поиска был высоко оцененный «Путеводитель по Франции» Майка Стивса, который, согласно странице автора Amazon, является известным писателем-путешественником.

«Меня сразу привлекли все потрясающие отзывы», — сказала 53-летняя г-жа Кольски, имея в виду то, что она увидела в то время: всеобщий рейв и более 100 пятизвездочных оценок. Гид обещал маршруты и рекомендации местных жителей. Ее цена — 16,99 доллара по сравнению с 25,49 доллара за книгу Рика Стивса о Франции — также привлекла внимание г-жи Кольски. Она быстро заказала копию в мягкой обложке, распечатанную сервисом Amazon по требованию.

Когда он прибыл, г-жа Кольски была разочарована расплывчатыми описаниями, повторяющимся текстом и отсутствием маршрутов. «Казалось, что парень просто зашел в интернет, скопировал целую кучу информации из Википедии и просто вставил ее», — сказала она. Она вернула его и оставила разгромный отзыв с одной звездой.

Хотя она не знала об этом в то время, г-жа Кольский стала жертвой новой формы мошенничества с путешествиями: некачественные путеводители, которые, кажется, составлены с помощью генеративного искусственного интеллекта, изданы самостоятельно и подкреплены поддельными обзорами, которые распространились в последние месяцы на Amazon.

Книги являются результатом сочетания современных инструментов: приложений с искусственным интеллектом, которые могут создавать текст и фальшивые портреты; веб-сайты с, казалось бы, бесконечным набором стоковых фотографий и графики; платформы для самостоятельной публикации, такие как Kindle Direct Publishing от Amazon, с небольшим количеством барьеров против использования ИИ; и возможность запрашивать, покупать и публиковать фальшивые онлайн-обзоры, что противоречит политике Amazon и вскоре может столкнуться с усилением регулирования со стороны Федеральной торговой комиссии.

Использование этих инструментов в тандеме позволило книгам подняться на вершину результатов поиска Amazon и иногда получать одобрения Amazon, такие как «Путеводитель №1 по Аляске».

Недавний поиск на Amazon по фразе «Путеводитель по Парижу 2023», например, дал десятки путеводителей с точно таким же названием. Один из них, автор которого указан как Стюарт Хартли, неграмотно хвастается тем, что это «Все, что вам нужно знать, прежде чем планировать поездку в Париж». В самой книге нет никакой дополнительной информации об авторе или издателе. У него также нет фотографий или карт, хотя у многих его конкурентов есть произведения искусства и фотографии, которые легко отследить на сайтах стоковых фотографий. За последние месяцы на Amazon появилось более 10 других путеводителей, приписываемых Стюарту Хартли, которые основаны на том же шаблонном дизайне и используют аналогичный рекламный язык.

The Times также нашла похожие книги по гораздо более широкому кругу тем, включая кулинарию, программирование, садоводство, бизнес, ремесла, медицину, религию и математику, а также книги по саморазвитию и романы среди многих других категорий.

Amazon отказался отвечать на ряд подробных вопросов о книгах. В заявлении, отправленном по электронной почте, Линдси Гамильтон, пресс-секретарь компании, сказала, что Amazon постоянно оценивает новые технологии. «Все издатели в магазине должны придерживаться наших правил в отношении контента», — написала она. «Мы вкладываем много времени и ресурсов, чтобы обеспечить соблюдение наших правил, и удаляем книги, которые им не соответствуют».

The Times пропустила 35 отрывков из книги Майка Стивса через детектор искусственного интеллекта от Originality.ai. Детектор работает, анализируя миллионы записей, созданных искусственным интеллектом, и миллионы записей, созданных людьми, и учится распознавать различия между ними, объяснил Джонатан Гиллхэм, основатель компании.

Детектор присваивает оценку от 0 до 100, основываясь на процентной вероятности того, что его модель машинного обучения считает, что контент был сгенерирован искусственным интеллектом. Все 35 отрывков набрали 100 баллов, что означает, что они почти наверняка были созданы искусственным интеллектом.

Компания утверждает, что версия ее детектора, используемая The Times, улавливает более 99 процентов проходов ИИ и ошибочно принимает человеческий текст за ИИ чуть менее чем в 1,6 процента тестов.

The Times выявила и протестировала 64 других путеводителя аналогичного формата, большинство из которых имело не менее 50 обзоров на Amazon, и результаты были поразительно схожими. Из 190 абзацев, протестированных с помощью Originality.ai, 166 набрали 100 баллов, и только 12 набрали меньше 75 баллов. Для сравнения, оценки отрывков от известных туристических брендов, таких как Rick Steves, Fodor’s, Frommer’s и Lonely Planet, почти все были ниже 10, что означает почти не было шансов, что они были написаны генераторами ИИ.

Amazon, искусственный интеллект и надежные туристические бренды

Хотя рост краудсорсинга на таких сайтах, как Tripadvisor и Yelp, не говоря уже о бесплатных туристических онлайн-сайтах, блогах и советах от влиятельных лиц TikTok и Instagram, снизил спрос на печатные путеводители и их электронные версии, они по-прежнему пользуются большим спросом. На днях в июле девять из 50 лучших книг о путешествиях на Amazon — категория, включающая художественную и научно-популярную литературу, мемуары и карты — были путеводителями по Европе от Рика Стивса.

Г-н Стивс, с которым связались в Стокгольме около полуночи после дня изучения путеводителя по Скандинавии из его серии, сказал, что не слышал о книге Майка Стивса и, похоже, не обеспокоен тем, что генеративный ИИ представляет угрозу.

«Я просто не могу себе представить, чтобы не сделать это, надев обувь», — сказал г-н Стивс, который только что посетил ресторан, оформленный в стиле викингов, и ресторан, оформленный в средневековом стиле, и решил, что ресторан викингов намного лучше. «Ты должен быть здесь, разговаривать с людьми и ходить».

По его словам, г-н Стивс проводит около 50 дней в году в поездках по Европе, а члены его команды тратят еще 300 дней на обновление своих примерно 20 путеводителей, а также на небольшие дополнительные проекты.

Но Полин Фроммер, главный редактор серии путеводителей Фроммера и автор популярного путеводителя по Нью-Йорку, обеспокоена тем, что «небольшие укусы» из фальшивых путеводителей сказываются на их продажах. Г-жа Фроммер сказала, что она проводит три месяца в году, тестируя рестораны и работая над другими ежегодными обновлениями для книги, и в настоящее время она пытается набрать вес.

«И думать, что какая-то организация думает, что они могут просто очистить Интернет и выложить случайную чушь, невероятно обескураживает», — сказала она.

У Amazon нет правил, запрещающих контент, созданный в основном с помощью искусственного интеллекта, но сайт предлагает рекомендации по содержанию книг, включая названия, обложки и описания: «Книги для продажи на Amazon должны обеспечивать положительный опыт покупателей. Мы не разрешаем описательный контент, предназначенный для введения покупателей в заблуждение или неточно отражающий содержание книги. Мы также не разрешаем контент, который обычно разочаровывает клиентов».

Г-н Гиллхэм, основатель Originality.ai, базирующейся в Онтарио, сказал, что его клиенты в основном производители контента, стремящиеся выяснить, что написано искусственным интеллектом. «В мире контента, создаваемого искусственным интеллектом, — сказал он, — прослеживаемость от автора до произведения будет возрастать потребностью».

Найти настоящих авторов этих путеводителей может быть невозможно. Например, нет никаких следов того, чтобы «известный писатель-путешественник» Майк Стивс публиковал «статьи в различных туристических журналах и на веб-сайтах», как утверждается в биографии на Amazon. Фактически, The Times не смогла найти никаких записей о существовании такого писателя, несмотря на то, что провела обширный поиск в общедоступных записях. (И фотография автора, и биография Майка Стивса, скорее всего, были сгенерированы искусственным интеллектом, как выяснила The Times.)

Г-н Гиллхэм подчеркнул важность подотчетности. По его словам, покупка разочаровывающего путеводителя — пустая трата денег. Но покупка путеводителя, который побуждает читателей путешествовать в небезопасные места, — «это опасно и проблематично», — сказал он.

The Times обнаружила несколько случаев, когда неприятные упущения и устаревшая информация могли ввести путешественников в заблуждение. Путеводитель по Москве, изданный в июле под именем Ребекка Р. Лим — «уважаемая фигура в индустрии туризма», чье фото автора Amazon также появляется на веб-сайте Todo Sobre el Acido Hialurónico («Все о гиалуроновой кислоте») рядом с названием. Ана Бургильос — не упоминает о продолжающейся войне России с Украиной и не содержит актуальной информации о безопасности. (Госдепартамент США советует американцам не ездить в Россию.) И путеводитель по Львову, Украина, изданный в мае, также не упоминает о войне и призывает читателей «собирать чемоданы и готовиться к незабываемому приключению за один присест». из самых захватывающих направлений Восточной Европы».

Шам отзывы

У Amazon есть политика против манипулирования отзывами клиентов, хотя тщательное изучение The Times показало, что многие из пятизвездочных отзывов, оставленных в некачественных путеводителях, были либо чрезвычайно общими, либо бессмысленными. Браузерное расширение Fakespot, которое определяет, что оно считает «обманчивыми» отзывами, и ставит каждому продукту оценку от A до F, поставило многим путеводителям оценку D или F.

Некоторые отзывы на удивление неточны. «Этот путеводитель был впечатляющим», — написал пользователь по имени Muñeca о путеводителе Майка Стивса по Франции. «Возможность выбрать сезон, чтобы узнать, какой климат нам нравится больше всего, зная, что их язык английский». (Путеводитель едва упоминает погоду и четко указывает, что язык Франции — французский.)

Большинство сомнительно написанных восторженных отзывов об изношенных руководствах относятся к «подтвержденным покупкам», хотя определение «подтвержденной покупки» Amazon может включать читателей, скачавших книгу бесплатно.

«Эти обзоры делают людей обманутыми», — сказала г-жа Фроммер. «Это то, что заставляет людей тратить деньги и удерживает их от настоящих путеводителей».

Г-жа Гамильтон, пресс-секретарь Amazon, написала, что компания не терпит поддельных отзывов. «У нас есть четкие правила, запрещающие злоупотребление отзывами. Мы приостанавливаем, запрещаем и принимаем правовые меры против тех, кто нарушает эти правила, и удаляем недостоверные отзывы». Amazon не сообщает, были ли предприняты какие-либо конкретные действия против продюсеров книги Майка Стива и других подобных книг. Во время репортажа об этой статье некоторые подозрительные обзоры были удалены из многих книг, изученных The Times, а также изъяты несколько книг. Amazon заявила, что в 2022 году заблокировала более 200 миллионов подозреваемых поддельных отзывов.

Но даже когда Amazon удаляет отзывы, он может оставить пятизвездочный рейтинг без текста. Согласно анализу Fakespot, по состоянию на 3 августа в «Путеводителе по Испании 2023» Адама Нила Amazon удалила 217 отзывов, но по-прежнему получает рейтинг 4,4 звезды, в значительной степени потому, что 24 из 27 рецензентов, которые не написали письменный обзор, были награждены забронировать пять звезд. «Я чувствую, что мой путеводитель не может быть таким же, который все так высоко оценивают», — написал рецензент по имени Сари, поставивший книге одну звезду.

Многие из книг также включают «редакционные обзоры», по-видимому, без надзора со стороны Amazon. Некоторые из них особенно дерзки, например «Путеводитель по Парижу 2023 года» компании Dreamscape Voyages, который включает поддельные обзоры таких авторитетных авторов, как журнал Afar («Приготовьтесь удивляться») и Condé Nast Traveler («Ваш лучший помощник в раскрытии истинной сущности Парижа»). Город огней»). Оба издания отказались рецензировать книгу.

«Ты должен быть там, в поле»

Эксперты по искусственному интеллекту в целом согласны с тем, что генеративный ИИ может быть полезен авторам, если он используется для расширения их собственных знаний. Дарби Роллинз, основатель AI Author, компании, которая помогает людям и предприятиям использовать генеративный ИИ для улучшения рабочего процесса и развития своего бизнеса, считает эти руководства «очень простыми».

Но он мог представить хорошие путеводители, созданные с помощью искусственного интеллекта. «ИИ будет дополнять, улучшать и расширять то, что вы уже хорошо умеете делать», — сказал он. «Если вы уже являетесь хорошим писателем и экспертом по путешествиям по Европе, то вы делитесь своим опытом, точками зрения и идеями. Вы сможете использовать ИИ, чтобы организовать свои мысли и быстрее создавать вещи».

Настоящий г-н Стивс был менее уверен в достоинствах использования ИИ. «Я не знаю, куда движется ИИ, я просто знаю, что делает хороший путеводитель», — сказал он. «И я думаю, что вы должны быть там, в поле, чтобы написать один».

Г-жа Кольски, которую обманула книга Майка Стива, согласилась. Вернув свою первоначальную покупку, она выбрала проверенный бренд.

«В итоге я купил Рик Стивс, — сказала она.

Дизайнер Габриэль Джанордоли. Сьюзен Бичи внесла свой вклад в исследование.