1765732242
2025-12-14 16:05:00
Одно из крупнейших в мире академических издательств продает книгу об этике исследований в области искусственного интеллекта, которая, похоже, пронизана фальшивыми цитатами, включая ссылки на несуществующие журналы.
Академические публикации в последнее время подвергаются критике за принятие мошеннических статей, созданных с использованием ИИ и прошедших процедуру рецензирования, призванную гарантировать высокие стандарты.
The Times обнаружила, что книга, недавно опубликованная немецко-британским издательским гигантом Springer Nature, включает в себя десятки цитат, которые, по всей видимости, были выдуманы — часто это признак того, что материал создан искусственным интеллектом.
Книга — Социальные, этические и правовые аспекты генеративного ИИ — рекламируется как авторитетный обзор этических дилемм, связанных с технологией, и продается за 125 фунтов стерлингов. По крайней мере две главы содержат сноски, в которых цитируются научные публикации, которые кажутся изобретенными.
В одной главе 8 из 11 цитат не удалось проверить, что позволяет предположить, что более 70 процентов могли быть сфабрикованы.
Эти выводы были сделаны на фоне растущей обеспокоенности в научных кругах по поводу цитирования и даже целых исследовательских работ, созданных с помощью инструментов искусственного интеллекта, которые пытаются имитировать настоящую научную работу.
В апреле Springer Nature отозвала еще одну технологию — Освоение машинного обучения: от основ к продвинутым — после того, как в нем было обнаружено множество вымышленных ссылок.
В более поздней книге, проанализированной The Times, одна цитата утверждает, что относится к статье, опубликованной в «Harvard AI Journal». Harvard Business Review заявил, что такого журнала не существует.
Гийом Кабанак, доцент кафедры информатики Тулузского университета и эксперт по обнаружению поддельных научных статей, проанализировал две главы с помощью BibCheck, инструмента, предназначенного для выявления сфабрикованных ссылок.
Он обнаружил, что по крайней мере 11 из 21 цитат в первой главе не могут быть сопоставлены с известными научными работами. Анализ также показал, что 8 из 11 цитат в главе 4 невозможно отследить.
«Это нарушение исследовательской деятельности: фальсификация и фабрикация ссылок», — сказал Кабанак. Он отслеживает такие случаи и говорит, что наблюдает устойчивый рост «галлюцинаторных» цитирований ИИ в академической литературе.
Отдельный обзор, проведенный доктором Натаном Кэмпом из Университета штата Нью-Мексико, пришел к аналогичным выводам. Кэмп, изучавший рост фальшивого цитирования, генерируемого ИИ, обнаружил в книге по этике ИИ множество ошибочных, несовпадающих или полностью вымышленных ссылок.
В некоторых случаях детали разных подлинных документов, по-видимому, были объединены. Еще шесть глав оказались точными. Каждая глава написана разными авторами.
Кэмп сказал: «Хотя трудно окончательно определить, созданы ли использованные цитаты с помощью ИИ, они, безусловно, в лучшем случае ошибочны, вероятно, сфабрикованы, и самый простой способ сфабриковать цитаты — с помощью ИИ».
Джеймс Финли, вице-президент по книгам по прикладным наукам в Springer Nature, сказал: “Мы серьезно относимся к любым опасениям по поводу целостности нашего опубликованного контента. Наша специализированная исследовательская группа по вопросам честности расследует этот случай в качестве приоритета”.
Он добавил: “Наша команда по обеспечению добросовестности работает с редакторами и использует опыт специалистов и инструменты обнаружения, чтобы поддерживать наши стандарты и заранее выявлять любые проблемы с честностью. Однако небольшое их количество может ускользнуть”.
#Издатель #подвергся #критике #изза #фейковых #цитат #руководстве #по #этике #ИИ
По теме
