Ученые все чаще используют ИИ для написания научных статей • –

Лингвистический и статистический анализ научных статей позволяет предположить, что генеративный ИИ, возможно, использовался для написания все большего количества научной литературы.

В двух научных статьях утверждается, что анализ выбора слов в корпусе научных публикаций показывает все более широкое использование ИИ для написания исследовательских работ. Одно исследованиеопубликованная в марте Эндрю Греем из Университетского колледжа Лондона в Великобритании, предполагает, что по крайней мере один процент – 60 000 или более – всех статей, опубликованных в 2023 году, были хотя бы частично написаны искусственным интеллектом.

А второй документ опубликованная в апреле командой Стэнфордского университета в США, утверждает, что эта цифра может варьироваться от 6,3 до 17,5 процента, в зависимости от темы.

Обе статьи искали определенные слова, которые обычно используют большие языковые модели (LLM), такие как «сложный», «ключевой» и «тщательный». В двух исследованиях, которые особенно популярны среди ИИ, говорится, что они могут обнаружить растущую зависимость от машинного обучения в научно-издательском сообществе.

В статье Грея использование контрольных слов, таких как «красный», «заключение» и «после», изменилось на несколько процентов с 2019 по 2023 год. То же самое было верно и в отношении других определенных прилагательных и наречий до 2023 года (так называемых пост-LLM). год Грея).

За этот год использование слов «дотошный», «похвальный» и «замысловатый» выросло на 59, 83 и 117 процентов соответственно, а их распространенность в научной литературе почти не изменилась в период с 2019 по 2022 год. рост распространенности после 2022 года был «тщательным» и составил 137 процентов.

В статье из Стэнфорда были обнаружены аналогичные явления, демонстрирующие внезапное увеличение количества слов «сфера», «демонстрация», «сложный» и «ключевой». Первые два использовались примерно на 80 процентов чаще, чем в 2021 и 2022 годах, а последние два использовались примерно на 120 и почти 160 процентов чаще соответственно.

Исследователи также рассмотрели статистику использования слов в различных научных дисциплинах. Информатика и электротехника опередили остальных, когда дело дошло до использования языка, предпочитаемого ИИ, в то время как в математике, физике и статьях, опубликованных в журнале Nature, наблюдался рост лишь на 5–7,5 процента.

Руководители Стэнфорда также отметили, что авторы, публикующие больше препринтов, работающие в более насыщенных областях и пишущие более короткие статьи, похоже, чаще используют ИИ. В их статье говорится, что общая нехватка времени и необходимость писать как можно больше поощряют использование программ LLM, которые могут помочь увеличить производительность.

Потенциально следующий большой спор в научном сообществе

Использование ИИ в помощь В исследовательском процессе нет ничего нового, и многие ученые открыто высказываются об использовании ИИ для настройки экспериментов для достижения лучших результатов. Однако использование ИИ для написания рефератов и других фрагментов статей сильно отличается, поскольку общее ожидание состоит в том, что научные статьи пишутся реальными людьми, а не роботами, и, по крайней мере, пара издателей считают, что научные статьи написаны реальными людьми, а не роботами. использование LLM для написания статей быть научным нарушением.

Использование моделей ИИ может быть очень рискованным, поскольку они часто создают неточный текст, а научная литература не должна этого делать. Модели искусственного интеллекта могут даже фабриковать цитаты и цитаты, что позорно стало причиной двух нью-йоркских адвокатов. в беде за цитирование случаев, которые придумал ChatGPT.

«На авторов, использующих тексты, сгенерированные LLM, необходимо оказывать давление, чтобы они раскрыли это или дважды подумали, уместно ли это в первую очередь с точки зрения честности фундаментальных исследований», – считает Грей из Университетского колледжа Лондона.

Исследователи из Стэнфорда также выразили аналогичную обеспокоенность, написав, что использование генеративного ИИ в научной литературе может создать «риски для безопасности и независимости научной практики». ®