Исследователи из Чикагского университета недавно протестировали инструменты обнаружения искусственного интеллекта, сравнив сотни рукописных текстов с контентом, созданным искусственным интеллектом.
В ходе исследования ученые систематически анализировали, как различные инструменты обнаружения ИИ работают с точки зрения ложноотрицательных результатов (неправильная маркировка текста, написанного ИИ, как написанного человеком) и ложноположительных результатов (неправильная маркировка текста, созданного человеком, как написанного ИИ).
Брайан Джабариан, соавтор этого Исследование обнаружения ИИ— экономист Чикагского университета, изучающий искусственный интеллект. Он обсуждает со мной результаты исследования и рассказывает, как можно ответственно использовать инструменты обнаружения ИИ для защиты академической честности и, в более широком смысле, защиты общества от распространения помоев ИИ.
Результаты исследования обнаружения ИИ
Джабарян и его коллега Алекс Имас протестировали сочетание коммерческих инструментов искусственного интеллекта и инструментов с открытым исходным кодом, включая Pangram, OriginalityAI, GPTZero и RoBERTa, инструмент обнаружения искусственного интеллекта с открытым исходным кодом.
Pangram оказался наиболее успешным с тем, что исследователи описывают как «практически нулевые ложноположительные и ложноотрицательные показатели на средних и длинных пассажах», и оставался успешным, даже когда Гуманизаторы ИИ были использованы. Это было намного лучше, чем результаты обнаружения с открытым исходным кодом.
«К сожалению, в этой ситуации инструменты с открытым исходным кодом совсем не хороши», — говорит Джабарян. У RoBERTa уровень ложноположительных результатов варьировался от 30% до 78%, что выше, чем могло бы принять большинство преподавателей.
Но даже некоторые потенциально дорогостоящие коммерческие модели показали себя плохо в ситуациях, которые тестировали Джабарян и Имас. GPTZero имел более низкий уровень ложноположительных результатов, чем OriginalityAI, но OriginalityAI лучше отличал искусственный интеллект от человеческого текста. GPTZero также боролся с гуманизаторами: уровень ложноотрицательных результатов при использовании гуманизаторов составлял около 50%.
Ключевые выводы для преподавателей
С одной стороны, это исследование является предостерегающим знаком для преподавателей против использования многих инструментов обнаружения ИИ при принятии решений об оценках учащихся и дисциплинарных мерах. Но тот факт, что по крайней мере один инструмент обнаружения ИИ работает очень хорошо, предполагает, что может быть лучший способ использовать эти ресурсы.
Джабарян считает, что необходима большая прозрачность в отношении инструментов обнаружения ИИ, чтобы преподаватели могли видеть, что послужило причиной пометки того или иного текста и, в идеале, где и как мог использоваться ИИ.
Будучи носителем французского языка, Джабарян говорит, что использует инструменты искусственного интеллекта, чтобы избежать грамматических и орфографических ошибок. “Должен ли я быть за это наказан? Абсолютно нет”, – говорит он. В идеале инструменты обнаружения ИИ могли бы использоваться, чтобы помочь учителям направлять учащихся к правильному использованию ИИ, когда он улучшает их письмо, а не завершает его за них.
Платформа для обнаружения ИИ
В документе также представлена основа для использования инструментов обнаружения ИИ преподавателями и другими лицами, которая признает, что в разных ситуациях существуют разные потребности в обнаружении ИИ.
В рамках этой концепции Джабарян и Имас выступают за большее количество пользовательских средств контроля над настройкой инструментов обнаружения ИИ. Например, если бы у них была возможность настроить чувствительность детектора искусственного интеллекта, преподаватели хотели бы установить консервативный уровень ложноположительных результатов, «поскольку это облегчило бы письмо с помощью LLM (например, Grammarly) — поскольку оно вряд ли было бы отмечено», — пишут соавторы в статье. Кроме того, в сфере образования ложное обвинение ИИ может иметь серьезные последствия для учащихся.
Преподаватели склонны рассматривать инструменты обнаружения ИИ прежде всего с точки зрения работы со студентами. Но это имеет большее значение, говорит Джабарян. Он отмечает, что помои, создаваемые искусственным интеллектом, становятся большой проблемой в социальных сетях и краудсорсинговых обзорах ресторанов и Amazon. Эффективное обнаружение ИИ может помочь людям лучше отсеивать этот ИИ-контент. И в этих настройках, по словам Джабаряна, в идеале вы могли бы настроить инструмент обнаружения ИИ с большей погрешностью, когда дело доходит до ложных срабатываний.
«Я хочу быть уверен, что вы поймете все новости об искусственном интеллекте», — говорит он. В этом случае, если инструмент обнаружения ошибочно пометит некоторый контент как созданный искусственным интеллектом, ставки будут ниже. В конечном счете, он считает, что при ответственной разработке и внедрении инструменты обнаружения ИИ могут помочь обществу лучше искоренить ненадлежащее использование ИИ как внутри, так и за пределами учебных заведений.
2025-11-03 10:00:00
1762177575
#Некоторые #инструменты #обнаружения #искусственного #интеллекта #работают #хорошо #другие #терпят #неудачу #говорится #новом #исследовании
Продолжение темы
