Смайлики могут сбить с толку сотрудников LLM, вызывая «тихие сбои» при кодировании ответов.

Большие языковые модели (LLM), системы искусственного интеллекта (ИИ), которые могут обрабатывать и генерировать тексты на разных языках, в настоящее время широко используются людьми во всем мире. Эти модели доказали свою эффективность в быстром поиске информации, ответах на вопросы, создании письменного контента для конкретных приложений и написании компьютерного кода.

Недавние исследования показали, что, несмотря на растущую популярность, эти модели иногда могут галлюцинировать, совершать ошибки или предоставлять неточную информацию. Выявление недостатков этих моделей может помочь разработать стратегии по их дальнейшему совершенствованию и обеспечению их безопасности.

Исследователи из Сианьского университета Цзяотун, Наньянского технологического университета и Массачусетского университета в Амхерсте недавно провели исследование, изучающее недостатки программ LLM, которые до сих пор редко изучались. Их бумагаопубликовано на arXiv сервер препринтов показывает, что в некоторых случаях LLM могут путаться из-за смайлов, неправильно их интерпретировать и генерировать неправильные или не соответствующие запросу пользователя ответы.

«Смайлы широко используются в цифровой коммуникации для передачи аффективных намерений, однако их значение для безопасности больших языковых моделей (LLM) остается в значительной степени неисследованным», — пишут Вэйпэн Цзян, Сяоюй Чжан и их коллеги в своей статье. «Мы выявляем смайлик семантическая путаницауязвимость, из-за которой специалисты LLM неправильно интерпретируют смайлики на основе ASCII для выполнения непреднамеренных и даже разрушительных действий».

Тестирование того, как модели ИИ реагируют на смайлы

Чтобы изучить, как студенты LLM реагируют на смайлики, Цзян, Чжан и их коллеги создали автоматизированную систему, которая генерировала тысячи примеров сценариев тестирования программирования. На основе этих сценариев они создали набор данных, содержащий почти 4000 подсказок, в которых преподавателям LLM предлагалось выполнить конкретные задачи по компьютерному кодированию.

Подсказки также включали смайлики ASCII, комбинации из двух или трех символов, которые создают перевернутые смайлы или выражения лица, такие как «:-O», «:-P» и так далее. Они охватывали 21 реальный сценарий, в котором пользователи могли обратиться к LLM за помощью в кодировании.

Затем исследователи передали запросы шести различным широко используемым LLM, включая Claude-Haiku-4.5, Gemini-2.5-Flash, GPT-4.1-mini, DeepSeek-v3.2, Qwen3-Coder и GLM-4.6. Наконец, они проанализировали ответы моделей, чтобы определить, успешно ли они справились с желаемыми задачами кодирования.

«Мы разрабатываем автоматизированный конвейер генерации данных и создаем набор данных, содержащий 3757 кодо-ориентированных тестовых примеров, охватывающих 21 метасценарий, четыре языка программирования и различную контекстуальную сложность», — объяснили авторы.

«Наше исследование шести LLM показывает, что семантическая путаница смайлов широко распространена: средний коэффициент путаницы превышает 38%. Что еще более важно, более 90% запутанных ответов приводят к «тихим сбоям», которые являются синтаксически действительными результатами, но отклоняются от намерений пользователя, что потенциально приводит к разрушительным последствиям для безопасности».

Содействие совершенствованию LLM

Результаты этого недавнего исследования показывают, что многие студенты LLM в некоторых случаях не понимают значения смайлов. Их неспособность понять смайлики часто приводит к неправильным выводам, особенно в задачах кодирования, когда сгенерированный код выглядит действительным на поверхностном уровне, но не дает желаемых результатов.

«Мы наблюдаем, что эта уязвимость легко переносится на популярные агентские платформы, в то время как существующие средства быстрого реагирования остаются по большей части неэффективными», — пишут Цзян, Чжан и их коллеги. «Мы призываем сообщество признать эту возникающую уязвимость и разработать эффективные методы смягчения последствий для обеспечения безопасности и надежности системы LLM».

Первоначальные результаты, собранные этой исследовательской группой, вскоре могут вдохновить на дальнейшие исследования, изучающие, как системы искусственного интеллекта, обрабатывающие язык, реагируют на другие типы подсказок, содержащих смайлики. В будущем они также могут помочь в разработке новых стратегий для преодоления этого недавно обнаруженного ограничения LLM.

© 2026 Сеть Science X