Исследователи утверждают, что ChatGPT имеет целый ряд тревожных недостатков безопасности — вот что они обнаружили

• Компания Tenable сообщает, что обнаружила семь недостатков быстрого внедрения в ChatGPT-4o, получивших название цепочки атак «HackedGPT».
• Уязвимости включают скрытые команды, сохранение памяти и обходы безопасности через доверенные оболочки.
• OpenAI исправил некоторые проблемы в GPT-5; другие остаются, что вызывает призывы к усилению защиты

ChatGPT имеет множество проблем безопасности, которые могут позволить злоумышленникам вставлять скрытые команды, красть конфиденциальные данные и распространять дезинформацию в Инструменты искусственного интеллектаговорят исследователи безопасности.

Недавно эксперты по безопасности из Tenable протестировали ChatGPT-4o OpenAI и обнаружили семь уязвимостей, которые они совместно назвали HackedGPT. К ним относятся:

• Косвенное внедрение подсказок через доверенные сайты (скрытие команд внутри общедоступных сайтов, которым GPT может неосознанно следовать при чтении контента)
• Косвенное внедрение подсказки в 0 кликов в контекст поиска (GPT выполняет поиск в Интернете и находит страницу со скрытым вредоносным кодом. Задание вопросов может неосознанно заставить GPT следовать инструкциям)
• Быстрое внедрение в один клик (вариант фишинга, при котором пользователь нажимает на ссылку со скрытыми командами GPT)
• Обход механизма безопасности (обертывание вредоносных ссылок в доверенные оболочки, обман GPT для отображения ссылок пользователю)
• Внедрение диалога: (злоумышленники могут использовать систему SearchGPT для вставки скрытых инструкций, которые ChatGPT позже читает, эффективно внедряя сам себя).
• Сокрытие вредоносного контента (вредоносные инструкции могут быть спрятаны внутри кода или текста уценки)
• Постоянное внедрение памяти (в сохраненные чаты могут быть помещены вредоносные инструкции, в результате чего модель будет повторять команды и постоянно терять данные).