Как AI-браузер OpenAI становится угрозой безопасности

Новый AI-браузер Atlas от OpenAI подвергается критике за пробелы в безопасности. Режим агента особенно уязвим для атак с быстрым внедрением — даже эксперты по безопасности бьют тревогу.

Еле запустил, уже взломал. Новый AI-браузер Atlas от OpenAI сейчас попадает в заголовки газет, и не только из-за его впечатляющих функций. Эксперты по безопасности уже обнаружили массовые уязвимости. Режим агента, который должен самостоятельно выполнять сложные задачи, находится в центре критики. По данным «t3n», эксперты предупреждают об уязвимости к атакам с быстрым внедрением, которые делают браузер потенциальной угрозой безопасности.

Браузеры с искусственным интеллектом: горячая тенденция с пробелами в безопасности

Браузеры с искусственным интеллектом в настоящее время считаются одной из самых захватывающих технологических тенденций. Помимо таких стартапов, как The Browser Company (теперь часть Atlassian), на этом рынке также участвуют такие технологические гиганты, как Microsoft и Google.

Atlas по сути работает как обычный браузер, но интегрирован непосредственно в ChatGPT. Как сообщает «t3n», пользователи могут получить доступ к ИИ либо через специальную кнопку, либо прямо в адресной строке.

Агент: практично, но проблематично

Агент искусственного интеллекта, доступный в настоящее время только платным подписчикам, является настоящей изюминкой. Он может самостоятельно резюмировать статьи, переводить тексты или даже исследовать товары и добавлять их в корзину.

Однако реализация требует времени: агенту, участвовавшему в тесте, потребовалось около трех минут, чтобы изучить солнцезащитный крем. То, что звучит практично, на самом деле доставляет специалистам по безопасности огромную головную боль.

Своевременное введение: недооцененный риск

Всего через два дня после запуска конкурент Brave опубликовал анализ уязвимостей в браузерах с искусственным интеллектом. Атаки с быстрым внедрением позволяют хакерам отправлять скрытые команды ИИ и запускать нежелательные действия.

Исследователь безопасности продемонстрировал на практике такие атаки могут считывать конфиденциальные данные или выполнять действия от имени пользователей.

Бизнес-панк-чек

Браузер Atlas — классический пример хайпа вокруг ИИ: Впечатляющие возможности, но с серьезными пробелами в безопасности. Правда в том, что браузеры с искусственным интеллектом в настоящее время представляют собой эксперимент с неясным результатом. Даже OpenAI признает, что их защитные меры не устраняют всех рисков.

Для компаний это означает: воздержитесь от продуктивного использования до тех пор, пока не будет проведен независимый аудит безопасности. Технология интересна, но еще не готова. Любой, кто присоединяется сейчас, становится бесплатным бета-тестером – со всеми рисками.

Часто задаваемые вопросы

• Насколько на самом деле опасны быстрые инъекции?
  Оперативное внедрение может иметь серьезные последствия: от кражи данных до выполнения нежелательных действий от имени пользователя. Риск тем выше, чем больше разрешений получает ИИ-агент.
• Должны ли компании использовать браузеры с искусственным интеллектом, такие как Atlas?
  В настоящее время не рекомендуется использовать его продуктивно. Дождитесь независимых проверок безопасности и внедрите четкие рекомендации по использованию, прежде чем внедрять браузеры с искусственным интеллектом в корпоративном контексте.
• Какие есть альтернативы Атласу?
  Brave, Microsoft Edge и Google экспериментируют со своими собственными браузерными решениями на базе искусственного интеллекта. Тем не менее, все они сталкиваются с одинаковыми проблемами безопасности – решение в настоящее время полностью не разработано.
• Как я могу защитить себя от внезапной инъекции?
  Внимательно следите за работой ИИ-агента, не используйте конфиденциальные данные и не используйте браузер для критических задач или на устройствах с конфиденциальной информацией.

Источники: «Т3Н»