Обычная кибербезопасность не защитит ваш ИИ

В июне 2025 года исследователи обнаружили уязвимость, которая раскрывала конфиденциальные данные Microsoft 365 Copilot без какого-либо взаимодействия с пользователем. В отличие от обычных взломов, которые основаны на фишинге или ошибках пользователя, этот эксплойт, теперь известный как EchoLeak, полностью обходит поведение человека, незаметно извлекая конфиденциальную информацию, манипулируя тем, как Copilot взаимодействует с пользовательскими данными. Этот инцидент подчеркивает отрезвляющую реальность: современные модели безопасности, разработанные для предсказуемых программных систем и защиты на уровне приложений, плохо приспособлены для работы с динамичной, взаимосвязанной природой инфраструктуры искусственного интеллекта.