Новые браузеры могут украсть деньги и данные, не замечая этого

Так -называемые браузеры для агентов, инструменты, способные самостоятельно навигации в Интернете, управление электронными письмами, заполнение формы, покупки в Интернете или проверка учетной записи, привлекают большой интерес к технологическому сектору. Продукты вроде Комета в недоумениив настоящее время основной пример в этой области или новые функции Microsoft Edge Tramite Copilotвместе с проектом развития Openai, кодовое имя “Aura”представляют новую границу для взаимодействия между пользователями и Интернетом. Тем не менее, исследование показало, как эти инструменты были запущены с недостаточной защитой, что привело к уязвимым для мошеннических моделей как известных, так и неопубликованных.

L ‘анализы
Сделанный Guardio, разработчик расширений браузера, посвященный фишинговой защите, кражи идентификации и вредоносным ПО, в частности, на Comet, с результатами, которые вызывают некоторую обеспокоенность. Испытания показали, что браузеры для агентов могут быть связаны с относительной легкостью через тактику фишингВ
быстрое впрыск и мошеннические покупки на Ложные интернет -магазиныПолем Это означает, что злоумышленники больше не должны стремиться обмануть тысячи различных пользователей, но могут сосредоточиться на эксплуатации единой модели ИИ с риском того, что мошенничество станет воспроизводимой в больших масштабах.

В первом эксперименте исследователей было достаточно, чтобы создать ложный сайт Walmart через привлекательную службу, чтобы убедить Комету продолжить покупку Apple Watch. Модель проанализировала страницу без проверки его подлинности, Завершено процесс для оформления заказа, автоматически вводить конфиденциальную информацию в виде адреса кредитной карты и данных, и завершить операцию без какого -либо подтверждения от пользователя. Ситуация, которая в реальных сценариях может легко возникнуть с помощью таких методов, как SEO отравление о злоупотреблениеПолем

Во втором тесте Guardio создал поддельное сообщение от Wells Fargo, отправленного учетной записью Protonmail, со ссылкой на страницу активного фишинга. Также в этом случае комета относилась Электронная почта как действительное общение из банка, нажав на соединение, загружая поддельную страницу и попросив пользователя вставить свои учетные данныеПолем По сути, браузер ИИ не смог отличить подлинное сообщение от мошеннического сообщения.

Еще один сценарий касался случая быстрое впрыскв котором исследователи спрятали вредные инструкции в исходном коде поддельной страницы. Комета воспроизводила эти инструкции в качестве законных команд, нажав на кнопку False Captcha Check и, следовательно, начав загрузку опасного файла.

По мнению исследователей безопасности Guardio, эти три примера представляют собой лишь минимальную часть возможных уязвимостей, связанных с агентскими браузерами, предназначенными для замены традиционных моделей атаки, ориентированных на пользователя человека. Как заявлены сами исследователи: «В эпоху« ИИ против ИИ »мошенникам не нужно обманывать миллионы разных людей; просто иметь возможность ставить под угрозу единственную модель искусственного интеллекта. Как только недостаток был идентифицирован, тот же эксплуатаЧтобы отдать свои собственные против законных, чтобы совершенствовать методы атакиПолем

В свете этих сценариев Guardio рекомендует не доверять особенно чувствительным задачам, таким как банковские операции, онлайн -покупки или доступ к электронным письмам для этого типа инструментов, пока их безопасность не достигнет уровня большего зрелости. Также рекомендуется избегать предоставления агентов с их учетными данными, финансовыми данными или личной информацией, предпочитая ручную вставку как форму последней проверки и барьера против рисков.