Клод приносит свой ИИ в браузер Chrome ⋅ <>

Антроп началсяего помощник искусственного интеллекта Клод доставить прямо в браузерПолем Благодаря расширению Chrome выбранные пользователи должны иметь возможность проверить, как ИИ ведет себя в повседневных задачах, когда они имеют доступ к веб -сайтам и формам.

Тестовый прогон ограничен 1000 участников максимального тарифа. Цель состоит в том, чтобы получить опыт работы с реальными сценариями использования и в то же время попробовать меры безопасности.

Не без риска

Прямое использование ИИ в браузере открывает новые возможности, но также несет риски. Так называемые оперативные инъекционные атаки являются центральной проблемой. При этом злоумышленники пытаются разместить скрытые команды на веб -сайтах или электронных письмах, чтобы соблазнить ИИ действовать вредно. Тесты с ранними версиями Claude для Chrome показали, что атаки были успешными почти в четверти случаях без защитных мер. Примерами являются манипулируемые электронные письма, чтобы действовать от имени Департамента безопасности и привели к удалению Клода, не спрашивая.

Чтобы предотвратить такие атаки, антропический полагается на несколько защитных уровней. Пользователи могут индивидуально разрешать или отказаться от доступа к веб -сайтам. Подтверждения являются обязательными, если Клод должен выполнять конфиденциальные действия, например, при обмене данными или в финансовых процессах. Кроме того, расширение блокирует определенные категории веб -сайтов, такие как поставщики финансовых услуг. Кроме того, автоматизм используется для распознавания подозрительных закономерностей.

Тестирование в повседневной жизни

В дополнение к внутренним тестам компания опирается на отзывы от практики. Пользователи пилотов могут использовать Claude для организационных задач, таких как планирование встреч или написание электронных писем, но должны избегать конфиденциальных приложений. О списке ожидания может зарегистрироваться для программы. Антропик хочет использовать результаты, чтобы уточнить защитные механизмы и сделать Клода более широко использоваться в браузере в долгосрочной перспективе.

https://www.youtube.com/watch?v=MCJ4KX_P2AK

По теме: