Сотни пользовательских разговоров с популярным чат-ботом искусственного интеллекта (ИИ) Anthropic. Клод был найден быть доступным практически всем, кто использует Google или другие веб-браузеры. Разоблачение произошло после того, как пользователи решили сделать чаты «доступными для общего доступа», что позволило поисковым системам индексировать ссылки и сделать частную работу, резюме и личные данные доступными для общественности.
Открытие началось 25 июля 2026 года, когда пользователь Reddit обнаружил, что определенные запросы Google могут выявить многочисленные частные разговоры Клода. По данным VentureBeat, запрос сайт: claude.ai/share
выявил множество пользовательских взаимодействий, а еще один поиск по сайт: claude.ai/public/artifacts
появились общие приложения, отчеты и информационные панели.
Утечка данных охватывала более 200 разговоров как минимум на 25 страницах результатов поиска, некоторые из которых произошли всего за несколько недель до обнаружения. Контент варьировался от обыденного до частного, включая создание криптовалютного кошелька, юридические запросы и внутренние деловые дискуссии.
Корпоративные данные и личные резюме в результатах поиска
Разоблачение не ограничивалось простыми журналами чатов. Некоторые пользователи использовали Клода для проведения собственных исследований в таких областях, как здравоохранение, включая загрузку стенограмм частных разговоров. Другие журналы показали, что пользователи обращались за помощью с резюме, содержащими полные имена, контактную информацию и подробный опыт работы.
В одном случае, о котором сообщила BBC, в апреле пользователь побудил ИИ подготовить неопубликованную запись в блоге об облачной безопасности, содержащую конкретные детали корпоративного проекта.
Всплыли и более эксцентричные взаимодействия. Один пользователь спросил чат-бота, как стать Девятихвостой лисой?
и потребовал буквального превращения человека в существо. Клод ответил, сгенерировав изображение и заявив, что пользователю было предоставлено полностью функциональные способности лисы!
Риск, связанный с артефактами Claude и рабочими пространствами предприятия
Хотя журналы чатов вызывают беспокойство, индексирование «Артефактов» представляет собой другой набор рисков. Artifacts, запущенный в июне 2024 года вместе с Claude 3.5 Sonnet, позволяет ИИ создавать живое программное обеспечение, интерактивные информационные панели и визуализации. Anthropic позиционирует это как рабочее пространство для совместной работы с бизнес-активами, а не как простой чат-бот.
Ом Патель, основатель исследовательской фирмы BigIdeasDB, заявил 26 июля, что эти общие артефакты появлялись в публичных поисках. VentureBeat независимо подтвердила, что несколько сторонних артефактов были доступны через Google без какой-либо аутентификации, хотя URL-адреса ранее не были известны репортеру.
Это говорит о разрыве в восприятии пользователей. Многие пользователи относятся к Любой, у кого есть ссылка
установка функции «не в списке» – аналогично видео на YouTube, не внесенному в список, – при условии, что контент доступен только тем, кто обладает определенным URL-адресом, а не имеет право на индексацию общедоступными поисковыми системами.
Защита Anthropic и позиция Google
Anthropic утверждает, что ответственность за разоблачение лежит на пользователях, которые решили сделать свой контент общедоступным. Компания требует, чтобы пользователи перемещались по нескольким диалоговым окнам, чтобы разрешить общий доступ, и предупреждает, что контент будет доступен любому, у кого есть ссылка.
Компания также заявила, что она не предоставляет каталоги чатов или карты сайта поисковым системам и что ссылки, которыми можно поделиться, доступны поисковым системам. невозможно угадать или обнаружить, если люди сами не захотят поделиться ими
.
Google дистанцировался от инцидента, заявив, что не контролирует, какие страницы становятся общедоступными в сети. Представитель Google сообщил BBC, что компания соблюдает директивы владельцев сайтов относительно того, можно ли сканировать или индексировать страницы, и что ответственность за блокировку ссылок лежит на владельце сайта.
Отраслевые прецеденты и текущее состояние
Это не единичный случай в индустрии искусственного интеллекта. И OpenAI, и Grok из xAI столкнулись с аналогичными проблемами в прошлом году, когда сотни тысяч журналов чатов стали общедоступными посредством онлайн-поиска. В случае с OpenAI компания в конечном итоге изменила способ доступа к таким журналам, чтобы смягчить проблему.
К утру воскресенья многие из первоначальных результатов поиска Google по разговорам Клода исчезли, или их стало труднее найти. Это говорит о том, что Anthropic, вероятно, использовал доступные инструменты для блокировки ссылок из результатов поиска, поскольку процесс блокировки ссылки в Google должен быть инициирован владельцем сайта.
Несмотря на отмену поиска на выходных, значительный объем журналов уже был сохранен и опубликован на социальных платформах, таких как X и Reddit.
Ещё по этой теме
