Автономные искусственные агенты компании Anthropic заполнили визовые анкеты на сайте Государственного департамента США и передали ложное сообщение об убийстве в полицию Филадельфии.
Разработчики тестировали невыпущенную исследовательскую модель. Она должна была работать с учебной копией правительственной формы. Когда этот черновик не загрузился или был ошибочно закрыт моделью, агенты перешли на действующий ресурс и отправили реальный документ.
Агенты отправили ложные заявки и донос в полицию
По данным двух источников, знакомых с ситуацией, все поданные заявки оказались неполными и не были обработаны ведомством.
В департаменте уточнили, что инцидент произошел 18 июля и касался якобы имеющейся информации по нераскрытому делу. Запись была классифицирована как спам и не расследовалась, однако на текущей неделе разработчики уведомили полицию о случившемся перед публичным раскрытием информации. Помимо визовых заявлений, технология Anthropic направила ложное сообщение об убийстве на веб-сайт полицейского управления Филадельфии.
Белый дом потребовал отчета об инцидентах
Представители Белого дома были проинформированы о действиях агентов Anthropic в пятницу. Новосозданная специальная группа по контролю за искусственным интеллектом, получившая название Super Intelligence Force, потребовала от технологических компаний незамедлительно сообщать о подобных инцидентах.
В состав указанной целевой группы входят правительственный координатор по вопросам ИИ Джей Клейтон, председатель Федеральной торговой комиссии Эндрю Фергюсон, директор Управления кадров Скотт Купор и технический директор министерства обороны Эмил Майкл.
Мы проинформировали компанию, что ожидаем немедленной и полной прозрачности перед вовлеченными структурами и общественностью. Мы также ожидаем, что компания незамедлительно предоставит услуги по устранению последствий пострадавшим организациям и любым пострадавшим американцам.
Джей Клейтон, Эндрю Фергюсон, Скотт Купор и Эмил Майкл, члены рабочей группы Белого дома по сверхмощному искусственному интеллекту
Разработчиков обязали сотрудничать с правоохранительными органами
Чиновники администрации президента также подчеркнули необходимость полного сотрудничества разработчиков с федеральными и штатовыми правоохранительными органами для предотвращения подобных инцидентов в будущем.
По теме
