Клод из Anthropic берет на себя управление собакой-роботом

Чем больше роботов начинают появляться на складах, в офисах и даже в домах людей, идея о том, что большие языковые модели взламывают сложные системы, звучит как научно-фантастический кошмар. Итак, естественно, антропный Исследователи стремились увидеть, что произойдет, если Клод попытается взять под контроль робота — в данном случае робота-собаку.

В новом исследовании исследователи Anthropic обнаружили, что Клод смог автоматизировать большую часть работы, связанной с программированием робота и выполнением физических задач. С одной стороны, их результаты показывают способности современных моделей ИИ к агентному кодированию. С другой стороны, они намекают на то, как эти системы могут начать распространяться в физическую сферу по мере того, как модели осваивают больше аспектов кодирования и лучше взаимодействуют с программным обеспечением, а также с физическими объектами.

«У нас есть подозрение, что следующим шагом для моделей ИИ станет выход на мир и более широкое влияние на него», — рассказал WIRED Логан Грэм, член красной команды Anthropic, которая изучает модели на предмет потенциальных рисков. «Это действительно потребует от моделей большего взаимодействия с роботами».

Anthropic была основана в 2021 году бывшими сотрудниками OpenAI, которые считали, что ИИ может стать проблематичным и даже опасным по мере своего развития. Сегодняшние модели недостаточно умны, чтобы полностью контролировать робота, говорит Грэм, но будущие модели могут быть такими. Он говорит, что изучение того, как люди используют LLM для программирования роботов, может помочь отрасли подготовиться к идее «моделей, которые в конечном итоге самовоплощаются», имея в виду идею о том, что ИИ может когда-нибудь управлять физическими системами.

До сих пор неясно, почему модель ИИ решила взять под контроль робота, не говоря уже о том, чтобы сделать с ним что-то злонамеренное. Но размышления о наихудшем сценарии являются частью бренда Anthropic и помогают позиционировать компанию как ключевого игрока в движении за ответственный искусственный интеллект.

В эксперименте, получившем название Project Fetch, компания Anthropic попросила две группы исследователей, не имеющих предыдущего опыта робототехники, взять под контроль четвероногого робота-собаку Unitree Go2 и запрограммировать его на выполнение определенных действий. Командам предоставили доступ к контроллеру, а затем попросили выполнять все более сложные задачи. Одна группа использовала модель кодирования Клода, другая писала код без помощи ИИ. Группа, использующая Клода, смогла выполнить некоторые, хотя и не все, задачи быстрее, чем группа программистов, состоящая только из людей. Например, роботу удалось заставить робота прогуляться и найти пляжный мяч, чего группа, состоящая только из людей, не могла понять.

Anthropic также изучила динамику сотрудничества в обеих командах, записывая и анализируя их взаимодействие. Они обнаружили, что группа, не имевшая доступа к Клоду, демонстрировала более негативные настроения и растерянность. Возможно, это связано с тем, что Клод ускорил подключение к роботу и разработал более простой в использовании интерфейс.

Робот Go2, используемый в экспериментах Anthropic, стоит 16 900 долларов — относительно дешево по меркам роботов. Обычно его используют в таких отраслях, как строительство и производство, для проведения удаленных проверок и патрулирования безопасности. Робот способен передвигаться автономно, но обычно полагается на команды программного обеспечения высокого уровня или человека, управляющего контроллером. Go2 производится компанией Unitree, базирующейся в Ханчжоу, Китай. Согласно недавнему исследованию, ее системы искусственного интеллекта в настоящее время являются самыми популярными на рынке. отчет SemiAnaанализа.

Большие языковые модели, лежащие в основе ChatGPT и других умных чат-ботов, обычно генерируют текст или изображения в ответ на запрос. Совсем недавно эти системы научились генерировать код и операционное программное обеспечение, превратив их в агентов, а не просто в генераторы текста.