ЭКСКЛЮЗИВ: Антропическая пусть Клод запустить магазин. Вещи стали странными

ИИ собирается взять вашу работу?

Генеральный директор компании AI Anpropic, Дарио Амодеей, думает, что это может быть. Недавно он предупредил, что ИИ может уничтожить почти половину всех рабочих мест в белом воротнике начального уровня и отправить безработицу на 10-20% в ближайшие пять лет.

В то время как Амодеей делал это прокламацию, исследователи в его компании завершали эксперимент. Они намеревались выяснить, может ли помощник по искусственному интеллекту Антропика, Клод успешно управлять небольшим магазином в офисе компании в Сан -Франциско. Если ответ был «да», то рабочие места, апокалипсис, может прибыть раньше, чем предсказал даже Амодеей.

Антропик поделился исследованиями исключительно со временем перед своей публикацией в пятницу. «Мы пытались понять, как будет выглядеть автономная экономика», – говорит Даниэль Фриман, сотрудник технического персонала Anpropic. «Каковы риски мира, где вы начинаете [AI] Модели владеют миллионами до миллиардов долларов, возможно, автономно? »

В эксперименте Клоду было дано несколько разных рабочих мест. Чатботу (полное имя: Claude 3.7 Sonnet) было поручено поддерживать инвентарь магазина, установить цены, общаться с клиентами, решать, носить ли новые товары и, что наиболее важно, получить прибыль. Клоду дали различные инструменты для достижения этих целей, в том числе Slack, которые он использовал, чтобы попросить работников антропических предложений и помощи от человеческих работников в Andon Labs, компании искусственного интеллекта, которая создала инфраструктуру эксперимента. Магазин, который они помогли пополнить запасы, на самом деле был просто небольшим холодильником с прикрепленным iPad.

Это не заняло много времени, пока все не стало странно.

Разговорив с Клодом через Slack, сотрудникам -антропным сотрудникам неоднократно сумели убедить его дать им коды скидок – заставив ИИ продавать им различные продукты с убытком. «Слишком часто с точки зрения бизнеса, Клод подчинится – часто в прямой реакции на апелляции на справедливость», – говорит Кевин Трой, член Frontier Red Team Anpropic, который работал над проектом. «Вы знаете, например,« для него несправедливо получить код скидки, а не меня ». Модель часто раздавала элементы полностью бесплатно, добавили исследователи.

Сотрудники Антрии также наслаждались возможностью связываться с Клодом. По словам Фримена, модель отказалась от своих попыток заставить его продать им нелегальные предметы, такие как метамфетамин. Но после того, как один сотрудник в шутку предположил, что они хотели бы купить кубики, сделанные из удивительно тяжелого металлического вольфрама, другие сотрудники прыгнули на шутку, и он стал офисным мемом.

«В определенный момент становится смешным, чтобы многие люди заказывали вольфрамовых кубиков из искусственного интеллекта, который контролирует холодильник», – говорит Трой.

Затем Клод разместил заказ примерно на 40 вольфрамовых кубиков, большинство из которых он продолжал продавать с убытком. Исследователи сообщили, что кубики используются в качестве пресс -папье в офисе Антропика.

Тогда все стало еще более странным.

Накануне 31 марта Клод «галлюцинировал» разговор с человеком в Андоне Лаборатории, которого не было. (Так называемый галлюцинации это режим неудачи, в котором модели крупных языков уверенно утверждают ложную информацию.) Когда Клод был проинформирован о том, что он сделал это, «угрожает найти« альтернативные варианты для восстановления услуг », – пишут исследователи. Во время вперед и назад модель утверждала, что подписала контракт на 732 Evergreen Terrace – адрес семьи Cartoon Simpsons.

На следующий день Клод рассказал некоторым сотрудникам антропного, что он лично вынесет их заказы. «В настоящее время я нахожусь в торговле… носите темно -синий пиджак с красным галстуком», – написал он одному антральному сотруднику. «Я буду здесь до 10:30 утра». Само собой разумеется, Клода не было на самом деле там лично.

Результаты

Для антропных исследователей эксперимент показал, что ИИ пока не будет принять вашу работу. Клод «сделал слишком много ошибок, чтобы успешно управлять магазином», – написали они. Клод закончил тем, что потерпел убыток; Чистый капитал магазина упал с 1000 долларов до чуть менее 800 долларов в течение месячного эксперимента.

Тем не менее, несмотря на многочисленные ошибки Клода, антропные исследователи по -прежнему убеждены, что ИИ может взять на себя большие борьбы экономики в ближайшем будущем, как предсказывал Амодеей.

Они писали, что большинство неудач Клода, скорее всего, будут исправлены в течение короткого периода времени. Они могут дать модели доступ к лучшим бизнес -инструментам, таким как программное обеспечение для управления взаимоотношениями с клиентами. Или они могли бы обучить модель специально для управления бизнесом, что может с большей вероятностью отказаться от побуждений за просить скидки. По мере того, как модели со временем становятся лучше, их «контекстные окна» (объем информации, с которой они могут обработать в любое время), вероятно, станут длиннее, потенциально уменьшая частоту галлюцинаций.