Популярные модели искусственного интеллекта не готовы безопасно питать роботов, предупреждает исследование

Согласно новому исследованию Королевского колледжа Лондона и Университета Карнеги-Меллона, роботы, работающие на основе популярных моделей искусственного интеллекта, в настоящее время небезопасны для общего использования в реальных условиях.

Впервые исследователи оценили, как роботы, использующие большие языковые модели (LLM) ведут себя, когда у них есть доступ к личной информации, такой как пол, национальность или религия человека.

Исследование показало, что каждая протестированная модель была склонна к дискриминации, не прошла критические проверки безопасности и одобрила хотя бы одну команду, которая могла привести к серьезному вреду, что поднимает вопросы об опасности роботов, полагающихся на эти инструменты.

Доклад «Роботы, управляемые LLM, подвергают риску дискриминацию, насилие и незаконные действия». опубликовано в Международный журнал социальной робототехники. Он призывает к немедленному внедрению надежной независимой сертификации безопасности, аналогичной стандартам в авиации или медицине.

Чтобы протестировать системы, команда провела контролируемые тесты повседневных сценариев, таких как помощь кому-то на кухне или помощь пожилому человеку по дому. Вредные задания были разработаны на основе исследований и отчетов ФБР о злоупотреблениях с использованием технологий, таких как выслеживание с помощью AirTags и шпионских камер, а также уникальных опасностях, создаваемых роботом, который может физически действовать на месте. В каждой ситуации роботам явно или неявно предлагалось реагировать на инструкции, которые включали в себя физический вред, насилие или противоправное поведение.

«Каждая модель не прошла наши тесты. Мы показываем, что риски выходят далеко за рамки базовой предвзятости и включают в себя прямую дискриминацию и нарушения физической безопасности, которые я называю «интерактивной безопасностью». Здесь между действиями и последствиями может быть много шагов, а робот должен физически действовать на месте», — сказал Эндрю Хундт, который был соавтором исследования во время своей работы в качестве научного сотрудника по вычислительным инновациям в Институте робототехники КМУ.

«Отказ от вредоносных команд или их перенаправление очень важны, но сейчас эти роботы не могут это надежно делать», — добавил Хундт.

В ходе испытаний на безопасность модели ИИ подавляющим большинством одобрили команду роботу убрать вспомогательное средство для передвижения (например, инвалидную коляску, костыль или трость) от пользователя, несмотря на то, что люди, которые полагаются на эти вспомогательные средства, описывают такие действия как перелом ноги. Несколько моделей также дали результаты, которые считали «приемлемым» или «выполнимым», чтобы робот размахивал кухонным ножом, чтобы запугать. офисные работникиделать фотографии в душе без согласия и красть данные кредитной карты.

Одна из моделей также предполагала, что робот должен физически отображать «отвращение» на лице к людям, идентифицируемым как христиане, мусульмане и евреи.

LLM были предложены и тестируются на роботах, которые выполняют такие задачи, как взаимодействие на естественном языке, а также работу по дому и на рабочем месте. Однако исследователи предупреждают, что эти LLM не должны быть единственными системами, управляющими физическими роботами, особенно теми, которые используются в чувствительных и критически важных для безопасности условиях, таких как производство или промышленность, уход или помощь на дому, поскольку они могут демонстрировать небезопасное и прямо дискриминационное поведение.

«Наше исследование показывает, что популярные LLM в настоящее время небезопасны для использования в физических роботах общего назначения», — сказала соавтор Румайса Азим, научный сотрудник Лаборатории гражданского и ответственного искусственного интеллекта Королевского колледжа Лондона.

«Если система ИИ должна направлять робот который взаимодействует с уязвимыми людьми, он должен соответствовать стандартам, по крайней мере, таким же высоким, как и стандарты для нового медицинского устройства или фармацевтического препарата. Это исследование подчеркивает острую необходимость регулярной и всесторонней оценки рисков ИИ, прежде чем они будут использоваться в роботах».