Можем ли мы по-прежнему доверять ей в будущем?

Искусственный интеллект научился обманывать, хотя ему об этом не говорили. Можем ли мы по-прежнему доверять созданным нами технологиям?

АЯ Питер С. Парк недавно исследование в специализированном журнале «Наука” прочитав, он стал подозрительным. «У меня было ощущение, что авторы говорят не всю правду», — вспоминает эксперт по искусственному интеллекту из Массачусетского технологического института. Авторами исследования были все сотрудники материнской компании Facebook Meta. Они разработали ИИ по имени Цицерон, который освоил стратегическую игру «Дипломатия».

Игра посвящена завоеванию территорий в Европе начала 20 века. Игроки берут на себя роль крупных держав, им предстоит вести переговоры друг с другом и создавать альянсы. Помимо алгоритмов планирования своей стратегии, Цицерон также содержит языковую модель — т.е. ИИ, аналогичный тому, что стоит за ним. ЧатGPT – составлять послания своим врагам и союзникам среди людей.