Исследователи выяснили, что делает чат-ботов с искусственным интеллектом политически убедительными

Примерно два года назад Сэм Альтман написал в Твиттере что системы ИИ будут способны к сверхчеловеческому убеждению задолго до достижения общего интеллекта — предсказание, которое вызвало обеспокоенность по поводу влияния ИИ на демократические выборы.

Чтобы увидеть, могут ли модели разговорного большого языка действительно повлиять на политические взгляды общественности, ученые из Британского института безопасности искусственного интеллекта, Массачусетского технологического института, Стэнфорда, Карнеги-Меллона и многих других учреждений провели крупнейшее на сегодняшний день исследование убедительности искусственного интеллекта, в котором приняли участие почти 80 000 участников из Великобритании. Оказалось, что политические чат-боты с искусственным интеллектом далеки от сверхчеловеческой убедительности, но исследование поднимает некоторые более тонкие вопросы о нашем взаимодействии с искусственным интеллектом.

ИИ-антиутопии

Общественные дебаты о влиянии ИИ на политику в основном вращаются вокруг понятий, позаимствованных из научной фантастики-антиутопии. Большие языковые модели имеют доступ практически ко всем фактам и историям, когда-либо опубликованным по любому вопросу или кандидату. Они обработали информацию из книг по психологии, переговорам и манипуляциям людьми. Они могут рассчитывать на абсурдно высокую вычислительную мощность в огромных центрах обработки данных по всему миру. Кроме того, они часто могут получить доступ к тоннам личной информации об отдельных пользователях благодаря сотням и сотням онлайн-взаимодействий, находящихся в их распоряжении.

Разговор с мощной системой искусственного интеллекта — это, по сути, взаимодействие с интеллектом, который знает все обо всем, а также почти все о вас. С этой точки зрения программы LLM действительно могут показаться пугающими. Целью этого нового гигантского исследования убедительности ИИ было разбить такие пугающие видения на составные части и посмотреть, действительно ли они выдерживают критику.

Команда изучила 19 LLM, включая самые мощные, такие как три разные версии ChatGPT и бета-версия Grok-3 от xAI, а также ряд более мелких моделей с открытым исходным кодом. ИИ было предложено выступить за или против определенных позиций по 707 политическим вопросам, выбранным командой. Пропаганда осуществлялась путем коротких бесед с платными участниками, привлеченными через краудсорсинговую платформу. Каждый участник должен был оценить свое согласие с определенной позицией по заданному политическому вопросу по шкале от 1 до 100 как до, так и после разговора с ИИ.