Познакомьтесь с правым альтер-эго ChatGPT

Илон Маск стал причиной переполох на прошлой неделе когда он сказал (недавно уволен) правого провокатора Такера Карлсона, что он планирует создать «TruthGPT», конкурента OpenAI. ЧатGPT. Маск говорит, что невероятно популярный бот демонстрирует предвзятость «проснувшегося» и что его версия будет «максимально ищущим правду ИИ», предполагая, что только его собственные политические взгляды отражают реальность.

Маск далеко не единственный, кого беспокоит политическая предвзятость в языковых моделях, но другие пытаются использовать ИИ для преодоления политических разногласий, а не для продвижения определенных точек зрения.

Дэвид Розадо, исследователь данных из Новой Зеландии, был одним из первых, кто обратил внимание на проблему политической предвзятости в ChatGPT. Несколько недель назад, задокументировав то, что он считал либерально настроенными ответами бота по таким вопросам, как налогообложение, владение оружием и свободный рынок, он создал модель ИИ под названием RightWingGPT, которая выражает более консервативные точки зрения. Он стремится к владению оружием и не любит налоги.

Розадо взял языковую модель под названием Davinci GPT-3, похожую, но менее мощную, чем та, на которой работает ChatGPT, и доработал ее дополнительным текстом, потратив несколько сотен долларов на облачные вычисления. Что бы вы ни думали об этом проекте, он демонстрирует, насколько легко людям будет встраивать различные точки зрения в языковые модели в будущем.

Розадо говорит мне, что он также планирует создать более либеральную языковую модель под названием LeftWingGPT, а также модель под названием DepolarizingGPT, которая, по его словам, продемонстрирует «деполяризующую политическую позицию». Розадо и центристский аналитический центр под названием Институт культурной эволюции этим летом выложит все три модели онлайн.

«Мы тренируем каждую из этих сторон — правую, левую и «интегративную» — с помощью книг вдумчивых авторов (не провокаторов)», — говорит Розадо в электронном письме. Текст для DepolarizingGPT исходит от консервативных взглядов, включая Томаса Соуэлла, Милтона Фримена и Уильяма Ф. Бакли, а также от либеральных мыслителей, таких как Симона де Бовуар, Орландо Паттерсон и Билл Маккиббен, а также из других «кураторских источников».

До сих пор интерес к разработке более политически ориентированных ИИ-ботов угрожал разжечь политический раскол. Некоторые консервативные организации уже создают конкурентов для ChatGPT. Например, социальная сеть Gab, известная своей ультраправой пользовательской базой, утверждает, что работа над Инструменты ИИ с «возможностью свободно генерировать контент без ограничений либеральной пропаганды, плотно обернутой вокруг его кода».

Исследования показывают, что языковые модели может тонко влиять моральные взгляды пользователей, поэтому любой политический перекос, который у них есть, может иметь последствия. Китайское правительство недавно выпустило новый рекомендации по генеративному ИИ которые стремятся укротить поведение этих моделей и сформировать их политические взгляды.

OpenAI имеет предупрежден что более совершенные модели ИИ могут иметь «больший потенциал для укрепления целых идеологий, мировоззрений, правды и лжи». В феврале компания заявила в Сообщение блога что он будет изучать разработку моделей, которые позволят пользователям определять свои ценности.

Розадо, который говорит, что не говорил с Маском о своем проекте, стремится спровоцировать размышления, а не создавать ботов, которые распространяют определенное мировоззрение. «Надеюсь, мы, как общество, сможем… научиться создавать ИИ, ориентированные на наведение мостов, а не на сеяние разногласий», — говорит он.

Цель Розадо достойна восхищения, но проблема определения того, что является объективно истинным, сквозь туман политических разногласий — и научить этому языковые модели — может оказаться самым большим препятствием.

ChatGPT и подобные диалоговые боты построены на сложных алгоритмах, которые получают огромное количество текста и обучены предсказывать, какое слово должно следовать за строкой слов. Этот процесс может генерировать удивительно согласованные результаты, но он также может выявить многие тонкие предубеждения из учебного материала, который они потребляют. Не менее важно и то, что эти алгоритмы не обучены понимать объективные факты и склонны придумывать.