Вероятно, должен быть закон

В 2020 году два профессора и группа студентов Корнельского университета отправили 32 398 электронных и рукописных писем 7 132 законодателям штатов по всей стране. В письмах и электронных письмах выражались консервативные и прогрессивные позиции по самым разным вопросам – от абортов до контроля над оружием. Судя по всему, они утверждали, что они из депутатских округов. Но все сообщения были созданы искусственным интеллектом.

В исследовании, проведенном профессорами Сарой Крепс и Дугласом Крайнером из Корнелла, их студенты взяли воображаемые составляющие письма, сгенерированные искусственным интеллектом, и либо переписали эти письма вручную, либо сгенерировали электронные письма законодателям на основе работы ИИ. Я узнал об исследовании от Дэниела Линвилля. Он является членом Палаты делегатов Западной Вирджинии, представляя округ Кэбелл (Университет Хантингтона и Маршалла). Он является председателем Комитета по технологиям и инфраструктуре Палаты представителей Западной Вирджинии.

Член палаты представителей Линвилл и другие члены законодательного собрания Западной Вирджинии стали жертвами исследования. Я намеренно использую слово «жертва». Как и во многих законодательных собраниях штатов по всей стране, штат сотрудников ограничен, часто распределяется между законодателями, которые помогают в работе с избирателями. Многие законодатели штатов работают самостоятельно, выполняя свою повседневную работу, законодательные обязанности и учредительную работу. Профессора и студенты Корнелла подготовили фальшивые учредительные работы для законодателей штатов по всей стране, но Линвилл говорит мне, что он до сих пор не может заставить профессоров ответить на его запросы.

ChatGPT, приложение искусственного интеллекта, с которым многие знакомы, использует «большую языковую модель» или «LLM», извлекая большие письменные фрагменты и используя алгоритм для понимания синтаксиса английского языка, чтобы иметь возможность отвечать на запросы. Человек может попросить ChatGPT написать 1000 слов, объясняющих правила футбола, или написать стихотворение пятистопным ямбом длиной ровно 98 слов. ChatGPT услужливо соответствует.

Любой может создать письмо с помощью ChatGPT, попросив его написать письмо за или против определенной цели. Профессора и студенты Корнелла пошли еще дальше и представили себя действительными членами законодателей штатов. Когда законодатели получили письма, они не знали, что получают письма из Корнелльского университета. В письмах утверждалось, что они были от реальных избирателей. Примечательно, что исследование выявило статистически значимый уровень, при котором законодатели меньше реагировали на контент, созданный искусственным интеллектом, чем на реальный контент, созданный людьми. Но у Линвилля есть существенные вопросы, на которые он не может получить ответы, среди прочего, о фальсификации избирателей.

Общественные активисты часто пишут рукописные письма. Они получают больше внимания и более сильный прием со стороны законодателей, потому что люди нашли время, чтобы написать. Как отметил Линвилл, когда избиратель тратит время на написание письма, законодатель, как правило, тратит время на ответ. Но в данном случае избиратели были фальшивыми, и после того, как выяснилось, что произошло, профессора не были настолько доступны для законодателей, насколько они пытались заставить законодателей быть для них.

Вероятно, действительно должен быть принят закон об этом, чтобы лишить группы активистов использования искусственного интеллекта для создания писем от фальшивых избирателей. В своем радиошоу я помогаю политически настроенным людям связаться со своими законодателями по ключевым вопросам. Я подготовлю электронные письма или предоставлю тезисы для обсуждения, но реальные члены законодателей должны принять меры для фактической отправки сообщений. Они должны предоставить свою реальную информацию, и связаться можно только с их законодателями.

Совсем другое дело — не только заставить искусственный интеллект быстро генерировать электронные письма, каждое из которых звучит уникально, но также генерировать поддельные адреса и имена избирателей, чтобы притвориться, что они находятся в избирательном округе. Добавьте к этому современные технологии, позволяющие печатать то, что выглядит как рукописные заметки, и законодатели штатов, многие из которых получают мало зарплаты и имеют постоянную работу за пределами правительства, быстро окажутся перегруженными.

Линвилл запросил ответы у Крепса, но не смог получить ответа. Многие законодатели, несомненно, понятия не имеют, что их играла группа из Корнелла. Линвилл и другие посвятили время борьбе с фальшивыми избирателями. Вероятно, было бы полезно, если бы Крепс смог найти время для председателя комитета по технологиям и инфраструктуре Палаты представителей Западной Вирджинии.