Выборы 2024: как ChatGPT следует защитить от злоупотреблений в избирательных кампаниях

Стратегия против манипуляций
Как OpenAI хочет предотвратить злоупотребление искусственным интеллектом в избирательной кампании в США

Искусственный интеллект позволяет манипулировать выборами проще, чем когда-либо прежде. Оператор ChatGPT OpenAI представил план по минимизации риска неправильного использования. Время выбрано неслучайно.

В этом году выборы пройдут в большем количестве стран, чем когда-либо прежде: более чем в 50 странах население проголосует за свое политическое руководство. В то же время риск манипуляций выше, чем когда-либо. Благодаря революции в генеративном искусственном интеллекте изображения, текст и даже видео можно создавать в одно мгновение, чтобы выставить противника в плохом свете. С помощью OpenAI одна из компаний, стоящих на переднем крае разработки искусственного интеллекта, взяла на себя обязательство положить этому конец.

Оператор осознавал, что опасность велика. ЧатGPT знал об этом уже давно. «Я нервничаю по поводу того, какое влияние ИИ окажет на будущие выборы», — признался прошлым летом босс OpenAI Сэм Альтман в службе коротких сообщений X, ранее называвшейся Twitter. «Персонализированное личное убеждение в сочетании с высококачественными средствами массовой информации приобретет огромную силу», — считал он. Пять месяцев спустя компания объявляет, какие именно меры она хочет принять, чтобы предотвратить это.

Страх манипуляции

Защита выборов от манипуляций — задача каждого, подчеркивает компания в своем блоге. «И мы хотим гарантировать, что наша технология не будет использоваться таким образом, который может подорвать этот процесс». Для достижения этой цели было разработано несколько подходов злоупотреблять от ChatGPT — безусловно, самого известного ИИ для создания текста, а также ИИ для создания изображений Dall-E.

ChatGPT больше не сможет создавать политические кампании или писать лоббистские тексты. Запрещено также создание чат-ботов, имитирующих политических кандидатов. Чтобы иметь возможность включать актуальную политическую информацию, компания также тесно сотрудничает с международными издателями новостей. ИИ теперь получает информацию о законе о голосовании в США напрямую от беспартийной избирательной организации NASS.

Поскольку в прошлом году несколько изображений политиков, созданных искусственным интеллектом, стали вирусными, Dall-E также должен принять защитные меры. OpenAI работает с коалицией компаний, занимающихся искусственным интеллектом, над включением водяных знаков в изображения, созданные с помощью Dall-E. Таким образом, фейки искусственного интеллекта должны быть быстро выявлены. Так называемый инструмент «классификации происхождения» призван помочь распознавать изображения, созданные с помощью Dall-E, даже без водяных знаков. Все эти меры должны быть реализованы в ближайшем будущем.

Просроченные меры

На самом деле удивительно, что индустрия искусственного интеллекта только сейчас начинает реализовывать подобные меры. Опыт последних лет в социальных сетях показал, в какой степени политические деятели злоупотребляют, когда новые технологии это позволяют. Инструменты, которые можно использовать для мгновенного создания нового контента, должны были заранее подумать о возможном неправильном использовании и соответствующих контрмерах.

Примеров уже достаточно. В прошлом году широко распространились созданные искусственным интеллектом изображения ареста Дональда Трампа, а АдГ использовала изображения предполагаемых беженцев, чтобы поднять настроение. После конференции учредительной партии изображения оставленных коробок для пиццы вызвали гнев в социальных сетях — даже после того, как было установлено, что эти изображения были созданы искусственным интеллектом (узнай больше здесь).

Год глобальных супервыборов

Принятие этих мер не должно было занять много времени: вместе с США, Индией, Великобританией, Россией и многими другими странами в этом году почти половина населения мира будет призвана на выборы в более чем 50 странах. Прежде всего, выборы в США между нынешним президентом Джо Байденом и его вероятным соперником. Дональд Трамп считается определяющим тренд – и в то же время чрезвычайно уязвимым для манипуляций.

Еще неизвестно, насколько хорошо планы OpenAI действительно смогут контролировать злоупотребления. Компании социальных сетей, такие как Meta, уже много лет борются с манипуляциями, используя все новые и новые средства. Несмотря на измеримые успехи, они еще не взяли под контроль самую большую опасность: если избиратели хотят верить ложным сообщениям, даже проверка фактов часто не останавливает их.

Источники:ОпенАИ, Аксиос, АП, Икс

#Предметы