Что нам делать с дипфейками ИИ?

Реакция на дипфейки Трампа сильно раздута. Поскольку каждый комментатор беспокоится о возможном общественном замешательстве, мы должны спросить: вас одурачили, хотя бы ненадолго? Вы знали кого-нибудь, кто был? Кажется, что все представляют себе какого-то гипотетического человека, у которого нет возможности выполнить простой поиск в Google.

Манипуляции с фотографиями существовали еще до Гражданской войны, а редактирование фотографий использовалось как для розыгрышей, так и для политической пропаганды. Фототехники Иосифа Сталина удаляли с фотографий опальных членов партии, вставляли его на фотографии, на которых его никогда не было, и ретушировали его собственную внешность. И все же, даже несмотря на годы значительной дезинформации, мы выжили и сохранили хоть какое-то подобие коллективной реальности.

—Торин Кристенсен, Университет Южной Вирджинии, английский язык

Подумайте об умеренных избирателях

Если дипфейки и будут иметь политическое влияние, то это будет влияние на колеблющихся избирателей. Дипфейки понравятся экстремистам, которые уже фильтруют информацию, основываясь на соответствии их предыдущим предположениям, и только сделают свои пузыри более законспирированными. Дипфейки не изменят своего мнения или своего голоса. Но умеренные или колеблющиеся избиратели могут обратить внимание на дипфейки и изменить свои предпочтения, если содержание кажется правдоподобным.

Тонкие дипфейки могут быть правдоподобными, если их нелегко проверить и они играют на существующих подозрениях. Например, внешняя политика Рона ДеСантиса в основном неизвестна. Учитывая его недавние комментарии об Украине, тонкого дипфейка, показывающего, как он благосклонно отзывается о Владимире Путине, для некоторых умеренных может быть достаточно, чтобы изменить свои взгляды и голоса.

В значительной степени мы голосуем за политиков, основываясь на нашем восприятии их предпочтений. Если убедительные дипфейки манипулируют нашим восприятием предпочтений политиков, пострадает наша способность выбирать эффективных представителей.

— Диллон Прочницки, Джорджтаунский университет, математика и философия.

Новый подъем NFT

Дипфейки не окажут долгосрочного влияния на общественное мнение из-за другой технологии, которая чаще ассоциируется с плохими инвестициями и влиятельными лицами в Instagram: невзаимозаменяемые токены. Рост дипфейков может привести к увеличению использования NFT для аутентификации видео или фотографий на деликатные темы, поскольку их нельзя скопировать и легко аутентифицировать.

С этой технологией, которая еще не совершенна, мы сталкиваемся с проблемой, похожей на ту, с которой, вероятно, столкнулись, когда впервые появились деньги: как мы можем проверить их ценность? За деньги ответ заключался во внедрении сложных функций безопасности, таких как серийные номера и защитные полоски.

Но мы могли бы аутентифицировать онлайн-контент, заставив первоначальных создателей превратить свой контент в NFT и поделиться им в этом формате. Создав метод аутентификации оригинальных видео или других форм уникального онлайн-контента, мы, по сути, повторим процесс, который мы уже прошли с валютой. Из-за этого ИИ будет играть гораздо большую роль в сфере развлечений и образования, чем в распространении дезинформации.

—Джейкоб Уорд, Университет штата Юта, финансовый анализ.

Дипфейки вызывают глубокую обеспокоенность

Дипфейки вызывали беспокойство с момента их создания, поскольку сайты использовали их для создания постыдных или непристойных фотографий несогласных людей, таких как стримеры и актрисы. После дипфейков Трампа становится очевидным, что ИИ представляет большую угрозу, чем предполагалось. Новости без контекста распространяются быстрее, чем когда-либо, благодаря социальным сетям.

Хотя кажется, что общественность прекрасно знала, что дипфейки Трампа не были настоящими, способность дипфейков вызывать общественный гнев вызывает тревогу. С помощью правильной технологии злоумышленник из США или за его пределами может создавать фальшивые изображения, которые приводят в ярость общественность. Сейчас дипфейки далеки от совершенства. Дипфейки Трампа, хотя и впечатляют, все же заметно отличаются от настоящих фотографий.

Но по мере того, как дипфейки становятся более реалистичными, возрастает вероятность того, что они обманут публику. Обучение ИИ похоже на любой другой инструмент; его можно использовать во благо или во зло. Компьютеры использовались для таких важных вещей, как массовая коммуникация и быстрый доступ к знаниям, но они также использовались для манипулирования, шпионажа и кражи денег у уязвимых. Как и компьютеры, ИИ может приносить пользу и вред — мы должны опасаться его.

— Брен Рутли, Квиннипиакский университет, юриспруденция.

Истина всегда раскрывает себя

Стать жертвой ложной информации из дипфейков было бы нашей собственной ошибкой. Многие из нас позволяют нашим предубеждениям управлять нашими суждениями, поскольку мы, естественно, ищем доказательства, подтверждающие наши убеждения, и игнорируем возражения.

Чтобы распознать истину, требуется специальная подготовка, а не только общий интеллект. Во время интервью о том, почему наш мозг любит фальшивые новости, психолог Нью-Йоркского университета Джей Ван Бавел признал, что был виновен в распространении сатирических новостей, которые он считал правдой. Проблема была в том, что он не тщательно проверил информацию, прежде чем поделиться ею.

Истина раскрывается со временем. Так работает наука: каждое испытание, каждый эксперимент, каждый вывод приближают нас к истине. Мы должны приучить себя доверять этому процессу и определять достоверные источники. По мере того, как все больше людей начинают это делать, дипфейки и ложная информация теряют способность распространяться.

— Аман Маджмудар, Чикагский университет, право, литература и общество.

Нажмите здесь, чтобы отправить ответ на Future View на следующей неделе.