Странная вещь произошла на прошлой неделе, когда вы ввели в Google запрос «танкист».
Нажмите на результаты изображения, и вместо обычных фотографий площади Тяньаньмэнь в Пекине и культового изображения храброго протестующего, смотрящего на колонну танков, захваченную в 1989 году, первым результатом будет тот же исторический момент, но с другой точки. зрения.
Какое-то время на прошлой неделе первым результатом в Google Картинках для слова «танкист» было вместо этого изображение, созданное ИИ того же протестующего, делающего селфи перед танком. Изображение было создано Midjourney, ему было не менее шести месяцев. Впервые об этом сообщил 404 Media, новый стартап в сфере технической журналистики, созданный бывшими сотрудниками Vice News, появление селфи с танкистом, которое Google впоследствии удалил из результатов поиска по запросу «танкист», высветило один из главных страхов Эдди Переса, Бывший глава отдела честности выборов Twitter, о котором мне рассказали в недавнее интервью в подкасте: теперь возможно, используя изображения ИИ, создавать альтернативную историю. И это имеет огромные последствия не только для нашей жизни, но и наши выборы.
Когда он разговаривал со мной, Перес был обеспокоен преднамеренным использованием изображений ИИ, чтобы обмануть избирателей, заставив их поверить в альтернативные факты: дезинформацию. Но инцидент с танкистом был примером ИИ ошибкаинформация – контент, размещенный безобидно, в контексте, который ясно дает понять, как он был создан, но который затем был лишен этого контекста и представлен как нечто иное.
Изображения — такой мощный и пугающий инструмент для борьбы с искусственным интеллектом из-за нескольких старых принципов. Первое: картинка расскажет тысячу слов. Другой? Пока не увижу, не поверю.
Легко игнорировать историю, если вы только читаете о ней. Если увидеть это своими глазами, и увидеть включенные в него образы, то оно сразу станет более доверчивым. Это проблема, которую я подчеркнул шесть месяцев назад, когда сгенерированные ИИ изображения ареста Дональда Трампа стал вирусным в социальных сетях. В эпоху до ChatGPT, когда эти инструменты были доступны не всем и каждому, мы называли их «дипфейками».
Тогда я спросил создателя серии изображений, журналиста Bellingcat Элиота Хиггинса, чья работа заключалась в поиске дыр в дезинформативных качествах российской пропаганды, беспокоится ли он, что способствует проблеме фейковых новостей. В то время он этого не делал, считая, что всегда есть подарки, которые подчеркнут изображение, было продуктом ИИ.
Сегодня он по-прежнему не беспокоится о том, что люди играют с этим инструментом в социальных сетях, но обеспокоен тем, что политики используют инструменты ИИ для создания фотографий, которые наносят ущерб их оппонентам. (кампания Рона ДеСантиса уже сделал это.«Думаю, по ходу выборов в США мы увидим, насколько плохими они станут», — говорит он, — «но я не думаю, что сторонники Трампа будут стесняться использовать изображения, созданные ИИ».
Кстати, в истории про ИИ-танкиста есть определенная ирония.
В течение нескольких месяцев Игорь Шпотаковский, который исследует китайское право в Университете Ньюкасла, говорил о том, как китайская версия инструментов генеративного искусственного интеллекта реагирует на точно такие же угрозы переписывания истории – в данном случае так, как это может не понравиться правящей Коммунистической партии. У Шпотаковского есть скриншоты того, как модель генерации изображений, разработанная Baidu, гигантской китайской технологической компанией, создает изображения в ответ на запрос с просьбой изобразить «диктатуру», но не делает этого, когда ее просят показать «демократию и свободу». «Это многое говорит нам об их тренировочных данных», — говорит Шпотаковски.
По твоим оценкам, набор, фальшивка
Фоном для фиаско с танкистом является растущие темпы разработки изображений ИИ, а это означает, что такого рода искажение фактов (возможно, лучше назвать его неправильным толкованием), вероятно, станет более распространенным, поскольку способность передавать художественные навыки в руки наименее квалифицированных людей увеличивается. .
