Что мы ошибаемся в кризисе истины ИИ

В четверг я сообщил первое подтверждение того, что Министерство внутренней безопасности США, в котором расположены иммиграционные агентства, использует видеогенераторы искусственного интеллекта от Google и Adobe для создания контента, которым оно делится с общественностью. Эта новость появилась в тот момент, когда иммиграционные агентства наводнили социальные сети контентом в поддержку программы массовой депортации президента Трампа, некоторые из которых, судя по всему, созданы с помощью искусственного интеллекта (например, видео о «Рождестве после массовых депортаций»).

Но я получил два типа реакций от читателей, которые могут объяснить эпистемический кризис, в котором мы находимся.

Одно было от людей, которые не были удивлены, потому что 22 января Белый дом опубликовал сообщение цифровой видоизмененный фотография женщины, арестованной во время акции протеста ICE, на которой она выглядела истеричной и плачущей. Кэлан Дорр, заместитель директора по связям с общественностью Белого дома, не ответил на вопросы о том, изменил ли Белый дом фотографию, но написал«Мемы будут продолжаться».

Второе сообщение поступило от читателей, которые не видели смысла сообщать о том, что DHS использует ИИ для редактирования общедоступного контента, поскольку новостные агентства, очевидно, делают то же самое. Они указали на тот факт, что новостная сеть MS Now (ранее MSNBC) поделилась изображением Алекса Претти, которое было отредактировано с помощью искусственного интеллекта и, казалось, сделало его более красивым, – факт, который привел к появлению на этой неделе множества вирусных видеороликов, в том числе одного из подкаста Джо Рогана. Другими словами, бороться с огнем огнем? Представитель MS Now сказал Сноупсу что новостное издание опубликовало изображение, не зная, что оно было отредактировано.

Нет никаких оснований объединять эти два случая измененного содержания в одну категорию или рассматривать их как свидетельство того, что истина больше не имеет значения. Один из них касался того, что правительство США поделилось с общественностью явно измененной фотографией и отказалось ответить, было ли ею намеренно манипулировано; другой связан с новостным изданием, которое транслировало фотографию должен был знать было изменено, но были предприняты некоторые шаги для раскрытия ошибки.

Вместо этого эти реакции обнаруживают недостаток в том, как мы коллективно готовились к этому моменту. Предупреждения о кризисе правды ИИ вращались вокруг основного тезиса: неспособность сказать, что реально, уничтожит нас, поэтому нам нужны инструменты для независимой проверки истины. Два моих мрачных вывода заключаются в том, что эти инструменты терпят неудачу и что, хотя проверка истины по-прежнему важна, она больше не способна сама по себе вызывать доверие общества, которое нам обещали.