Сможет ли ИИ избежать ловушки эншиттификации?

я недавно отдыхал в Италии. Как и в наши дни, я проложил свой маршрут мимо GPT-5, чтобы получить предложения по достопримечательностям и ресторанам. Бот сообщил, что лучшим выбором для ужина возле нашего отеля в Риме является короткая прогулка по Виа Маргутта. Это оказалось одним из лучших блюд, которые я помню. Вернувшись домой, я спросил модель, как она выбрала этот ресторан, но не решаюсь рассказать здесь, на случай, если когда-нибудь в будущем мне понадобится столик (Черт, кто знает, вернусь ли я вообще: это называется Бабетта. Для бронирования позвоните заранее.) Ответ был сложным и впечатляющим. Среди факторов были восторженные отзывы местных жителей, отзывы в кулинарных блогах и итальянской прессе, а также знаменитое сочетание римской и современной кухни в ресторане. О, и короткая прогулка.

С моей стороны тоже требовалось кое-что: доверие. Мне пришлось поверить в то, что GPT-5 был честным брокером, выбиравшим мой ресторан без предвзятости; что ресторан не был показан мне как спонсируемый контент и не получил часть моего чека. Я мог бы провести глубокое исследование самостоятельно, чтобы перепроверить рекомендации (я просмотрел веб-сайт), но смысл использования ИИ состоит в том, чтобы обойти это препятствие.

Этот опыт укрепил мою уверенность в результатах ИИ, но также заставил меня задаться вопросом: по мере того, как такие компании, как OpenAI, становятся все более могущественными и пытаются вернуть деньги своим инвесторам, будет ли ИИ склонен к снижению стоимости, которое кажется характерным для технологических приложений, которые мы используем сегодня?

Игра слов

Писатель и технический критик Кори Доктороу называет эту эрозию «эншиттификацией». Его предпосылка заключается в том, что такие платформы, как Google, Amazon, Facebook и TikTok, изначально стремятся угодить пользователям, но как только компании побеждают конкурентов, они намеренно становятся менее полезными для получения большей прибыли. После того, как WIRED переиздал новаторскую работу Доктороу эссе 2022 года Что касается этого явления, то этот термин вошел в обиход, главным образом потому, что люди осознали, что он полностью соответствует действительности. Эншиттификация была выбрана Словом года 2023 года по версии Американского диалектного общества. Эту концепцию цитировали так часто, что она выходит за рамки своей ненормативной лексики, появляясь в местах, где обычно затыкают нос при таком слове. Доктороу только что опубликовал одноименная книга по теме; изображение на обложке — это смайлик для… угадайте чего.

Если чат-боты и агенты искусственного интеллекта станут замученными, это может быть хуже, чем если поиск Google станет менее полезным, результаты Amazon будут перегружены рекламой или даже Facebook будет показывать меньше социального контента в пользу вызывающего гнев кликбейта.

ИИ находится на пути к тому, чтобы стать постоянным спутником, давая одноразовые ответы на многие наши запросы. Люди уже полагаются на него, чтобы интерпретировать текущие события и получить советы по поводу всевозможных вариантов покупки и даже жизненного выбора. Из-за огромных затрат на создание полноценной модели искусственного интеллекта справедливо предположить, что лишь несколько компаний будут доминировать в этой области. Все они планируют потратить сотни миллиардов долларов в течение следующих нескольких лет, чтобы улучшить свои модели и передать их в руки как можно большему количеству людей. Сейчас я бы сказал, что ИИ находится на стадии, которую Доктороу называет «пользой для пользователей». Но необходимость вернуть огромные капиталовложения будет огромной, особенно для компаний, чья пользовательская база заблокирована. Эти условия, как пишет Доктороу, позволяют компаниям злоупотреблять своими пользователями и бизнес-клиентами, «чтобы вернуть себе всю ценность».

Когда кто-то представляет себе эншитификацию ИИ, первое, что приходит на ум, — это реклама. Кошмар в том, что модели ИИ будут давать рекомендации на основе того, какие компании заплатили за размещение. Сейчас этого не происходит, но компании, занимающиеся искусственным интеллектом, активно осваивают рекламное пространство. В недавнее интервьюГенеральный директор OpenAI Сэм Альтман сказал: «Я считаю, что, вероятно, мы можем создать какой-нибудь крутой рекламный продукт, который принесет чистую пользу пользователю и своего рода позитив для наших отношений с пользователем». Тем временем OpenAI только что объявила о сделке с Walmart, согласно которой клиенты ритейлера смогут делать покупки в приложении ChatGPT. Не могу себе представить, чтобы там был конфликт! На поисковой платформе искусственного интеллекта Perplexity есть программа, где спонсируемые результаты появляются в четко обозначенных последующих наблюдениях. Но, как обещает компания, «эти объявления не изменят нашего стремления поддерживать надежный сервис, который предоставит вам прямые и объективные ответы на ваши вопросы».