Генеративный ИИ ничему не научился у Web 2.0

Если 2022 год был годом начала бума генеративного ИИ, то 2023 год стал годом паники в области генеративного ИИ. Чуть более 12 месяцев с тех пор OpenAI выпустила ChatGPT и установите записывать как самый быстрорастущий потребительский продукт, он, похоже, также помог установить рекорд по быстрому вмешательству правительства в новую технологию. Соединенные штаты Федеральная избирательная комиссия изучает мошеннические рекламные кампании, Конгресс призывает к надзору за тем, как компании, занимающиеся искусственным интеллектом, разрабатывают и маркируют обучающие данные для своих алгоритмов, а Евросоюз принял новый Закон об искусственном интеллекте с внесенными в последнюю минуту изменениями в целях реагирования на генеративный искусственный интеллект.

Но, несмотря на всю новизну и скорость, проблемы генеративного ИИ также до боли знакомы. OpenAI и ее конкуренты, стремящиеся запустить новые модели ИИ, сталкиваются с проблемами, которые преследовали социальные платформы и новые технологии, формирующие эпоху, на протяжении почти двух десятилетий. Такие компании, как Meta, никогда не одерживали верх над дезинформацией, отрывочными практиками трудовых отношений и порнография без согласия, и это лишь некоторые из их непредвиденных последствий. Теперь эти проблемы обретают новую, сложную жизнь, благодаря ИИ.

«Это вполне предсказуемые проблемы», — говорит Хани Фарид, профессор Школы информации Калифорнийского университета в Беркли, о головных болях, с которыми сталкиваются OpenAI и другие. «Я думаю, их можно было предотвратить».

Проторенная тропа

В некоторых случаях компании, занимающиеся генеративным искусственным интеллектом, строятся непосредственно на проблемной инфраструктуре, созданной компаниями социальных сетей. Facebook и другие компании стали полагаться на низкооплачиваемую, модерация контента на аутсорсе работники – часто на Глобальном Юге – чтобы держать под контролем такой контент, как разжигание ненависти или изображения с обнаженной натурой или насилием.

Сейчас эту же рабочую силу привлекают помочь тренироваться генеративные модели искусственного интеллекта, часто с такой же низкой оплатой и тяжелыми условиями труда. Поскольку аутсорсинг ставит важнейшие функции социальной платформы или компании, занимающейся искусственным интеллектом, в административном порядке из ее штаб-квартиры, а зачастую и на другом континенте, исследователям и регулирующим органам может быть сложно получить полную картину того, как создается и управляется система искусственного интеллекта или социальная сеть.

Аутсорсинг также может скрыть, где на самом деле находится истинный интеллект внутри продукта. Когда часть контента исчезает, был ли он удален алгоритмом или одним из многих тысяч модераторов? Когда чат-бот службы поддержки помогает клиенту, какая заслуга в этом принадлежит искусственному интеллекту, а какая — работнику перегретого центра аутсорсинга?

Есть также сходство в том, как компании, занимающиеся искусственным интеллектом, и социальные платформы реагируют на критику их пагубных или непреднамеренных последствий. Компании, занимающиеся искусственным интеллектом, говорят о внедрении политики «защиты» и «приемлемого использования» для определенных моделей генеративного искусственного интеллекта, точно так же, как у платформ есть свои условия обслуживания, касающиеся того, какой контент разрешен, а какой запрещен. Как и в случае с правилами социальных сетей, политику и средства защиты ИИ оказалось сравнительно легко обойти.