Мнение The Guardian об искусственном интеллекте: увольнения сотрудников службы безопасности вызывают беспокойство по поводу того, что отрасль гонится за прибылью любой ценой | Редакционный

ЧАСЕдва ли месяц проходит без того, чтобы кто-нибудь из ИИ-грандов не предупредил, что эта технология представляет собой реальную угрозу человечеству. Многие из этих предупреждений могут быть туманными или наивными. Другие могут быть корыстными. Нужен спокойный и взвешенный анализ. Однако к некоторым предупреждениям стоит отнестись серьезно.

На прошлой неделе уволились некоторые известные исследователи безопасности искусственного интеллекта. предупреждение что фирмы, гоняющиеся за прибылью, отодвигают на второй план безопасность и продвигают рискованные продукты. В ближайшем будущем это предполагает быструю «эншитификацию» в погоне за краткосрочными доход. Без регулирования общественные цели уступают место прибыли. Несомненно, растущая роль ИИ в правительстве и повседневной жизни, а также стремление владельцев-миллиардеров к прибыли требуют подотчетности.

Решение использовать агентов – чат-ботов – в качестве основного пользовательского интерфейса для ИИ было в первую очередь коммерческим. Внешний вид разговора и взаимности способствует более глубокому взаимодействию с пользователем, чем панель поиска Google. Исследователь OpenAI Зои Хитциг предупредил что введение рекламы в эту динамику сопряжено с риском манипуляций. OpenAI утверждает, что реклама не влияет на ответы ChatGPT. Но, как и в случае с социальными сетями, они могут стать менее заметными и более психологически целенаправленными, опираясь на обширные частные обмены.

Стоит отметить, что Симо выкупкоторый построил рекламный бизнес Facebook, присоединился к OpenAI в прошлом году. А OpenAI недавно уволила своего руководителя Райан Байермейстер за «сексуальную дискриминацию». В нескольких сообщениях говорится, что она решительно выступала против распространения контента для взрослых. В совокупности эти шаги позволяют предположить, что коммерческое давление определяет направление деятельности фирмы – и, возможно, всей отрасли. Как остались инструменты AI Grok Илона Маска активный достаточно долго, чтобы вызвать злоупотребления, затем ограничивается платным доступом, а затем окончательно прекращается после расследований в Великобритании и ЕС, что поднимает вопросы о монетизации вреда.

Труднее оценить более специализированные системы, создаваемые для социальных целей, таких как образование и правительство. Но поскольку неистовая погоня за прибылью имеет тенденцию привносить непреодолимую предвзятость в каждую существующую человеческую систему, то же самое будет справедливо и в отношении ИИ.

Это не проблема внутри одной компании. Более расплывчатое заявление об увольнении исследователя антропной безопасности Мринанк Шарма предупредил о «мире в опасности»и что он «неоднократно видел, как трудно по-настоящему позволить нашим ценностям управлять нашими действиями». OpenAI когда-то якобы была полностью некоммерческой организацией; после того, как в 2019 году компания взяла на себя обязательство по коммерциализации, появилась Anthropic, обещающая стать более безопасной и осторожной альтернативой. Уход г-на Шармы говорит о том, что даже фирмы, основанные на ограничениях, изо всех сил пытаются противостоять такому же увеличению прибыли.

Причина этой перестройки ясна. Фирмы сжигают инвестиционный капитал историческими темпами, их доходы растут недостаточно быстро, и, несмотря на впечатляющие технические результаты, пока неясно, что ИИ может «сделать» для получения прибыли. От табака до фармацевтикамы видели, как стимулы к получению прибыли могут исказить суждения. Финансовый кризис 2008 года показал, что происходит, когда основные системы руководствуются краткосрочными потребностями и слабым надзором.

Для решения этой проблемы необходимо жесткое государственное регулирование. Недавний Международный отчет о безопасности ИИ, 2026 г. предложил трезвую оценку реальных рисков – от сбоев в автоматизации до дезинформации – и четкий план регулирования. Тем не менее, несмотря на то, что его одобрили 60 стран, правительства США и Великобритании отказался подписать его. Это тревожный признак того, что они предпочитают защищать промышленность, а не связывать ее.