Склоняемся ли мы к катастрофе ИИ? Является ли ИИ экзистенциальной угрозой или эпохальной возможностью? Именно эти вопросы занимают центральное место в новом документальном фильме на фестивале Sundance, в котором участвуют ведущие эксперты в области искусственного интеллекта, критики и предприниматели, в том числе Сэм Альтман, генеральный директор OpenAI, чьи взгляды на ближайшее и среднесрочное будущее варьируются от гибели до утопии.
«Док по искусственному интеллекту: или как я стал апокаоптимистом» режиссеров Дэниела Роэра и Чарли Тайрелла и продюсера Дэниела Квана (половина «Дэниелсов», оскароносного дуэта за «Все повсюду и все сразу») углубляется в спорную тему искусственного интеллекта через собственную тревогу Роэра. Канадский режиссер, получивший в 2023 году «Оскар» за документальный фильм «Навальный», впервые заинтересовался этой темой, экспериментируя с инструментами, выпущенными OpenAI, компанией, создавшей чат-бота ChatGPT. Сложность общедоступных инструментов – возможность создавать целые абзацы за секунды или создавать иллюстрации – одновременно волновала и нервировала его. ИИ уже радикально формировал киноиндустрию, и заявления о перспективах и опасностях ИИ были повсюду, и у людей за пределами технологической индустрии было мало возможностей их оценить. Как художник, задавался вопросом он, как ему во всем этом разобраться?
Беспокойство Роэра только усилилось, когда он и его жена, коллега-режиссер Кэролайн Линди, узнали, что ждут первенца. «Мне казалось, что весь мир бросился во что-то, не задумываясь», — говорит он в фильме, когда его волнение по поводу родительства столкнулось со страхом перед неизвестной переменной ИИ, которая всего за несколько коротких лет превратилась из частного эксперимента в общественное благо.
Таким образом, AI Doc возникает из самого насущного вопроса Роэра: безопасно ли приносить ребенка в этот мир? Вместе с Кваном Роэр собрал группу экспертов, чтобы объяснить механику технологии – и прояснить некоторые туманные, отталкивающие термины – и найти ответ. (Например, одновременно утешает и немного тревожит то, что, кажется, ни у кого нет четкого ответа на вопрос «что такое ИИ?»). В индивидуальных интервью ведущие исследователи машинного обучения, в том числе Йошуа Бенджио, Илья Суцкевер и соучредитель DeepMind Шейн Легг, согласились, что существуют аспекты моделей ИИ, которые люди не могут и никогда не смогут понять. Стандартные модели ИИ обучаются на «большем количестве данных, чем кто-либо мог бы прочитать за несколько жизней», как выразился один эксперт по машинному обучению. А темпы машинного обучения превосходят прецеденты или фильмы. «Любой пример, который вы приведёте в этот фильм, к моменту выхода фильма будет выглядеть абсолютно неуклюжим», — говорит Роэру Тристан Харрис, соучредитель Центра гуманных технологий и известный голос в апокалиптическом документальном фильме Netflix 2020 года «Социальная дилемма».
Чарли Тайрелл и Дэниел Роэр на фестивале Sundance. Фотография: Артуро Холмс/Getty Images
В фильме впервые рассказывается о ряде думеров, или людей, интересующихся искусственным интеллектом – и, в частности, искусственным общим интеллектом (AGI), все еще теоретической формой искусственного интеллекта, чьи возможности превосходят возможности человека, – которая может привести к истреблению человечества, включая Харриса, его соучредителя Центра гуманных технологий Азу Раскин, Аджейю Котру, советника по рискам искусственного интеллекта, и Эли Юдковски, пионера выравнивания искусственного интеллекта. Такие цифры предупреждают, что люди могут очень легко потерять контроль над сверхразумными моделями ИИ, практически не прибегая к помощи. Книга Юдковски, вышедшая в 2025 году, называется «Если кто-нибудь это построит, все умрут».
По их словам, компании, занимающиеся искусственным интеллектом, не готовы к последствиям достижения искусственного интеллекта, который «может стать сверхчеловеческим в этом десятилетии», говорит Дэн Хендрикс, директор Центра безопасности искусственного интеллекта. Они предупреждают, что если люди перестанут быть самыми разумными существами на Земле, вполне возможно, что AGI сочтет этот вид неуместным. Коннор Лихи, соучредитель EleutherAI, сравнил потенциальные будущие отношения сверхразумного AGI и людей с отношениями людей и муравьев: “Мы не ненавидим муравьев. Но если мы хотим построить шоссе” над муравейником – “ну, это отстой для муравья”.
Некоторые из сторонников обреченности, многие из которых не имеют детей, обескураживающе реагируют на вопрос Роэра о родительстве. «Я знаю людей, которые занимаются рисками ИИ и не ожидают, что их ребенок доживет до средней школы», — говорит Харрис, вызвав аханье у аудитории предварительного просмотра в Парк-Сити.
С другой стороны находятся оптимистичные фигуры, такие как Питер Диамандис, основатель Фонда XPRIZE, пытающийся продлить человеческую жизнь, который утверждает, что «дети, рожденные сегодня, вот-вот вступят в период славной трансформации»; Гийом Вердон, лидер движения «эффективного акселерационизма» в Кремниевой долине; Питер Ли, президент Microsoft Research; и Даниэла Амодей, соучредитель и президент Anthropic, конкурента OpenAI. Так называемые «акселерационисты» рассматривают ИИ как потенциальное лекарство от множества, казалось бы, неразрешимых проблем, от которых страдает человечество: рака, нехватки продовольствия и воды для постоянно растущего населения, недостаточности возобновляемых источников энергии и, возможно, самой насущной климатической катастрофы. Они утверждают, что без ИИ бесчисленное количество жизней в будущем будет потеряно из-за засухи, голода, болезней и стихийных катастроф.
Однако развитие ИИ опирается на вычислительные мощности, которые требуют огромного количества энергии. Последняя группа опрошенных, критиков и наблюдателей, в основном не принадлежащих к миру технологий, в том числе Карен Хао, журналистка и автор книги «Империя искусственного интеллекта: мечты и кошмары в OpenAI Сэма Альтмана», и Лив Боэри, ведущая подкаста «Выиграл-выиграл», связывают искусственный интеллект с реальным, физическим миром, таким как центры обработки данных, поглощающие воду на западе Америки, оставляя жителей с заоблачными счетами за электроэнергию и осушенными резервуарами. Нынешние нарративы вокруг ИИ, по мнению Эмили М. Бендер, профессора компьютерной лингвистики, исключают и дегуманизируют людей, на которых он уже влияет, и будут продолжать разрушать.
Дэниел Кван, Джонатан Ван, Дэниел Роэр, Шейн Борис, Чарли Тайрелл и Тед Тремпер на фестивале Sundance. Фотография: Мэт Хейворд/Getty Images для IMDb
В конце концов Роэр приходит к пятерке самых влиятельных людей (все мужчины), которые в настоящее время возглавляют гонку вооружений ИИ: Альтман; Илон Маск, генеральный директор xAI; Дарио Амодей, генеральный директор Anthropic; Демис Хассабис из DeepMind и Марк Цукерберг из Meta. Альтман, Амодей и Хассабис дают интервью, которые более или менее защищают соответствующие позиции их компаний. Согласно фильму, Цукерберг отказался участвовать; Маск согласился, но потом был слишком занят.
Альтман, который на момент интервью ждал своего первенца, настаивает, что он «не боится, что ребенок вырастет в мире с ИИ». Он и его муж Оливер Малхерин родили сына через суррогатную мать в феврале 2025 года, что позже произошло с Альтманом. сказал «нейрохимически взломал» его мозг, заставив людей в его жизни думать, что он «примет более правильные решения» для OpenAI и ChatGPT, когда дело касается «человечества в целом». Далее 40-летний генеральный директор заявил, что дети его и Роэра, скорее всего, «никогда не будут умнее искусственного интеллекта», что «немного тревожит меня, но это реальность».
В какой-то момент Роэр спрашивает Альтмана, действительно ли невозможно убедить его, что с ИИ все будет в порядке. «Это невозможно», — утверждает Альтман, хотя и говорит, что лидерство OpenAI в гонке вооружений в области ИИ позволяет ей уделять больше времени испытаниям на безопасность.
AI Doc в конечном итоге оказывается где-то посередине между думеризмом и оптимизмом – апокаоптимизмом, как они это называют, в поисках «пути между обещанием и опасностью». Согласно многочисленным сюжетам фильма, этот путь должен включать в себя: значительную, устойчивую, меняющую парадигму международную координацию, подобную структурам и соглашениям середины века, введенным для сдерживания разработки атомного оружия – большую корпоративную прозрачность для компаний, занимающихся искусственным интеллектом, независимый регулирующий орган, контролирующий разработчиков искусственного интеллекта, юридическую ответственность за продукты компаний, такие как ChatGPT, обязательное раскрытие информации об использовании genAI для средств массовой информации и готовность продолжать адаптировать правила для быстро меняющихся технологий.
Смогут ли правительство и компании США, не говоря уже о мире, сделать это, остается открытым вопросом, мнения по поводу первых шагов расходятся. Но если есть что-то, с чем согласны многие субъекты, так это то, что возврата во времена, когда еще не было ИИ, уже не будет. Как говорит соучредитель и генеральный директор Anthropic Амодей: «Этот поезд не остановится».
1769572948
#Этот #поезд #не #остановится #шокирующий #фильм #Сандэнс #показывает #обещания #опасности #ИИ #Сандэнс
2026-01-28 02:42:00
Продолжение темы
