Означают ли последние отставки ИИ, что мир находится в «опасности»? | Новости науки, климата и технологий

Когда большинство людей уходят с работы, они отправляют электронное письмо своим коллегам, заказывают выпить в ближайшем пабе, и на этом все.

Ситуация с искусственным интеллектом совершенно другая.

Уровень пристального внимания в этой области означает, что исследователи, покидающие свою работу, могут, если захотят, сделать это с большой помпой. Даже если они уходят тихо, сам факт их движения часто воспринимается как некий сигнал.

Несколько таких отставок привлекли внимание на этой неделе.

Во вторник Мринанк Шарма, исследователь ведущей компании в области искусственного интеллекта Anthropic, опубликовал в социальных сетях заявление об отставке, в котором предупредил, что «мир находится в опасности».

Хотя Шарма не сказал точно, почему мир оказался под угрозой, отметив вместо этого, что угроза исходит «не только от ИИ или биологического оружия, но и от целой серии взаимосвязанных кризисов, разворачивающихся в этот самый момент», многие восприняли это как означающее, что экзистенциальный риск со стороны ИИ растет.

В среду Зои Хитциг, исследователь OpenAI, объявила о своей отставке в эссе в New York Times, сославшись на «глубокие сомнения» по поводу планов OpenAI добавить рекламу в ChatGPT.

«Пользователи ChatGPT создали беспрецедентный архив человеческой откровенности», — написал Хитциг, предупредив, что ChatGPT потенциально может манипулировать людьми, если их данные не будут должным образом защищены.

Между тем, на этой неделе уволились двое соучредителей xAI, а также ряд других сотрудников ИИ-компании Илона Маска.

Компания xAI создает чат-бота Grok, который вызвал глобальную негативную реакцию после того, как ему было разрешено без согласия генерировать порнографические изображения женщин и детей на X в течение нескольких недель, прежде чем кто-либо вмешался, чтобы остановить это.

С тех пор X заявила, что внесла серьезные изменения в своего чат-бота Grok с искусственным интеллектом.

В совокупности эти отклонения были восприняты многими как сигнал о том, что, по словам эссе об ИИ, которое набрало обороты на этой неделе, «происходит что-то большое».

В сообщениях СМИ и социальных сетях отставки описываются как «волна».

Однако при ближайшем рассмотрении эти шаги имеют мало общего. Шарма подал в отставку по неопределенным причинам, связанным с «ценностями», чтобы писать стихи.

Хитциг, который также является поэтом, глубоко обеспокоен рекламой и пользовательскими данными.

Сотрудники, покинувшие xAI, не стали вдаваться в подробности причин своего ухода, хотя недавние изменения в компании, которая должна объединиться с космической фирмой Маска SpaceX, возможно, сыграли свою роль.

Обеспокоенность, высказанная Хитцигом и Шармой, широко разделяется, не в последнюю очередь ученым, лауреатом Нобелевской премии Джеффри Хинтоном, известным как «Крестный отец ИИ», который оставил свою должность в Google, чтобы предупредить, что ИИ представляет экзистенциальную угрозу человечеству.

Возможно, другая причина, по которой эти заявления привлекли сейчас столько внимания, заключается в том, что они основаны на опасениях по поводу быстрого роста ИИ, который за последние месяцы добился ошеломляющих успехов, особенно в разработке программного обеспечения.

Генеральный директор Microsoft AI Мустафа Сулейман заявил в среду Financial Times, что, по его мнению, большинство задач, выполняемых служащими, такими как юристы и бухгалтеры, будут полностью автоматизированы через 12–18 месяцев, назвав прогресс последних лет «поразительным».

Многие высокопоставленные деятели в области искусственного интеллекта сделали аналогичные предупреждения.

Подробнее читайте в Sky News:
Стоит ли нам беспокоиться по поводу мозговых чипов?
Этот ИИ только что прошел «тест торгового автомата»

Какими бы ни были мотивы, лихорадочная атмосфера вокруг ИИ может способствовать выходу из бизнеса, считает доктор Генри Шевлин, заместитель директора Центра будущего интеллекта Леверхалма при Кембриджском университете.

«В забастовках компаний, занимающихся искусственным интеллектом, нет ничего нового», — сказал доктор Шевлин Sky News. «Но почему мы видим волну прямо сейчас? Частично она иллюзорна: поскольку ИИ стал более важным явлением, забастовки ИИ стали более заслуживающими внимания, поэтому мы наблюдаем больше кластеров.

«Однако справедливо будет сказать, что по мере того, как ИИ становится более мощным и широко используемым, мы сталкиваемся с большим количеством вопросов о его соответствующих масштабах, использовании и влиянии.

«Это вызывает жаркие дебаты как в обществе в целом, так и внутри компаний, и может способствовать увеличению числа обеспокоенных сотрудников, решающих уйти».

Anthropic отказалась от комментариев, указав только на твит одного из сотрудников, поблагодарившего Шарму за его работу.

OpenAI не ответила на запрос о комментариях.