Второе пришествие Сэма Альтмана вызывает новые опасения по поводу апокалипсиса искусственного интеллекта

Новый босс Open AI такой же, как и старый босс. Но компания – и индустрия искусственного интеллекта – возможно, глубоко изменились за последние пять дней мыльной оперы с высокими ставками. Сэм Альтман, генеральный директор, соучредитель и номинальный руководитель OpenAI, был отстранен от должности советом директоров в пятницу. К вечеру вторника, после массовый протест к большинство из сотрудников стартапа Альтман был на обратном пути, и большая часть существующей платы исчезла. Но эта доскав основном независимая от операций OpenAI и связанная с миссией «на благо человечества», имела решающее значение для уникальности компании.

Как Альтман гастролировал по миру в 2023 годупредупреждая средства массовой информации и правительства о экзистенциальной опасности технологии, которую он сам создавал, он изобразил необычная коммерческая внутри некоммерческой структуры в качестве противопожарной защиты от безответственного развития мощного ИИ. Что бы Альтман ни делал с миллиардами Microsoft, совет директоров мог держать его и других руководителей компании под контролем. Если бы он начал действовать опасно или против интересов человечества, по мнению правления, группа могла бы его изгнать. «Правление может меня уволить, я думаю, это важно», — сказал Альтман агентству Bloomberg в июне.

«Оказывается, они не смогли его уволить, и это было плохо», — говорит Тоби Орд, старший научный сотрудник по философии Оксфордского университета и известный голос среди людей, которые предупреждают, что ИИ может представлять экзистенциальную угрозу человечеству.

Хаотичная перезагрузка руководства в OpenAI закончилось перестановкой состава совета директоров в его состав войдут деятели технологического истеблишмента и бывший министр финансов США Ларри Саммерс. Два директора, связанные с движением «эффективный альтруизм», единственные женщины, были исключены из совета директоров. Он кристаллизовал существующие разногласия по поводу того, как следует управлять будущим ИИ. Результат совсем по-другому видят думеры, которые обеспокоены тем, что ИИ уничтожит человечество; трансгуманисты, считающие, что технологии ускорят наступление утопического будущего; те, кто верит в свободный рыночный капитализм; и сторонники жесткого регулирования с целью сдерживания технологических гигантов, которым нельзя доверять, чтобы сбалансировать потенциальный вред от мощных прорывных технологий с желанием заработать деньги.

«В какой-то степени это был курс на столкновение, который был задан в течение длительного времени», — говорит Орд, которому также приписывают участие в создании эффективного альтруистического движения, часть которого стала одержима более мрачным концом спектра рисков ИИ. «Если правление некоммерческой организации OpenAI было принципиально бессильно повлиять на ее поведение, то я думаю, что разоблачение этого бессилия, вероятно, было бы хорошим шагом».

Разрыв в управлении

Причина, по которой правление OpenAI решило выступить против Альтмана остается загадкой. В заявлении о том, что Альтман покинул пост генерального директора, говорится, что он «не всегда был откровенен в общении с советом директоров, что ограничивало его способность выполнять свои обязанности». Во внутренней записке OpenAI позднее уточнялось, что увольнение Альтмана «не было сделано в ответ на должностное преступление». Эмметт Шир, второй из двух временных генеральных директоров руководить компанией с вечера пятницы до утра среды, после принятия должности написал, что спросил, почему Альтмана уволили. «Правление не отстранило Сэма от должности из-за каких-либо конкретных разногласий по поводу безопасности», — написал он. «Их рассуждения были совершенно иными». Он пообещал начать расследование причин увольнения Альтмана.

Вакуум оставил место для слухов, в том числе о том, что Альтман слишком много времени уделял сторонним проектам или слишком почтительно относился к Microsoft. Он также породил теории заговора, например, идею о том, что OpenAI создал общий искусственный интеллект (AGI), и правление включило аварийный выключатель по совету главного ученого, соучредителя и члена правления Ильи Суцкевера.

«Что я знаю наверняка, так это то, что у нас нет искусственного интеллекта», — говорит Дэвид Шриер, профессор практики, искусственного интеллекта и инноваций в бизнес-школе Имперского колледжа в Лондоне. «Я точно знаю, что произошел колоссальный провал в управлении».