Внутри лаборатории OpenAI по мыслящим машинам

Если кто-нибудь когда-нибудь снимает сериал HBO Max о ИИ-индустриясобытия этой недели составят настоящий эпизод.

В среду генеральный директор по приложениям OpenAI Симо выкупобъявила, что компания вновь наняла Баррета Зофа и Люка Метца, соучредителей стартапа Миры Мурати в области искусственного интеллекта Thinking Machines Lab. Зоф и Мец покинули OpenAI в конце 2024 года.

Вчера вечером мы сообщили о двух версиях, сформировавшихся вокруг того, что привело к отъезду, и с тех пор узнали новую информацию.

Источник, обладающий непосредственными сведениями, сообщает, что руководство Thinking Machines считало, что Зоф совершил серьезный проступок, находясь в компании в прошлом году. Этот инцидент подорвал доверие Мурати, говорит источник, и нарушил рабочие отношения пары. Источник также утверждает, что Мурати уволил Зофа в среду — еще до того, как узнал, что он переходит в OpenAI — из-за проблем, которые, по утверждению компании, возникли после предполагаемого неправомерного поведения. Примерно в то время, когда компания узнала, что Зоф возвращается в OpenAI, Thinking Machines выразила внутреннюю обеспокоенность по поводу того, поделился ли он конфиденциальной информацией с конкурентами. (Зоф не ответил на несколько запросов о комментариях от WIRED.)

Между тем, в служебной записке для сотрудников в среду Симо заявил, что набор сотрудников находился в работе уже несколько недель, и что Зоф сказал Мурати, что рассматривает возможность ухода из Thinking Machines в понедельник — до даты его увольнения. Симо также сообщил сотрудникам, что OpenAI не разделяет обеспокоенность Thinking Machines по поводу этики Zoph.

Согласно объявлению Симо, наряду с Зофом и Мецем, к разработчику ChatGPT возвращается еще один бывший исследователь OpenAI, работавший в Thinking Machines, Сэм Шенхольц. По словам источника, знакомого с ситуацией, в ближайшие недели ожидается, что как минимум еще два сотрудника Thinking Machines присоединятся к OpenAI. Репортер по технологиям Алекс Хит первым сообщил о новых сотрудниках.

Отдельный источник, знакомый с ситуацией, опроверг мнение, что недавние кадровые изменения были полностью связаны с Зофом. «Это было частью долгой дискуссии в Thinking Machines. Были дискуссии и разногласия по поводу того, что компания хотела создать — речь шла о продукте, технологии и будущем».

Лаборатория Thinking Machines Lab и OpenAI отказались от комментариев.

После этих событий мы услышали от нескольких исследователей из ведущих лабораторий искусственного интеллекта, что они устали от постоянной драмы в своей отрасли. Этот конкретный инцидент напоминает кратковременное увольнение Сэма Альтмана из OpenAI в 2023 году, известное внутри OpenAI как «всплеск». По данным The Wall Street Journal, Мурати сыграл ключевую роль в этом событии, будучи тогдашним техническим директором компании.

За годы, прошедшие после отставки Альтмана, драма в индустрии искусственного интеллекта продолжалась: ушли соучредители нескольких крупных лабораторий искусственного интеллекта, в том числе Игорь Бабушкин из xAI, Дэниел Гросс из Safe Superintelligence и Ян Лекун из Meta (в конце концов, он стал соучредителем давней лаборатории искусственного интеллекта Facebook, FAIR).

Некоторые могут возразить, что эта драма оправдана для зарождающейся отрасли, расходы которой вклад в рост ВВП Америки. Кроме того, если вы верите в то, что один из этих исследователей может совершить несколько прорывов на пути к AGI, вероятно, стоит проследить, куда они идут.

Тем не менее, многие исследователи начали работать до ошеломительного успеха ChatGPT и, похоже, удивлены тем, что их отрасль теперь является источником почти постоянного внимания.

Пока исследователи могут продолжать собирать посевные раунды на миллиарды долларов по своей прихоти, мы полагаем, что встряски в сфере ИИ будут продолжаться быстрыми темпами. Сценаристы HBO Max, держитесь.

Как лаборатории искусственного интеллекта обучают агентов выполнять вашу работу

Люди в Кремниевой долине десятилетиями размышляли о том, что ИИ заменяет рабочие места. Однако за последние несколько месяцев попытки заставить ИИ выполнять экономически ценную работу стали гораздо более изощренными.

Лаборатории искусственного интеллекта совершенствуют данные, которые они используют для создания агентов искусственного интеллекта. На прошлой неделе WIRED сообщил, что OpenAI обратилась к сторонним подрядчикам из компании Handshake с просьбой загрузить примеры своих реальных работ с предыдущих мест работы оценить агентов OpenAI. Компании просят сотрудников очистить эти документы от любых конфиденциальных данных и личной информации. Хотя возможно, что некоторые корпоративные секреты или имена ускользнут, OpenAI, скорее всего, не за этим (хотя, по мнению экспертов, если это произойдет, у компании могут возникнуть серьезные проблемы).