Спор о безопасности: топ-менеджер Германии Сэм Альтман прекращает свои услуги

Ян Лейке ранее возглавлял службу безопасности ChatGPT. Он отвечал за то, чтобы искусственный интеллект не вышел из-под контроля. Поскольку ему не было выделено достаточно вычислительных мощностей внутри компании для его проекта, он уходит со словами предупреждения.

Грязное белье обычно стирают дома. Однако это не относится к OpenAI, компании из Сан-Франциско, которая разработала ChatGPT, что делает ее самой влиятельной компанией в мире в области генеративного искусственного интеллекта.

После отставки бывшего научного директора Ильи Суцкевера – из-за явной несовместимости его идей с идеями босса ChatGPT Сэма Альтмана – компанию теперь покидает единственный в споре немецкий топ-менеджер: Ян Лейке. Подробности о персонале деликатны: Суцкевер и Лейке были двумя руководителями проекта OpenAI «Superalignment», который был запущен в июле 2023 года с целью безопасного согласования высокоразвитых систем искусственного интеллекта с человеческими целями и ценностями. Исследовательская группа должна была разработать эффективные методы, позволяющие держать под контролем «системы искусственного интеллекта, которые намного умнее людей». Для этого, согласно документу, описывающему цель «сверхвыравнивания», OpenAI планировала использовать 20 процентов имеющихся у нее вычислительных мощностей. Поначалу казалось, что все указывало на то, что Альтман выступил с инициативой ответственного использования технологии. Но дальше ничего не пошло по плану.

«Я был главой Superalignment в OpenAI, и уход с этой работы — одно из самых трудных дел, которые я когда-либо делал», — пишет Ян Лейке в книге «Может контролировать и контролировать». «Я пришел в OpenAI, потому что считал, что это лучшее место в мире для проведения такого рода исследований», — добавил он. «Однако уже некоторое время я не согласен с приоритетами, установленными руководством. Я считаю, что большая часть нашего опыта должна быть направлена ​​на обеспечение безопасности, наблюдения, оптимального таргетинга и социального воздействия моделей искусственного интеллекта следующего поколения. Но в течение последних нескольких месяцев моей команде пришлось бороться за получение вычислительной мощности, необходимой для этого важного исследования». Он заключает: «OpenAI несет ответственность перед человечеством, — продолжил Лейке, — но в последние годы культура и процессы изменились. был в рейтинге «Последние после блестящих продуктов с точки зрения безопасности».

Страница 12