Мельница слухов уже некоторое время порождает спекуляции вокруг «угрожающего человечеству» искусственного интеллекта OpenAI, получившего название Q*. Однако действительно ли американская компания, занимающаяся искусственным интеллектом, создала эту технологию искусственного интеллекта?
На прошлой неделе, как сообщает Рейтер и Информация указал, что несколько сотрудников OpenAI имели предупредил совет директоров компании о «мастерстве» и «потенциальной опасности» внутреннего исследовательского проекта под названием Q* (произносится как Q Star).
Согласно отчету, этот проект искусственного интеллекта способен решать определенные математические задачи на уровне начальной школы. Хотя это не особо впечатляет, исследователи полагали, что Q* может стать шагом на пути к созданию общего искусственного интеллекта (AGI).
Согласно отчету Reuters, старший исполнительный директор OpenAI Мира Мурати сообщила сотрудникам, что письмо о Q* привело к увольнению генерального директора Сэма Альтмана в начале этого месяца. Как сообщается, совет директоров уволил Альтмана чтобы помешать ему выпустить эту угрожающую человечеству модель ИИ.
Вопреки этим сообщениям, сообщил человек, знакомый с ситуацией. Грань что правление так и не получило письма о такой модели ИИ. Помимо этого, источник отметил, что внезапное увольнение Альтмана не было связано с прогрессом исследований OpenAI.
Является ли Q* таким новаторским и угрожающим, как кажется?
Главный специалист по искусственному интеллекту Meta Ян ЛеКун и другие известные исследователи искусственного интеллекта на X (ранее Twitter) считают, что Q* — это просто продолжение текущего проекта в OpenAI и других исследовательских лабораториях искусственного интеллекта.
Пожалуйста, не обращайте внимания на поток полной чепухи о Q*.
Одной из основных задач по повышению надежности LLM является замена авторегрессионного прогнозирования токенов планированием.Над этим работают практически все ведущие лаборатории (FAIR, DeepMind, OpenAI и т. д.), а некоторые уже опубликовали…
— Ян ЛеКун (@ylecun) 24 ноября 2023 г.
Обращаясь к платформе социальных сетей, принадлежащей Илону Маску, Рик Ламерс указал на гостевую лекцию MIT, которую соучредитель OpenAI Джон Шульман прочитал 7 лет назад, во время которой он пролил свет на математическую функцию под названием Q*.