Бывший исследователь OpenAI Скотт Аронсон заявил, что истинная опасность искусственного интеллекта заключается не в его неработоспособности, а в том, что он действительно функционирует. В интервью 25 октября 2026 года специалист отметил, что модели всё лучше справляются со сложными задачами, но предсказать их поведение становится всё труднее.
Развитие технологий искусственного интеллекта за последние годы затронуло сферы, которые раньше казались недоступными для машин. Бывший сотрудник OpenAI и профессор компьютерных наук Техасского университета в Остине Скотт Аронсон поделился своими размышлениями о рисках, связанных с появлением систем сверхвысокого интеллекта. В интервью подкасту Man’s Search for Meaning он подчеркнул, что способность ИИ решать сложные научные задачи вызывает серьезные вопросы о будущем человечества.
Путь от квантовых вычислений к безопасности систем
Аронсон увлекся квантовыми вычислениями еще в конце 1990-х годов во время учебы в Корнеллском университете. Однако со временем он заметил стремительный прогресс в сфере машинного обучения.
По его словам, концептуальные основы глубокого обучения формировались десятилетиями, но катализатором прорыва стали вычислительная мощность и массивы тренировочных данных.
В 2022 году исследователь присоединился к компании OpenAI, где в течение двух лет работал в команде по выравниванию ИИ, отвечая на запросы руководства. Соучредитель компании Илья Суцкевир задавал ему сложные философские и математические вопросы, например, о том, как формализовать любовь ИИ к человеку. Находясь в OpenAI, Аронсон разработал раннюю схему водяных знаков для текста больших языковых моделей.
Аронсон отмечает, что способности искусственного интеллекта заставляют нас переосмыслить грань между научной фантастикой и реальностью. Он вспоминает, как работал в компании и обедал с коллегами в столовой, слушая обсуждения будущего технологий, ощущая себя героем произведений Айзека Азимова. Мы создаем нечто принципиально новое для Земли — сущность, способную вести интеллектуальную деятельность с помощью языка. В ходе беседы он также упомянул термин «末日乐观主义者», означающий «末日乐观主义者».
Защита текстов с помощью скрытых меток
Созданный метод не требует анализа исходных промптов пользователя или полной вероятностной распределительной сети модели.
Для проверки подлинности текста достаточно обладать специальным ключом, который позволяет вычислить показатель водяного знака. Если полученный результат превышает заданный порог с вероятностью ошибки менее 0,1%, система фиксирует наличие скрытой метки. Аналогичные технологические подходы уже используют Google DeepMind и Anthropic, в то время как OpenAI решение пока не применяет.
Решение математических задач и научные прорывы
Аронсон отмечает изменение характера научной работы. Если раньше модели выдавали правдоподобные, но поверхностные ответы, то теперь они активно участвуют в решении теоретических задач.
В качестве примера он приводит недавние успехи моделей OpenAI, которые помогли опровергнуть известную гипотезу о единичных расстояниях математика Пола Эрдёша, а также достижения разработок Anthropic в области гипотезы Римана.
Исследователь также обращает внимание на экономическую сторону вопроса. Развитие технологий способно обеспечить беспрецедентное материальное изобилие, однако проблемой остается то, кому именно будут принадлежать созданные богатства — узкому кругу технологических корпораций или всему человечеству.
«По-настоящему в ИИ пугает не то, что он не работает, а то, что он действительно работает».Скотт Аронсон, бывший исследователь OpenAI и профессор Техасского университета в Остине
Оценка рисков сосуществования с новым интеллектом
Рассуждая о сценариях будущего, включая риск исчезновения человечества, Аронсон призывает не впадать в крайности. Создание принципиально новой языковой формы интеллекта, не ограниченной биологическими условиями, требует взвешенного подхода и постоянного контроля со стороны общества.
Специалист напоминает, что современные нейросети остаются коммерческими продуктами, зависящими от бизнес-моделей разработчиков. Пользователи не должны терять критическое мышление и полностью полагаться на ответы автоматизированных систем, даже если те демонстрируют выдающиеся способности в анализе и терапии.
По теме
