OpenAI распускает команду, которая должна была обеспечивать безопасность «сверхинтеллектуального» ИИ – IT Pro – Новости

OpenAI распустила свою команду, ответственную за снижение рисков безопасности своих передовых систем искусственного интеллекта. По данным OpenAI, группа будет интегрирована в другие исследовательские подразделения. Один из руководителей команды критикует компанию в адрес X.

OpenAI подтверждает Bloomberg, что распустила команду Superalignment. Эта команда была создана в июле 2023 года для снижения рисков будущих систем искусственного интеллекта, которые «намного умнее» людей. Целью ведомства было решение ключевых технических задач по настройке и контролю «сверхинтеллектуального искусственного интеллекта» к 2027 году.

OpenAI сообщила информационному агентству, что группа больше не будет существовать как отдельный отдел, а вместо этого будет «более глубоко интегрирована в нашу исследовательскую деятельность для достижения целей безопасности». Два лидера команды, Илья Суцкевер и Ян Лейке, ушли из компании на этой неделе. Первый является соучредителем OpenAI и в прошлом году голосовал за увольнение генерального директора Сэма Альтмана. Причину своего ухода он не назвал.

Лейке дайте нам знать в что у него в течение некоторого времени были разногласия с директорами OpenAI по поводу «основных приоритетов» и что «сейчас достигнут переломный момент». Сообщается, что в последние месяцы команда не получила достаточных ресурсов для продолжения своих «важнейших» исследований. «Создание машин, которые умнее людей, является по своей сути опасным занятием. OpenAI несет огромную ответственность от имени всего человечества, но в последние годы культура и процедуры безопасности стали второстепенными по сравнению с блестящими продуктами».

Альтман благодарит Лейке в посте на X за вклад в расследование безопасности. Он также кратко отвечает на сообщения исследователя: «Он прав, нам еще многое предстоит сделать, и мы хотим взять на себя это обязательство».

2024-05-18 08:10:56


1716026050
#OpenAI #распускает #команду #которая #должна #была #обеспечивать #безопасность #сверхинтеллектуального #ИИ #Pro #Новости