Бывший сотрудник опровергает утверждения OpenAI об эротике

Когда история из ИИ написано, Стивен Адлер может оказаться его Полом Ревиром — или, по крайней мере, одним из них — когда дело касается безопасности.

В прошлом месяце Адлер, проработавший четыре года на различных должностях в сфере безопасности в ОпенАИнаписал кусок для The New York Times с довольно тревожным заголовком: “Я руководил безопасностью продуктов в OpenAI. Не верьте заявлениям об “эротике””. «Никто не хотел быть полицией нравов, но у нас не было способов тщательно измерять и контролировать эротическое использование», — написал он. «Мы решили, что эротике на основе искусственного интеллекта придется подождать».

Адлер написал свою статью, потому что генеральный директор OpenAI Сэм Альтман недавно объявил, что компания скоро разрешит «эротика для проверенных взрослых». В ответ Адлер написал, что у него «серьезные вопросы» о том, достаточно ли OpenAI сделала, чтобы, по словам Альтмана, «смягчить» проблемы психического здоровья, связанные с тем, как пользователи взаимодействуют с чат-ботами компании.

Прочитав статью Адлера, мне захотелось с ним поговорить. Он любезно принял предложение приехать в офис WIRED в Сан-Франциско, и в этом выпуске Большое интервьюон рассказывает о том, чему он научился за четыре года работы в OpenAI, о будущем безопасности искусственного интеллекта и о задаче, которую он поставил перед компаниями, поставляющими всему миру чат-ботов.