Сэм Альтман о своем увольнении, опасностях искусственного интеллекта и Тейлор Свифт

Когда Сэм Альтман был внезапно уволен В прошлом месяце, когда он был генеральным директором компании по искусственному интеллекту OpenAI, разрыв заставил его задуматься о многом.

Но, оглядываясь назад на этот опыт, Альтман сказал комику Тревору Ноа в видеоподкасте, выпущенном в четверг утром, что, возможно, есть некоторый потенциал роста.

«Сочувствие, которое я получил в результате всего этого опыта, и моя переоценка ценностей, безусловно, были скрытым благословением», — сказал Альтман журналу бывший ведущий «Daily Show» в одном из своих первых крупных интервью с момента триумфального возвращения в технологическую компанию. «Это была болезненная цена, но я рад, что получил такой опыт».

Это была одна из нескольких тем, о которых технолог, чья компания стоит за крупными потребительскими продуктами искусственного интеллекта, такими как ChatGPT и DALL-E, что во многих отношениях делает его лицом нынешнего бума искусственного интеллекта, рассказал в последнем выпуске подкаста Noah's Spotify». Что теперь?”

1. Альтман был на Гран-при Лас-Вегаса, когда его уволили.

В ответ на вопрос Ноя о том, где он был, когда узнал, что правление OpenAI его уволило, Альтман сказал, что он находился там, где в то время находились многие богатые и влиятельные калифорнийцы: в Лас-Вегасе, где Гран-при Формулы-1.

«Мне так и не удалось посмотреть ни одной гонки за все выходные», — сказал он ведущему, когда они вдвоем сидели за простым деревянным столом в том, что, как они предполагали, было офисом OpenAI. «Я был в своем гостиничном номере, ответил на этот звонок, понятия не имел, что это будет, и совет директоров уволил меня».

Альтман добавил, что его телефон начал переполняться сообщениями до такой степени, что iMessage перестал работать. Сотрудники начали увольняться; Microsoft, крупный инвестор OpenAI, звонила людям.

О возвращении в OpenAI он еще не думал, продолжил Альтман, но знал, что хочет продолжать работу над разработкой обобщенного искусственного интеллекта. Он улетел обратно в Калифорнию и начал обдумывать свой следующий шаг.

«Это было похоже на сон», — сказал Альтман об этом опыте. «Я была в замешательстве, это было хаотично. Это не казалось реальным».

2. Он до сих пор испытывает неприятные чувства по поводу всего этого испытания.

«Это была очень болезненная вещь, и лично для меня, как для человека, это было очень несправедливо — то, как с этим справились», — сказал Альтман о своем неожиданном увольнении.

До сих пор неясно, почему именно правление OpenAI попыталось вытеснить Альтмана, хотя ходят слухи вокруг возможных разногласий по поводу того, как быстро фирме следует попытаться разработать и коммерциализировать передовые системы искусственного интеллекта. Из-за структуры OpenAI, в которой коммерческие элементы фирмы подчиняются совету некоммерческих организаций, фирма не считает зарабатывание денег своей основной целью. Вместо этого он стремится развивать искусственный интеллект на благо всего человечества.

Совет директоров стремился вытеснить Альтмана быстро и с преимущество неожиданности, как показали последующие отчеты. Но помимо первоначального заявления о том, что он был непоследовательно откровенен в общении с ними, совет директоров умалчивает о том, что послужило мотивом попытки государственного переворота.

В субботу утром, после того как его уволили, Альтман рассказал Ною: «Мне позвонили несколько членов совета директоров и сказали: «Хотите поговорить о возвращении?» »

«У меня были очень сложные чувства по этому поводу», — добавил он. «Но в конце было очень проясняюще сказать: «Да, я знаю». »

3. Альтман своими глазами увидел, каково потерять работу.

В заключительные минуты интервью, которое оставалось приятным для своего часа и 15-минутной продолжительности, Ной сделал дружелюбное, но резкое замечание, что увольнение Альтмана совпало с потерей рабочих мест, которую многие люди опасаются, что его технология вызовет в социальном масштабе.

«Продолжайте вспоминать то чувство, которое вы испытали, когда вас уволили, поскольку вы создаете технологию, которая поставит многих людей в аналогичное положение», — призвал Ноа генерального директора.

«Знаешь, что я делал в субботу утром — например, ранним субботним утром, когда не мог заснуть?» – ответил Альтман, по-видимому, имея в виду день после своего увольнения в пятницу. «Я записал: «Что я могу узнать об этом, что поможет мне стать лучше, когда другие люди переживают подобное и обвиняют меня так, как будто я сейчас виню совет директоров».

Он добавил, что это сделало его более чутким.

4. Альтман по-прежнему верит в ИИ, несмотря на его риски.

Несмотря на всю драму в зале заседаний в прошлом месяце, Альтман по-прежнему с энтузиазмом относится к искусственному интеллекту, даже несмотря на то, что он предупреждает, что у него есть свои недостатки.

«Это будет сила, которая будет бороться с несправедливостью в мире очень важным способом», — сказал он Ною. «Эти системы будут… у них не будет таких глубоких недостатков, как у всех людей. Их можно будет сделать гораздо менее расистскими, гораздо менее сексистскими, гораздо менее предвзятыми. Они станут силой, борющейся за экономическую справедливость в мире».

Но, спросил его ведущий, действительно ли возможно сделать ИИ полностью безопасным? Каков кошмарный сценарий Альтмана?

Безопасность – это не бинарный вопрос, а баланс между рисками и выгодами, сказал Альтман, указывая на то, что общество продолжает пользоваться самолетами (несмотря на периодические крушения) и фармацевтическими препаратами (которые все еще имеют побочные эффекты).

«Но это не значит, что все пойдет не так, как надо», — добавил он. «Я думаю, что с ИИ дела пойдут совсем не так. То, что мы должны предотвратить», — это экзистенциальные риски или угроза того, что ИИ может уничтожить человечество так же, как ядерное оружие.

5. Он сказал несколько добрых слов Тейлору Свифт.

Альтман был только что назвал Генеральный директор года по версии журнала Time, упускающий первое место в 2023 году Человек года Тейлор Свифт.

«Но он ей за это не завидует», — сказал он Ною.

«В этом году мне было уделено больше внимания, чем мне хотелось бы за всю мою жизнь», — объяснил он, и временами это было тяжело для его личной жизни. Он «рад за Тейлор Свифт».