«Зловещая долина»: отставки исследователей искусственного интеллекта, боты, нанимающие людей, и вечеринка журнала Evie Magazine

Брайан Барретт: Мне интересно, что думает по этому поводу Зои. У меня такое впечатление, что это что-то вроде вращающейся двери. Вы переходите в Anthropic, затем покидаете Anthropic и отправляетесь куда-то еще, и это супер… вы просто продолжаете прыгать туда, где есть ваша цитата, кавычка, «ценности», пока не почувствуете, что их больше нет, а затем вы просто обналичиваете чек где-то еще. Справедливо ли это говорить?

Зои Шиффер: Я думаю, что это в основном так. Ага. Я имею в виду, что исследователи, как правило, происходят из академических кругов, и я думаю, что в большей степени, чем некоторые другие должности, которые мы видим в этих компаниях, они очень ценностные люди. У них много идеалов, с которыми они приходят, а потом, я думаю, они понимают, ох, черт, мы просто работаем на технологическую компанию, и эта технологическая компания… Я всегда думал, что это очень показательно, когда люди говорят: «Ну, Мета ставит прибыль выше людей». Это как…

Лия Файгер: И все тоже.

Зои Шиффер: Да, это определение коммерческого предприятия.

Брайан Барретт: Открытая торговля.

Зои Шиффер: Верно, но я думаю, будет справедливо сказать, что в отношении компаний, занимающихся искусственным интеллектом, как и в случае с компаниями, занимающимися социальными сетями десять лет назад, они говорят о том, что делают, а не просто пытаются заработать деньги для акционеров. Это гораздо более возвышенное видение того, что они делают и почему.

Лия Файгер: Что ж, это утверждение, что оно полностью ориентировано на миссию, но даже несмотря на это, разве в Anthropic не было кого-то, кто недавно ушел?

Зои Шиффер: Это была одна из тех заметок, которая была очень расплывчатой, и мы подумали: «Хорошо, ну, я имею в виду, что каждый раз, когда это происходит, я думаю, что мы с Брайаном оба в Slack думаем: «Может ли кто-нибудь узнать, что здесь происходит? Что это значит, что вы не можете следовать своим ценностям в Anthropic?»

Брайан Барретт: Внутри этих компаний столько драмы, связанной как с этим, так и со всем остальным. Удивительно, сколько денег им приходится тратить и насколько значимы их продукты, учитывая уровень дисфункции, который мы наблюдаем. И это только то, что мы знаем, и мы знаем очень многое, потому что это так неблагополучно, но, чувак, там беспорядок.

Зои Шиффер: Я знаю. Это интересно, потому что, как сообщается, OpenAI готовится стать публичной в следующем году. Многое должно произойти за кулисами, чтобы компания была готова к этому, чтобы быть готовой к такому уровню проверки. Но я думаю, что это также, по крайней мере, с точки зрения рекламы, это то, что действительно беспокоило Фиджи Симо, генерального директора по приложениям в OpenAI, потому что ее перевели после того, как она была генеральным директором Instacart, но до этого она провела годы и годы в Meta, довольно тесно работая с Марком Цукербергом, и люди очень нервничали, когда она присоединилась к OpenAI, что она собиралась запустить своего рода сборник сценариев Meta в их «маленькой» лаборатории искусственного интеллекта. я кладу маленький тоже в кавычках. Я разговаривал с ней несколько месяцев назад. Похоже, она пыталась отнестись к этому весьма вдумчиво, но я думаю, что это вопрос, к которому очень чувствительны и Fidji, и OpenAI в целом. Быть плохой компанией в сфере искусственного интеллекта, которая работает над эншитификацией быстрее, чем ее конкуренты. Я думаю, что Anthropic своей рекламой как бы наносит удар по больному месту, и, честно говоря, то же самое относится и к исследователю, написавшему письмо в The New York Times.