[뉴페@스프] «Искусственный интеллект для человечества» Кто и как будет этим заниматься?

[뉴페@스프] «Искусственный интеллект для человечества» Кто и как будет этим заниматься?

теги: #ИИ#советник#Эффективный альтруизм#Грег Брокман#Предприятие#Майкрософт#миссия#некоммерческая организация#Сатья Наделла#Сэм Альтман#Открытый ИИ#А.И.#капитализм#Кёнхён Чо#Корпорация#Акционер#эффективный альтруизм

20 января 2024 г. | К: ингппу | СБС Премиум | Без комментариев

* News Peppermint выбирает и переводит одну колонку New York Times для контент-платформы SBS Subs Premium (Soup) и пишет комментарии к статье. Среди них мы представляем написанный нами комментарий с разницей во времени от супа. Саб ПремиумВы также можете читать переведенные колонки вместе с комментариями News Peppermint.

**Статья, представленная сегодня, Написано в Soup 29 ноября.не виделись.

*** Этот комментарий был написан профессором Чо Кён Хёном с факультета компьютерных наук Нью-Йоркского университета на основе интервью, собранного в журнале Americano.

---

В течение пяти дней с 17 по 22 число Сэм Альтман, генеральный директор OpenAI, был внезапно уволен, а затем вернулся. Каждый день и каждый момент были похожи на драму. Сэм Альтман уже был всемирно известной знаменитостью, и даже те, кто плохо знает Альтмана, наверняка слышали о ChatGPT, созданном компанией OpenAI, которую он возглавляет (руководство), поэтому естественно, что внимание мира было приковано к OpenAI. . Я сделал. Фактически, не будет преувеличением сказать, что OpenAI и ChatGPT — это компании и сервисы, которые символизируют технологию искусственного интеллекта, которую можно назвать передовой в современной технологической конкуренции.

Сэм Альтман был генеральным директором, которому доверяло большинство сотрудников и которым восхищались. Давление со стороны большинства сотрудников Open AI, около 95%, сыграло значительную роль в решении правления внезапно выгнать его. Они подписали соглашение, согласно которому, если Сэма Альтмана не вернут, мы последуем за Альтманом и покинем OpenAI.

Как, черт возьми, совет директоров OpenAI мог в одночасье уволить приличного генерального директора? Самая большая проблема заключается в том, что Альтман возглавлял только коммерческое подразделение OpenAI. Не генеральный директор Альтман руководил всей Open AI, а весь совет директоров Open AI, в который входил Альтман. Вся ответственность Совета директоров заключается в выполнении миссии Open AI, установленной при его создании в 2015 году. Альтман тоже входил в совет директоров (до увольнения), но был лишь одним из шести членов, и если бы большинство решило, его могли бы выгнать с поста гендиректора в любой момент, как это и произошло в этот раз. . Это было то, что вряд ли могло произойти, но в то же время Совет директоров Open AI сделал возможным то, чего не могло произойти.

Обозреватель Эзра Кляйн, который ведет подкаст под своим именем в New York Times, также написал колонку, в которой рассматривает инцидент и указывает на его значение. Более подробный анализ того, что произошло в каждом дневнике, можно найти в моей беседе с профессором Нью-Йоркского университета Чо Кён Хён. АмериканоВы также можете обратиться к .

Полный перевод: Тревожные уроки инцидента с Open AI

Сегодня я отмечу две вещи, о которых следует подумать в отношении этой ситуации. Во-первых, история об «Эффективном альтруизме» (ЭА), в которую, как известно, верят немало знаменитостей в Кремниевой долине, в том числе некоторые из существующих членов совета директоров, которые пытались остановить Альтмана, и разработка технологий, которые будут иметь большое влияние. Это история о том, правильно ли возлагать коммерциализацию и связанную с ней социальную и моральную ответственность на отдельные компании, или же следует вмешаться правительству.
Эффективный альтруизм и «безопасность ИИ»

Давайте сначала посмотрим на эффективный альтруизм. В этой ситуации эффективный альтруизм называется «безопасностью ИИ». Из шести существующих директоров Open AI четыре директора, за исключением Сэма Альтмана и Грега Брокмана, согласились и уволили двух директоров. В частности, несколько директоров заявили, что Альтман разрабатывал технологию без какого-либо рассмотрения мер безопасности против рисков, которые технология искусственного интеллекта Говорят, что они были недовольны тем, что сосредоточились только на . Хотя публично ничего не было раскрыто, в нескольких статьях сообщалось о разногласиях между Сэмом Альтманом и членами совета директоров, которые хотели сделать безопасность ИИ приоритетом.

эффективный альтруизмотносится к серии упражнений и стратегий, позволяющих найти лучший способ помочь другим и применить его на практике. Оно представлено как сообщество, которое оказывает практическую помощь миру, проводя исследования для поиска лучших решений самых насущных мировых проблем и совершая добрые дела на основе результатов исследований. Ресурсы в мире ограничены, поэтому было бы хорошо, если бы мы могли достигать наших целей, не тратя ресурсы зря, делая добрые дела, которые помогают другим. Сама цель – это движение, которому нечего подвергать сомнению. Напротив, это следует поощрять.

Но проблема часто возникает, когда сценарии, которых опасаются некоторые последователи эффективного альтруизма, слишком далеки от представлений реалистов. Что больше всего беспокоит эффективных альтруистов, так это ужасный сценарий вымирания человечества, способного помогать друг другу, и если они будут продолжать думать об этом, то придут к выводу, что им нужно уделять много внимания и много вкладывать. ресурсов для предотвращения катастрофы, вероятность которой очень мала. Хотя лучше предотвратить любую проблему, чем ремонтировать коровник после потери коровы, в зависимости от того, как вы на это смотрите, это может показаться чрезмерным требованием, которое тратит ресурсы на ненужные вещи. Тогда возникает трение.

Технология искусственного интеллекта — это мощная технология, которая принесет человечеству удобство, которого раньше не было, но в то же время, если ее неправильно использовать, она может привести к катастрофе. На данный момент Сэм Альтман, который должен ускорить технологическое развитие в условиях жесткой конкуренции с конкурирующими компаниями, и совет директоров, заявивший, что, хотя технологическое развитие важно, больше внимания следует уделять безопасности, похоже, разошлись. Однако, как отметил Эзра Кляйн, этот вопрос является «областью суждения». Это означает, что трудно четко отличить добро от зла. Сделав выбор и применив его на практике, вы никогда не узнаете, что произошло бы, если бы вы выбрали другой вариант. Например, предположим, что люди приняли достаточные меры безопасности, чтобы предотвратить катастрофу, в которой машины уничтожают людей, как в антиутопии, изображенной в фильме «Терминатор». И, к счастью, если этого не произойдет, мы никогда не узнаем, произошло ли это из-за принятых нами мер безопасности, которые предотвратили нас от уничтожения машинной цивилизацией, или же мы потратили деньги на что-то бесполезное, поскольку вероятность этого велика. В любом случае, происходящее было очень незначительным.

Это не значит, что Совет директоров является чрезвычайно эффективными альтруистами, а Альтман — хладнокровным капиталистом, который не заинтересован в эффективном альтруизме. Скорее, Сэм Альтман также очень заинтересован в эффективном альтруизме. Эффективный альтруизм во многом отражен в миссии OpenAI, которая начала свою деятельность как некоммерческая организация в 2015 году, и не следует забывать, что Альтман также был членом правления OpenAI. Однако, поскольку Альтман (и Брокман) непосредственно отвечают за разработку технологий, а также за производство и продажу продукции, им пришлось уделять больше внимания реалистичным ограничениям. Поскольку он был основным игроком в доведении Open AI до этой точки, сохраняя при этом его уникальную структуру коммерческой компании в рамках некоммерческой организации, Альтман, должно быть, верил, что он сможет продолжать развиваться в будущем. Однако директора, инициировавшие это увольнение, думали иначе.

Когда речь заходит об эффективном альтруизме, стоит упомянуть еще одного человека. Еще одним Сэмом, получившим внимание общественности, является Сэм Бэнкман-Фрид, основатель криптовалютной биржи FTX, хотя он и не имеет прямого отношения к этому инциденту. Невероятное мошенничество Банкмана Фрида является примером крайне неправильного применения эффективного альтруизма.

Банкман Фрид пожертвовал огромную сумму денег, которую он заработал от своего бизнеса, на многочисленные благотворительные организации и значимые дела. У меня была иллюзия, что, поскольку я умнее других людей, я единственный, кому известна блестящая идея сделать что-то полезное для всех. На самом деле он был всего лишь мошенником, который самовольно украл деньги, которые клиенты доверили криптовалютной бирже для погашения других долгов, или использовал их, но даже несмотря на то, что все обещания пожертвований оказались напрасными, Банкман Фрид Даже в суде Он по-прежнему настаивал на том, что это не преступление, требующее наказания, поскольку он сделал это добросовестно. Вы можете видеть, что ваша перспектива стала настолько узкой, что вы не можете избавиться от иллюзии, что в ваших собственных мыслях не может быть недостатков.

Силиконовая долина — это экосистема, в которой часто встречаются многочисленные неудачи и проблемы. Есть много историй о том, как люди преодолевали неудачи, снова вставали, пробовали снова и, наконец, добивались инноваций. Силиконовая долина — это место, оснащенное капиталом и системой поддержки, позволяющей вам снова подняться и принять вызов, не поддаваясь неудачам. Это место, где количественная оценка чего-либо и его максимизация считаются успехом, а к людям, которые делают это хорошо, относятся как к способным. Таким образом, в Кремниевой долине больше эффективных альтруистов, чем где-либо еще в обществе. Это верно даже среди знаменитостей, которых мы знаем. На ум приходит репрезентативная фигура Илон МаскДжо.

Кто должен нести ответственность за технологии искусственного интеллекта?

Основная причина, по которой эффективный альтруизм не обязательно может быть правильным решением всех мировых проблем, заключается в том, что не существует стандарта для измерения и оценки эффективности помощи другим. Мы часто думаем об утилитаризме, философской основе эффективного альтруизма, как о помощи миру двигаться вперед, чтобы все могли быть одинаково счастливы и жить достаточно хорошо. Но это не тот случай. Эффективный альтруизм не направлен на то, чтобы быть «равномерным» или «справедливым». Поиск количественных показателей и сосредоточение внимания на их максимизации может облегчить проблему, но если это не фундаментальное решение, оно может оказаться совершенно неэффективным и расточительным решением. бренд обуви ТОМСЭто была кампания по пожертвованию пары за каждую купленную пару и по искоренению малярии в африканских странах. Отправка большого количества москитных сетокТо же самое касается .

Так кто же должен нести ответственность и контролировать технологию искусственного интеллекта, которая станет мощной технологией? Переложить всю ответственность на компании трудно, что является желательным решением. В каком-то смысле увольнение и восстановление на работе Сэма Альтмана можно интерпретировать как полное поражение лагеря, который пытался уделять приоритетное внимание вопросам, не связанным с целями управления. Если бы это была публичная коммерческая компания, основной задачей которой было бы максимизировать прибыль акционеров, она бы никогда не подумала об увольнении генерального директора за нарушение своей миссии по разработке технологий для человечества. Уникальная структура управления OpenAI, в которой некоммерческая организация заменила коммерческую дочернюю компанию, исчезла вместе с этим инцидентом. Технический репортер New York Times Кевин Рут резюмировал ситуацию. название статьибыл выбран следующим образом:

«Теперь ИИ находится в руках капиталистов».

Предприятиям должно быть разрешено конкурировать в соответствии с рыночными принципами, но правительства и гражданское общество должны нести ответственность за контроль и надзор, при необходимости, за воздействием технологий на мир. Компании также должны принять такое разделение труда. На самом деле, вы можете подумать, что компаниям и правительству трудно ужиться, как нефть и вода, но если вы посмотрите на истоки того, как многие технологии, которые мы используем сегодня, были разработаны, есть много случаев, когда компании перенимали технологии. созданы правительством и превратили их в продукты и услуги. То же самое касается Интернета, мобильных телефонов и электромобилей.

сыграл решающую роль в создании Интернета Агентство перспективных оборонных исследований (DARPA)которая провела важнейшие исследования в области разработки мобильных телефонов Белл ЛабораторииАналогичным образом, возможно, было бы лучше, чтобы финансируемые государством организации разрабатывали основные технологии, которые будут способствовать развитию технологий искусственного интеллекта, а не частным компаниям. По крайней мере, тогда нам не придется беспокоиться о том, что Кляйн называет «машиной, которую невозможно выключить». Однако до сих пор конкуренцию в области технологий искусственного интеллекта возглавляют крупные компании Кремниевой долины. Установить необходимые меры безопасности для развития технологий сейчас, возможно, стало намного сложнее по сравнению с тем, что было до инцидента с Open AI.