Беспорядочная стрельба OpenAI и повторный прием на работу ее влиятельного генерального директора на этой неделе шокировала мир технологий. Но борьба за власть имеет последствия, выходящие за пределы зала заседаний совета директоров компании, говорят эксперты по искусственному интеллекту. Это подчеркивает экологичность индустрии искусственного интеллекта и сильное желание Кремниевой долины быть первыми, а также поднимает насущные вопросы о безопасности технологии.
«ИИ, на который мы сейчас смотрим, незрелый. Здесь нет стандартов, нет профессиональных организаций, нет сертификатов. Каждый понимает, как это сделать, определяет свои собственные внутренние нормы», — сказал Райид Гани, профессор машинного обучения и государственной политики в Университете Карнеги-Меллон. «ИИ, который создается, зависит от горстки людей, которые его создали, и влияние этих горстки людей непропорционально».
Борьба между Сэмом Альтманом и советом директоров OpenAI началась в пятницу с неожиданного объявления о том, что совет отстранил Альтмана от должности генерального директора за то, что он «не всегда был откровенен в общении с советом».
Сообщение в блоге появилось без особого предупреждения даже для миноритарного владельца OpenAI. Майкрософткоторая инвестировала в стартап около $13 млрд.
Совет назначил временным генеральным директором Миру Мурати, которая тогда была техническим директором OpenAI, но к воскресенью назначил другого, бывшего генерального директора Twitch Эммета Шира. В тот же день Альтман вернулся в штаб-квартиру стартапа для переговоров; В тот вечер Microsoft объявила, что наняла его руководителем нового подразделения искусственного интеллекта.
В понедельник более 95% из примерно 750 сотрудников OpenAI подписали открытое письмо, в котором утверждали, что уйдут, если Альтман не будет восстановлен на работе; Среди подписавшихся были Мурати и человек, которого многие считали инициатором увольнения Альтмана, соучредитель и главный научный сотрудник OpenAI Илья Суцкевер.
К среде Альтман снова стал генеральным директором. Правление OpenAI было воссоздано без Альтмана и президента компании Грега Брокмана, которые ушли в знак солидарности, но также были повторно приняты на работу, а также без двух членов, проголосовавших за их увольнение.
В отсутствие существенного регулирования компаний, производящих ИИ, слабости и особенности его создателей приобретают огромное значение.
На вопрос, что сага об OpenAI может означать для любого предстоящего регулирования ИИ, Министерство науки, инноваций и технологий Великобритании (DSIT) ответило в своем заявлении: «Поскольку это коммерческое решение, DSIT не имеет права его комментировать». В США Белый дом также не предоставил комментариев. Сенаторы Ричард Блюменталь от Коннектикута и Джош Хоули от Миссури, председатели подкомитета Сената США, курировавшего Показания Альтмана ранее в этом году не ответил на запросы о комментариях; Блюменталь и Хоули предложили двухпартийный законопроект об искусственном интеллекте».установить ограждения».
По словам Гани, в более зрелом секторе регулирование защитит потребителей и продукты, ориентированные на потребителя, от борьбы между людьми наверху. Отдельные создатели ИИ не имели бы такого значения, и их ссоры меньше затрагивали бы общественность.
«Слишком рискованно полагаться на одного человека, который будет представителем ИИ, особенно если этот человек отвечает за строительство. Оно не должно быть саморегулируемым. Когда это работало? У нас нет саморегулирования ни в чем важном, зачем нам это делать здесь?» он спросил.
Политическая битва за ИИ
Борьба в OpenAI также выявила отсутствие прозрачности в принятии решений в компании. Разработка передового искусственного интеллекта находится в руках небольшой секретной группы, которая действует за закрытыми дверями.
«Мы понятия не имеем, как смена персонала в OpenAI изменит природу ChatGPT или Dall-E», — сказал Гани. На данный момент нет публичной организации, проводящей тестирование таких программ, как ChatGPT, и компании не раскрывают прозрачности в отношении обновлений. Сравните это с обновлениями программного обеспечения iPhone или Android, в которых перечислены изменения и исправления, вносимые в программное обеспечение устройства, которое вы держите в руках.
«Сейчас у нас нет публичного способа контроля качества. Каждая организация будет делать это для своих собственных случаев использования», — сказал он. «Но нам нужен способ постоянно проводить тесты таких вещей, как ChatGPT, и отслеживать результаты, чтобы профилировать результаты для людей и снижать риск. Если бы у нас был такой инструмент, компания была бы менее критичной. Наша единственная надежда состоит в том, что люди, которые его строят, знают, что делают».
Пол Барретт, заместитель директора центра бизнеса и прав человека в бизнес-школе Нью-Йоркского университета, согласился, призвав ввести регулирование, которое потребовало бы от производителей искусственного интеллекта демонстрировать безопасность и эффективность своей продукции так, как это делают фармацевтические компании.
«Борьба за контроль над OpenAI является ценным напоминанием о нестабильности в этой относительно незрелой отрасли цифровой индустрии и об опасности того, что на важные решения о том, как защитить системы искусственного интеллекта, может повлиять корпоративная борьба за власть. В игре задействованы огромные суммы денег и огромное эго. Суждения о том, когда непредсказуемые системы искусственного интеллекта можно безопасно обнародовать, не должны зависеть от этих факторов», — сказал он.
Ускорение v замедление
Раскол между Альтманом и правлением, по крайней мере частично, возник по идеологическим причинам: Альтман и Брокман находились в лагере, известном как «акселерационисты» — люди, которые считают, что ИИ должен быть развернут как можно быстрее, — и «замедлители» — люди, которые верят, что ИИ должен быть развернут как можно быстрее. его следует развивать медленнее и с более прочными ограждениями. С возвращением Альтмана трофеи забирает бывшая группа.
«Люди, которые, кажется, выиграли в этом случае, — это акселерационисты», — сказала Сара Крепс, профессор государственного управления Корнелла и директор Института технической политики в университетской школе государственной политики.