Миф об искусственном интеллекте с открытым исходным кодом

Модели, выпущенные под обычными лицензиями с открытым исходным кодом, например GPT Нео из некоммерческой организации ЭлеутерAI, более полно открыты, говорят исследователи. Но таким проектам сложно выйти на равные позиции.

Во-первых, данные, необходимые для обучения продвинутых моделей, часто держатся в секрете. Во-вторых, программные платформы, необходимые для построения таких моделей, часто контролируются крупными корпорациями. Два самых популярных из них, TensorFlow и Pytorch, поддерживаются Google и Meta соответственно. В-третьих, мощность компьютера, необходимая для обучения большой модели, также находится за пределами досягаемости любого обычного разработчика или компании, и обычно для одного обучающего прогона требуются десятки или сотни миллионов долларов. И, наконец, человеческий труд, необходимый для доработки и улучшения этих моделей, также является ресурсом, который в основном доступен только крупным компаниям с глубокими карманами.

При таком развитии событий одна из самых важных технологий за последние десятилетия может в конечном итоге обогатить и расширить возможности лишь горстки компаний, включая OpenAI, Microsoft, Meta и Google. Если ИИ действительно является технологией, меняющей мир, то наибольшие выгоды можно было бы ощутить, если бы он стал более широко доступным.

«Наш анализ показывает, что открытость не только не способствует «демократизации» ИИ», Мередит Уиттакер— рассказал мне президент Signal и один из исследователей, стоящих за этой статьей. «Действительно, мы показываем, что компании и учреждения могут и используют «открытые» технологии для укрепления и расширения централизованной власти».

Уиттакер добавляет, что миф об открытости должен стать фактором столь необходимых Правила ИИ. «Нам очень нужны значимые альтернативы технологиям, определяемым и доминируемым крупными монополистическими корпорациями, особенно учитывая, что системы искусственного интеллекта интегрированы во многие весьма чувствительные области, имеющие особое общественное значение: в здравоохранении, финансах, образовании и на рабочем месте», — говорит она. «Создание условий, которые сделают такие альтернативы возможными, — это проект, который может сосуществовать и даже поддерживаться регуляторными движениями, такими как антимонопольные реформы».

Помимо ограничения влияния крупных компаний, повышение открытости ИИ может иметь решающее значение для раскрытия лучшего потенциала технологии и предотвращения ее худших тенденций.

Если мы хотим понять, насколько эффективны самые передовые модели ИИ, и снизить риски, которые могут возникнуть в результате их развертывания и дальнейшего прогресса, возможно, было бы лучше сделать их открытыми для ученых всего мира.

Как только безопасность через неизвестность никогда не гарантирует, что код будет работать безопасно, защита работы мощных моделей искусственного интеллекта, возможно, не самый разумный способ действовать.