Карманные модели искусственного интеллекта могут открыть новую эру вычислений

Когда в ноябре 2023 года был выпущен ChatGPT, доступ к нему можно было получить только через облако, поскольку лежащая в его основе модель была просто огромной.

Сегодня я запускаю аналогичную программу искусственного интеллекта на Macbook Air, и она даже не теплая. Усадка показывает как быстро исследователи совершенствуют модели ИИ чтобы сделать их более компактными и эффективными. Это также показывает, что переход на все более крупные масштабы — не единственный способ сделать машины значительно умнее.

Модель, которая теперь наполняет мой ноутбук остроумием и мудростью, подобной ChatGPT, называется Phi-3-mini. Это часть семейства небольших моделей искусственного интеллекта, недавно выпущенных исследователями Microsoft. Хотя он достаточно компактен, чтобы работать на смартфоне, я протестировал его, запустив на ноутбуке и получив доступ к нему с iPhone через приложение под названием Зачарованный который предоставляет интерфейс чата, аналогичный официальному приложению ChatGPT.

В бумага Описывая семейство моделей Phi-3, исследователи Microsoft говорят, что модель, которую я использовал, выгодно соответствует GPT-3.5, модели OpenAI, лежащей в основе первого выпуска ChatGPT. Это утверждение основано на измерении его производительности с помощью нескольких стандартных тестов искусственного интеллекта, предназначенных для измерения здравого смысла и рассуждений. По моим собственным тестам, он, безусловно, кажется столь же работоспособным.

Уилл Найт через Microsoft

Майкрософт анонсировали новую «мультимодальную» модель Фи-3 способен обрабатывать аудио, видео и текст на своей ежегодной конференции разработчиков Build на этой неделе. Это произошло всего через несколько дней после ОпенАИ и Google оба разрекламированный радикал новые помощники ИИ построен на основе мультимодальных моделей, доступных через облако.

Лилипутское семейство моделей ИИ от Microsoft предполагает, что становится возможным создавать всевозможные удобные приложения ИИ, не зависящие от облака. Это может открыть новые варианты использования, позволяя им быть более отзывчивыми и конфиденциальными. (Офлайн-алгоритмы являются ключевым элементом Microsoft анонсировала функцию отзыва который использует искусственный интеллект, чтобы сделать все, что вы когда-либо делали на своем компьютере, доступным для поиска.)

Но семейство Фи также раскрывает кое-что о природе современного ИИ и, возможно, о том, как его можно улучшить. Себастьен Бубек, исследователь из Microsoft, участвовавший в этом проекте, рассказал мне, что модели были созданы для того, чтобы проверить, может ли более избирательный подход к тому, чему обучается система ИИ, обеспечить способ точной настройки ее способностей.

Большие языковые модели, такие как GPT-4 от OpenAI или Gemini от Google, на которых работают чат-боты и другие сервисы, обычно представляют собой огромные куски текста, выкачиваемые из книг, веб-сайтов и практически любого другого доступного источника. Хотя это вызывает юридические вопросы, OpenAI и другие обнаружили, что увеличение объема текста, подаваемого в эти модели, и количества компьютерной мощности, используемой для их обучения, может открыть новые возможности.