Microsoft выпускает самый большой 1-битный LLM, позволяя мощному искусственному интеллекту.
Исследователи Microsoft утверждают, что разработали первую 1-разрядную большую языковую модель с 2 миллиардами параметров. Модель, Bitnet B1.58 2B4T, может работать на коммерческих процессорах, таких как Apple M2. «Обученная на корпус из 4 триллионов токенов, эта модель демонстрирует, как нативные 1-битные LLM могут достичь производительности, сравнимой с ведущими открытым весом, моделями полного определения аналогичного размера, одновременно … Read more