Microsoft открыла исходный код прорывной технологии — искусственного интеллекта, способного работать прямо на CPU, без использования дорогой видеокарты. Новый фреймворк BitNet.cpp позволяет запускать модели сжатого ИИ, используя минимальные ресурсы — даже на стандартных процессорах. Теперь технологии, ранее доступные лишь владельцам мощных машин, могут работать практически на любом устройстве, получить доступ к фреймворку можно прямо сейчас, даже со смартфона.Новости СМИ2
Идея 1-битных языковых моделей (LLMs) зародилась несколько месяцев назад, когда исследователи предложили метод, позволяющий сократить объем памяти для хранения весов моделей. Если раньше для хранения весов модели требовались 16 или 32 бита, то 1-битные LLM используют всего 1 бит для каждого параметра, что значительно снижает требования к памяти.
Фреймворк BitNet.cpp стал ключевым инструментом для внедрения 1-битных моделей на локальные устройства, использующие лишь процессоры, без необходимости в мощных видеокартах.