SpikingBrain 7B – More efficient than classic LLMs
SpikingBrain-7B — 7-миллиардный языковой модуль, работающий на сетях с импульсными нейронами.
- Архитектура: LLaMA-2, обучен методом «Spike-LLM» (преобразование весов + тонкая настройка).
- Преимущества: 10× меньше энергии vs GPU, 4-битные веса, 80 ГБ → 8 ГБ ОЗУ.
- Метрики: C-Eval 54 %, MMLU 48 %, 1.3× быстрее аналогов на CPU.
- Код и веса: открыты, PyTorch, 1 строка для запуска.