VaultGemma: The most capable differentially private LLM
- VaultGemma — самая мощная языковая модель с дифференциальной приватностью.
- Обучена на Gemma 2 2B, добавлен шум и обрезка градиентов; ε=9 за одну эпоху.
- На 4 из 5 тестов MMLU Pro теряет ≤1 % точности по сравнению с базовой.
- Код и веса открыты: Hugging Face.