Тема: parameter-efficient-learning
-
LoRA: низкоранговая адаптация и реальные границы экономии памяти
LoRA обучает низкоранговое обновление, оставляя базовые веса фиксированными. Она уменьшает число обучаемых параметров и их состояния оптимизатора, но базовая модель, активации и совместимость развёртывания остаются важны.
Машиночитаемо: JSON