论文解读
个人总结正交类LoRA发展
顺着多篇近期工作,理解正交 LoRA 持续学习从子空间隔离、参数不碰撞、梯度投影、合并式更新到双线性失稳的关键假设。
含有该标签的相关文章共 3 篇,聚合了关联的深度技术探讨与经验积累。
顺着多篇近期工作,理解正交 LoRA 持续学习从子空间隔离、参数不碰撞、梯度投影、合并式更新到双线性失稳的关键假设。
从持续学习的基本公式出发,读懂 LAMOL、LFPT5、Progressive Prompts 和 O-LoRA 的核心思路与限制。
顺着多篇近期工作,理解正交 LoRA 持续学习从子空间隔离、参数不碰撞、梯度投影、合并式更新到双线性失稳的关键假设。