LoRA

5B 小模型后训练冲榜实录：BFCL 涨了 2 分，AA 指数五次试点全部失败

2026年10月17日

我们用 LoRA 后训练 K2-Horizon-3.7B，BFCL 函数调用从 55.60 提到 57.57；随后冲 Artificial Analysis 智能指数，弃答 DPO、同家族蒸馏、SciCode 拒绝采样微调共五次训练试点全部无效。本文给出数据、失败原因和踩坑清单。

大语言模型的入门与应用：LLaMA 与 Alpaca

2024年8月5日

入门介绍 LLaMA/Alpaca 与常见微调方法，面向新手梳理要点。