LoRA 是什麼：用三個參數理解它在做的事
不用讀論文也能正確使用 LoRA。理解 rank、alpha 與目標模組這三件事就夠了。
微調資料集怎麼準備：格式、數量與品質的實際標準
微調成敗八成取決於資料。這篇是可以直接照做的準備流程。
QLoRA：在單張消費級顯示卡上微調的實際配置
4-bit 量化加 LoRA，讓 24GB 顯示記憶體就能微調中型模型。這是可跑通的設定。
學習率與訓練輪數：從損失曲線讀出該停在哪
微調過擬合的速度比想像中快。看懂曲線比背誦超參數表有用得多。
合成資料怎麼用才不會反效果
用大模型生成訓練資料很方便，但直接拿來訓練通常會把錯誤一起學進去。
微調模型的評測：不要只看訓練指標
訓練損失是給訓練用的，上線決策要看另一組數字。