該微調還是該寫提示:先跑完這四個檢查
微調是最後手段,不是第一步。這四個檢查能替你省下大量算力與標註成本。
「效果不夠好,來微調吧」是很貴的直覺。微調要準備資料、要算力、要維運版本,而且改一次就得重跑一輪評測。動手之前先跑完下面四項。
檢查一:提示已經最佳化了嗎
有沒有結構化提示、有沒有少樣本、有沒有結構化輸出、有沒有跑過評測集找出失敗樣態。這四件事做完通常能解掉六成的「效果不好」。
檢查二:問題是知識還是行為
- 模型不知道某些事實 → 用 RAG,微調塞知識既低效又容易過時。
- 模型知道但格式不對、語氣不對、步驟不對 → 微調很適合。
檢查三:資料夠嗎
格式與風格類的任務,五百到一千筆高品質樣本通常就有明顯效果;但如果連一百筆乾淨樣本都湊不出來,微調的結果會很不穩定。
檢查四:值得的成本是多少
# 粗算:微調划算的臨界點
每月呼叫量 × (大模型單價 − 微調小模型單價) > 微調與維運的固定成本量小的時候,用大模型加好提示幾乎永遠比較划算。微調的效益要靠規模攤提。
折衷做法:先用大模型加提示上線,同時把(輸入、通過驗收的輸出)存起來。跑三個月後,你手上就有一份現成的微調資料集。