思維鏈的正確用法:什麼時候該讓模型想,什麼時候不該
思維鏈不是萬靈丹。用在不需要推理的任務上,只會增加延遲、成本與出錯機會。
「讓我們一步一步思考」曾經是提示工程的代表招式,但隨著模型本身推理能力提升,無差別套用思維鏈(CoT)反而常常是負面效果。判斷標準其實很簡單:這個任務有沒有中間狀態。
適合用思維鏈的任務
- 多步數學或單位換算——中間結果會影響最終答案。
- 需要比對多個條件的判斷,例如「同時滿足 A 與 B 但不滿足 C」。
- 從長文中彙整資訊後再下結論。
不適合的任務
- 單純分類或抽取——答案就在輸入裡,推理只是製造幻覺的空間。
- 格式轉換——把 CSV 轉 JSON 不需要思考過程。
- 延遲敏感的線上路徑——每多一段推理就是多幾百毫秒。
把推理過程與答案分開
若要用思維鏈又要能解析,讓模型把推理寫在指定欄位,答案另外放。這樣既保留推理效益,又不必從自然語言裡撈答案。
{
"reasoning": "訂單金額 1200 > 1000,符合免運門檻;但配送地為離島,離島不適用。",
"answer": "not_eligible"
}別把推理欄位直接顯示給終端使用者。那段文字是模型的中間產物,錯誤率遠高於最終答案,露出來只會降低信任。