免費全文 提示工程 入門

溫度、top-p 與重複懲罰:三個參數的實際影響

調參數之前,先知道每個參數實際在改什麼。多數任務其實只需要動一個。

提示工程教程封面

取樣參數常被一起亂調,但它們作用的位置不同,混著調很難歸因。

溫度(temperature)

控制機率分布的平緩程度。溫度越低,越集中在高機率 token;設為 0 時近似貪婪解碼,同樣輸入會得到幾乎相同的輸出。抽取、分類、格式轉換一律用 0。

top-p(核採樣)

只從累積機率達到 p 的候選集合中取樣。它與溫度是兩個獨立的裁切方式,同時調兩個很難預測結果。實務建議:固定 top-p 為 1,只調溫度。

重複懲罰

降低已出現過 token 的機率。它能減少鬼打牆,但副作用是會壓抑必要的重複——例如程式碼中的變數名、JSON 中重複出現的欄位名。處理結構化輸出時不要開。

建議起手值

# 抽取/分類/JSON 輸出
temperature=0, top_p=1, frequency_penalty=0

# 文案發想、多方案產生
temperature=0.8, top_p=1, frequency_penalty=0.2
需要多樣性時,寧可用同一個溫度多跑幾次再挑,也不要為了「一次到位」把溫度拉很高——高溫的失敗模式通常是整段崩壞,而不是換個說法。
下一步

這個主題還有更深入的實戰教程

VIP 專區收錄 50 篇進階內容:架構設計、生產環境取捨、成本與合規。 每週五新增 3 篇。

看訂閱方案 → 先逛逛 VIP 專區

延伸閱讀

更多提示工程 →