Catalog

部署與推理優化

量化、批次處理、KV 快取與服務化，把延遲與成本壓到可上線的水準。

全部主題 提示工程 RAG 檢索增強 Agent 開發 模型微調 部署與推理優化 資料處理與評測 多模態應用 工具與工作流
不限 免費 VIP 專屬 全難度 入門 進階 實戰
符合條件：2 篇
自架還是用 API：把成本算清楚再決定
免費 部署與推理優化 實戰
自架還是用 API：把成本算清楚再決定
自架的成本不只是顯示卡租金。這篇把常被忽略的項目列出來一起算。
2026-08-16
10 分鐘
 模型路由：用小模型接住八成流量
免費 部署與推理優化 實戰
模型路由：用小模型接住八成流量
不是每個請求都需要最貴的模型。路由做得好，成本可以砍掉一半以上。
2026-08-06
10 分鐘