即時視訊分析：串流場景的架構取捨

1. 輕量觸發層：用便宜的方法持續監看，例如畫面變化偵測、傳統電腦視覺模型、或小型分類器。它的任務只有一個——決定「這一幀值不值得送給大模型」。
2. 理解層：只在觸發時呼叫視覺語言模型，做細緻的判斷與描述。

def stream_loop(cap, trigger, vlm, cooldown_s=8):
    last_fire = 0
    while True:
        ok, frame = cap.read()
        if not ok: break
        if not trigger.should_fire(frame):
            continue
        if time.time() - last_fire < cooldown_s:
            continue                       # 冷卻，避免同一事件重複觸發
        result = vlm.analyze(frame, PROMPT)
        last_fire = time.time()
        handle(result, frame)

冷卻時間是必要的

沒有冷卻機制的話，一個持續數秒的事件會觸發幾十次呼叫。冷卻時間要依場景設定，並記錄「被冷卻擋掉的觸發數」——這個數字太高代表觸發層太敏感。

成本估算要以「觸發率」為核心

每小時成本 = 觸發率(次/小時) × 每次呼叫成本

觸發率 5 次/小時、每次 0.01 USD → 每天約 1.2 USD
觸發率 300 次/小時同樣單價    → 每天約 72 USD

觸發層的準確度直接決定成本，值得投入調校。

觸發層的調校

• 收集一批「應該觸發」與「不應該觸發」的片段。
• 調整門檻，目標是高召回、可接受的誤報率——漏掉真事件的代價通常高於多花一次呼叫。
• 定期用理解層的結果回頭校準觸發層：若某類觸發總是被判定為無事，就調整規則。

延遲與可靠性

1. 理解層的呼叫要非同步，不能阻塞讀取串流——否則會掉幀。
2. 設定佇列上限，塞滿時丟棄舊的觸發而非新的。
3. 網路中斷時要能本地緩衝並在恢復後補送（若場景允許延遲處理）。

隱私考量