混合快取執行流程圖

建立一個簡潔的垂直技術工作流程資訊圖，採用淺灰色背景，並運用極簡現代的產品圖表風格。使用圓角白色卡片、細彩色輪廓線、簡單的向量線條圖示、深藍色文字和深藍色連接箭頭。整體佈局為居中、由上而下的流程圖，包含 7 個編號的主要步驟，以及 2 個平行的快取群組面板，分別從步驟 4 分支到步驟 5。最左側有一個深色粗箭頭從底部循環到頂部。使用簡潔的無襯線字體，保持足夠的間距，並使用柔和的淺色，避免使用漸層或陰影，以確保簡報投影片的清晰度。將步驟 1 卡片放置在頂部中心，使用藍色輪廓線，並在左側新增程式碼/聊天圖示。標題文字為：「1.{argument name="step 1 title" default="Chat completion request"}」。副標題為：「conversation_id + cache_salt + new suffix message」。步驟 1 下方是步驟 2 卡片，使用藍色輪廓線，並新增文件/清單圖示。標題：「2. 前端會話帳本」。副標題：「租用相同 ID + 追蹤已提交訊息」。下方是步驟 3 卡片，帶有青色邊框和放大鏡資料庫圖示。標題：「3. 精確會話快取查找」。副標題：「conversation_id 已提交輪次狀態」。下方是步驟 4 卡片，帶有紫色邊框和分支調度器圖示。標題：「4. 調度器快取附件」。副標題：「設定 num_computed_tokens + 附加已提交狀態」。從步驟 4 開始，向下分支成兩個並排的分組面板。左側分組面板：一個淺綠色圓形容器，標題為「全關注 KV 快取群組」。內部堆疊了兩張內卡。第一張內卡帶有綠色區塊網格圖標，標題為“已提交區塊引用”，副標題為“共享對齊的完整 KV”。第一張內部卡片（其下方第二張卡片）有一個綠色的分層紙張圖標，標題為“尾部 COW 複製”，副標題為“複製未對齊的 KV 尾部”。綠色面板底部增加了一個小頁腳：「為 Transformer 層分頁 K/V 張量」。右側的分組面板是一個淺紫色的圓形容器，標題為「Mamba 終端狀態快取群組」。它包含兩個堆疊的內部卡片。第一張卡片有一個紫色的資料庫/網路圖標，標題為“已提交的終端狀態”，副標題為“已提交長度的精確狀態”。其下方第二張卡片有一個紫色的波浪線圖標，標題為“請求終端副本的所有權”，副標題為“複製 SSM + 對話狀態”。紫色面板底部新增了一個小頁腳：「對齊模式終端狀態放置」。兩個分組面板的輸出合併到居中的「步驟 5」卡片中，該卡片帶有藍色輪廓和微晶片圖示。標題為：「5. 混合模型執行」。副標題為：「僅運行未快取的後綴」。此卡片底部並排放置兩個膠囊狀標籤：「Transformer 層」和「Mamba 層」。步驟 6 位於其下方。步驟 1：一張帶有藍色邊框和閃光圖示的卡片。標題：「6. 解碼助手令牌」。副標題：「逐個令牌串流處理回應令牌」。其下方是步驟 7：一張帶有暖黃橙色邊框和已勾選資料庫圖示的卡片。標題：「7. 完成一輪提交」。副標題：「發布暫停狀態或在失敗時丟棄」。在最左側加上一個粗的深藍色環形箭頭，從左上角指向步驟 1，再從底部的步驟 7 返回。沿著左側循環，並在下半部附近放置堆疊的註釋文字：「在下一個請求中重複使用已提交的對話標頭」。在步驟 7 的基礎上，在快取群組面板中新增兩個向上虛線的發布箭頭：左側為綠色虛線箭頭，指向綠色快取面板，並標記為「發布新狀態」；右側為紫色虛線箭頭，指向紫色快取面板，也標記為「發布新狀態」。保持主卡總數為 7 張（含編號），緩存組面板總數為 2 張，內部緩存卡總數為 4 張，膠囊標籤總數為 2 張。保持垂直比例與會議投影片架構圖一致。