ハイブリッドキャッシュ実行フローチャート

ミニマルでモダンな製品チャートスタイルを採用し、ライトグレーの背景で、すっきりとした縦型のテクニカルワークフローインフォグラフィックを作成します。丸みを帯びた白いカード、細い色のアウトライン、シンプルなベクターラインアイコン、濃い青色のテキスト、濃い青色の接続矢印を使用します。全体の構成は、7 つの番号付きメインステップと、ステップ 4 からステップ 5 に分岐する 2 つの並列キャッシュグループパネルを含む、中央に配置された上から下へのフローチャートです。左端には、下から上へループする太い濃い色の戻る矢印があります。プレゼンテーション スライドの明瞭さを確保するために、すっきりとしたサンセリフフォントを使用し、十分な間隔を維持し、グラデーションや影のない柔らかく明るい色を使用します。ステップ 1 カードを上部中央に配置し、青いアウトラインと左側にコード/チャット アイコンを配置します。タイトル テキスト: "1."{argument name="step 1 title" default="Chat completion request"} サブタイトルは "conversation_id + cache_salt + new suffix message" です。その下に、青いアウトラインとドキュメント/リスト アイコンが付いたステップ 2 カードがあります。タイトル: "2. フロントエンド会話台帳"。サブタイトル: "同じ ID のレンタル + コミット済みメッセージの追跡"。その下にステップ 3 カードがあり、シアンの枠線と虫眼鏡の付いたデータベース アイコンが付いています。タイトル: "3. 正確な会話キャ​​ッシュ検索"。サブタイトル: "conversation_id コミット済みラウンド ステータス"。その下にステップ 4 カードがあり、紫の枠線とブランチ スケジューラ アイコンが付いています。タイトル: "4. スケジューラ キャッシュ アタッチメント"。サブタイトル: "num_computed_tokens の設定 + コミット済みステータスのアタッチメント"。ステップ 4 から、2 つの並列グループ パネルに分岐します。左側のグループ パネル: 薄緑色の丸いコンテナで、タイトルは "Full-attention KV Cache Group"。内部には、2 つのインナー カードが積み重ねられています。最初のインナー カードには緑色のブロック グリッド アイコンがあり、タイトルは "Committed Block Reference"、サブタイトルは "Shared Aligned Full KV" です。最初の内部カード（その下の2番目）には、「Tail COW Copy」というタイトルの緑色のレイヤードペーパーアイコンがあり、サブタイトルは「Copying Unaligned KV Tail」です。緑色のパネルの下部には、「Paging K/V Tensors for Transformer Layers」という小さなフッターが追加されています。右側のグループパネルは、「Mamba Terminal State Cache Group」というタイトルの薄紫色の丸いコンテナです。このパネルには、2つの積み重ねられた内部カードが含まれています。最初のカードには、「Committed Terminal State」というタイトルの紫色のデータベース/ネットワークアイコンがあり、サブタイトルは「Exact State at Committed Length」です。その下の2番目のカードには、「Requesting Ownership of Terminal Copy」というタイトルの紫色の波線アイコンがあり、サブタイトルは「Copying SSM + Dialogue State」です。紫色のパネルの下部には、「Aligned Mode Terminal State Placement」という小さなフッターが追加されています。2つのグループパネルの出力は、中央のステップ5カードに統合され、青い枠線とマイクロチップアイコンが付いています。タイトルは「5. Hybrid Model Execution」です。サブタイトルは「キャッシュされていないサフィックスのみを実行します」です。このカードの下部には、「Transformer Layer」と「Mamba Layer」というカプセル型のラベルが2つ並んで配置されています。その下にステップ6が配置されています。ステップ1：青い枠線とキラキラ光るアイコンが付いたカード。タイトル：「6. アシスタントトークンのデコード」。サブタイトル：「トークンごとのレスポンストークンのストリーミング」。その下にはステップ7があります。ステップ7：温かみのある黄橙色の枠線とチェックマークの付いたデータベースアイコンが付いたカード。タイトル：「7. コミット完了のラウンド」。サブタイトル：「中断状態を公開するか、失敗した場合は破棄します」。一番左に、左上からステップ1に、そして下部のステップ7から上に戻る太い濃い青色のループ矢印を追加します。この左側に沿ってループし、下半分付近に「コミットされたダイアログヘッダーを次のリクエストで再利用します」というコメントテキストを重ねて配置します。ステップ7から、キャッシュグループパネルに向かって上向きの破線矢印を2本追加します。1本は左側の緑色の破線矢印で、緑色のキャッシュパネルを指し、「Publish New State」とラベル付けします。もう1本は右側の紫色の破線矢印で、紫色のキャッシュパネルを指し、「Publish New State」とラベル付けします。番号付きメインカード7枚、キャッシュグループパネル2枚、内部キャッシュカード4枚、カプセルラベル2枚の合計数はそのまま維持します。垂直方向のスケールは、会議スライドのアーキテクチャ図と同様のものを維持します。