Diagramma di flusso per l'esecuzione della cache ibrida

Crea un'infografica tecnica verticale e pulita sul flusso di lavoro, con uno sfondo grigio chiaro e uno stile minimalista e moderno, simile a un grafico di prodotto. Utilizza schede bianche arrotondate, contorni colorati sottili, semplici icone vettoriali, testo blu scuro e frecce di collegamento blu scuro. La composizione generale è un diagramma di flusso centrato, dall'alto verso il basso, contenente 7 passaggi principali numerati e 2 pannelli paralleli per i gruppi di cache che si diramano dal passaggio 4 al passaggio 5. Una freccia di ritorno scura e spessa si estende dal basso verso l'alto all'estrema sinistra. Utilizza un carattere sans-serif pulito, mantieni un'ampia spaziatura e usa colori tenui e chiari, senza sfumature o ombreggiature, per garantire la chiarezza delle diapositive della presentazione. Posiziona la scheda del passaggio 1 in alto al centro con un contorno blu e un'icona codice/chat a sinistra. Testo del titolo: "1."{argument name="step 1 title" default="Chat completion request"} Il sottotitolo è: "conversation_id + cache_salt + new suffix message". Sotto si trova la scheda del passaggio 2, con un contorno blu e un'icona documento/elenco. Italiano: Titolo: "2. Registro conversazioni front-end". Sottotitolo: "Noleggio dello stesso ID + Tracciamento dei messaggi confermati". Sotto questo si trova la scheda del passaggio 3, con un contorno ciano e un'icona di database con una lente d'ingrandimento. Titolo: "3. Ricerca precisa nella cache delle conversazioni". Sottotitolo: "Stato del round confermato di conversation_id". Sotto questo si trova la scheda del passaggio 4, con un contorno viola e un'icona dello scheduler di diramazione. Titolo: "4. Collegamento della cache dello scheduler". Sottotitolo: "Impostazione di num_computed_tokens + Collegamento dello stato confermato". Dal passaggio 4, si dirama in due pannelli di gruppo affiancati. Pannello di gruppo sinistro: un contenitore arrotondato verde chiaro, intitolato "Gruppo cache KV a piena attenzione". All'interno, sono impilate due schede interne. La prima scheda interna ha un'icona a griglia di blocchi verdi, intitolata "Riferimento blocco confermato" e sottotitolata "KV completo allineato condiviso". La prima scheda interna, la seconda in basso, ha un'icona di carta verde a strati, intitolata "Copia COW della coda", con il sottotitolo "Copia della coda KV non allineata". Un piccolo piè di pagina è aggiunto in fondo al pannello verde: "Paginazione dei tensori K/V per i layer del trasformatore". Il pannello di gruppo a destra è un contenitore arrotondato viola chiaro intitolato "Gruppo cache dello stato del terminale Mamba". Contiene due schede interne sovrapposte. La prima scheda ha un'icona di database/rete viola, intitolata "Stato del terminale confermato", con il sottotitolo "Stato esatto alla lunghezza confermata". La seconda scheda in basso ha un'icona a linea ondulata viola, intitolata "Richiesta di proprietà della copia del terminale", con il sottotitolo "Copia dello stato SSM + dialogo". Un piccolo piè di pagina è aggiunto in fondo al pannello viola: "Posizionamento dello stato del terminale in modalità allineata". Gli output dei due pannelli di gruppo sono uniti nella scheda centrata Fase 5, con un contorno blu e un'icona a microchip. Il titolo è: "5. Esecuzione del modello ibrido". Il sottotitolo è: "Esegui solo suffissi non memorizzati nella cache". Nella parte inferiore di questa scheda, due etichette a forma di capsula sono posizionate una accanto all'altra: "Livello Transformer" e "Livello Mamba". Il passaggio 6 è posizionato sotto. Passaggio 1: una scheda con un contorno blu e un'icona scintillante. Titolo: "6. Decodifica del token dell'assistente". Sottotitolo: "Streaming della risposta token per token". Sotto questo si trova il passaggio 7: una scheda con un contorno giallo-arancio caldo e un'icona di database spuntata. Titolo: "7. Completamento del commit". Sottotitolo: "Pubblica lo stato sospeso o scartalo in caso di errore". Aggiungi una freccia spessa, blu scuro, che si avvolge intorno all'estrema sinistra, partendo dall'alto a sinistra fino al passaggio 1 e risalendo dal passaggio 7 in basso. Fai un giro lungo questo lato sinistro, posizionando il testo del commento impilato vicino alla metà inferiore: "Riutilizza l'intestazione della finestra di dialogo confermata nella richiesta successiva". Aggiungere due frecce tratteggiate rivolte verso l'alto, come al punto 7, in direzione dei pannelli del gruppo cache: una freccia tratteggiata verde a sinistra che punta al pannello cache verde, etichettato "Publish New State"; e una freccia tratteggiata viola a destra che punta al pannello cache viola, anch'esso etichettato "Publish New State". Mantenere il numero totale di 7 schede principali numerate, 2 pannelli del gruppo cache, 4 schede cache interne e 2 etichette per capsule. Mantenere una scala verticale simile al diagramma dell'architettura delle diapositive della conferenza.