Flytskjema for hybrid hurtigbufferkjøring

Lag en ren, vertikal infografikk for teknisk arbeidsflyt med lysegrå bakgrunn, i en minimalistisk og moderne produktdiagramstil. Bruk avrundede hvite kort, tynne fargede konturer, enkle vektorlinjeikoner, mørkeblå tekst og mørkeblå forbindelsespiler. Den overordnede komposisjonen er et sentrert flytskjema fra topp til bunn som inneholder 7 nummererte hovedtrinn og 2 parallelle hurtigbuffergruppepaneler som forgrener seg fra trinn 4 til trinn 5. En mørk, tykk returpil går i løkke fra bunnen til toppen helt til venstre. Bruk en ren sans-serif-skrift, hold god avstand og bruk myke, lyse farger uten gradienter eller skygger for å sikre klarhet i presentasjonsbildene. Plasser trinn 1-kortet øverst i midten med en blå kontur og et kode-/chat-ikon til venstre. Titteltekst: "1."{argument name="trinn 1 tittel" default="Forespørsel om fullføring av chat"} Undertittelen er: "samtale-id + cache_salt + ny suffiksmelding". Under dette er trinn 2-kortet, med en blå kontur og et dokument-/listeikon. Tittel: "2. Front-end samtaleoversikt". Undertittel: «Leie samme ID + sporing av forpliktede meldinger». Under dette er trinn 3-kortet, med en cyan omriss og et databaseikon med et forstørrelsesglass. Tittel: «3. Presis oppslag av samtalebuffer». Undertittel: «status for forpliktet runde for samtale». Under dette er trinn 4-kortet, med en lilla omriss og et forgreningsplanleggerikon. Tittel: «4. Vedlegg for planleggerbuffer». Undertittel: «Angi antall_beregnede_tokens + Vedlegge forpliktet status». Fra trinn 4 forgrener det seg ned i to side om side-gruppepaneler. Venstre gruppepanel: en lysegrønn avrundet beholder, med tittelen «KV-buffergruppe med full oppmerksomhet». Inni er to indre kort stablet. Det første indre kortet har et grønt blokkrutenettikon, med tittelen «Referanse for forpliktet blokk» og undertittelen «Delt justert full KV». Det første interne kortet, det andre nedenfor, har et grønt lagdelt papirikon, med tittelen «Kopi av hale av ku», med undertittelen «Kopierer ujustert KV-hale». En liten bunntekst er lagt til nederst på det grønne panelet: «Paging K/V Tensors for Transformer Layers». Gruppepanelet til høyre er en lys lilla avrundet beholder med tittelen «Mamba Terminal State Cache Group». Den inneholder to stablede interne kort. Det første kortet har et lilla database-/nettverksikon med tittelen «Committed Terminal State», med undertittelen «Exact State at Committed Length». Det andre kortet nedenfor har et lilla bølgete linjeikon med tittelen «Requesting Ownership of Terminal Copy», med undertittelen «Copying SSM + Dialogue State». En liten bunntekst er lagt til nederst på det lilla panelet: «Aligned Mode Terminal State Placement». Utgangene fra de to gruppepanelene er slått sammen til det midtstilte trinn 5-kortet, med en blå omriss og et mikrochip-ikon. Tittelen er: «5. Hybrid Model Execution». Undertittelen er: «Run Only Uncached Suffixes». Nederst på dette kortet er to kapselformede etiketter plassert side om side: «Transformer Layer» og «Mamba Layer». Trinn 6 er plassert nedenfor. Trinn 1: Et kort med en blå omriss og et glitrende ikon. Tittel: «6. Dekoding av assistenttoken». Undertittel: «Streaming Response Token by Token». Under dette er trinn 7: Et kort med en varm gul-oransje omriss og et avkrysset databaseikon. Tittel: «7. Runde med fullføring av iverksettelse». Undertittel: «Publiser suspendert tilstand eller forkast ved feil». Legg til en tykk, mørkeblå løkkepil helt til venstre, som fører fra øvre venstre til trinn 1 og tilbake opp fra trinn 7 nederst. Løkk langs denne venstre siden, og plasser stablet kommentartekst nær den nedre halvdelen: «Bruk den iverksatte dialogboksoverskriften på nytt på neste forespørsel». Legg til to oppoverstiplede publiseringspiler fra trinn 7 mot hurtigbuffergruppepanelene: en grønn stiplet pil til venstre som peker mot det grønne hurtigbufferpanelet, merket «Publiser ny tilstand»; og en lilla stiplet pil til høyre som peker mot det lilla hurtigbufferpanelet, også merket «Publiser ny tilstand». Behold det totale antallet på 7 nummererte hovedkort, 2 hurtigbuffergruppepaneler, 4 interne hurtigbufferkort og 2 kapseletiketter. Oppretthold en vertikal skala som ligner på arkitekturdiagrammet for konferanselysbildene.