Hibrit Önbellek Yürütme Akış Şeması

Açık gri bir arka plan kullanarak, minimalist modern bir ürün şeması stiliyle temiz, dikey bir teknik iş akışı bilgi grafiği oluşturun. Yuvarlak beyaz kartlar, ince renkli çerçeveler, basit vektör çizgi simgeleri, koyu mavi metin ve koyu mavi bağlantı okları kullanın. Genel kompozisyon, 7 numaralı ana adımı ve 4. adımdan 5. adıma dallanan 2 paralel önbellek grubu panelini içeren, ortalanmış, yukarıdan aşağıya bir akış şemasıdır. En solda, alttan üste doğru koyu, kalın bir geri dönüş oku bulunur. Sunum slaytları için netlik sağlamak amacıyla temiz bir sans-serif yazı tipi kullanın, yeterli boşluk bırakın ve gradyan veya gölge içermeyen yumuşak, açık renkler kullanın. 1. adım kartını, mavi bir çerçeve ve solunda bir kod/sohbet simgesiyle üst orta kısma yerleştirin. Başlık metni: "1."{argument name="step 1 title" default="Chat completion request"} Alt başlık: "conversation_id + cache_salt + new suffix message". Bunun altında, mavi bir çerçeve ve belge/liste simgesiyle 2. adım kartı bulunur. Başlık: "2. Ön Uç Konuşma Defteri". Alt başlık: "Aynı Kimliği Kiralama + Onaylanmış Mesajları İzleme". Bunun altında, camgöbeği çerçeveli ve büyüteçli bir veritabanı simgesi bulunan 3. Adım kartı yer almaktadır. Başlık: "3. Hassas Konuşma Önbelleği Araması". Alt başlık: "conversation_id Onaylanmış Tur Durumu". Bunun altında, mor çerçeveli ve dallanma zamanlayıcı simgesi bulunan 4. Adım kartı yer almaktadır. Başlık: "4. Zamanlayıcı Önbelleği Ekleme". Alt başlık: "num_computed_tokens Ayarı + Onaylanmış Durumu Ekleme". 4. Adımdan, yan yana iki grup paneline ayrılır. Sol grup paneli: "Tam Dikkat KV Önbellek Grubu" başlıklı açık yeşil yuvarlak bir kap. İçinde, üst üste iki iç kart bulunmaktadır. İlk iç kartta, "Onaylanmış Blok Referansı" başlıklı ve "Paylaşılan Hizalanmış Tam KV" alt başlıklı yeşil bir blok ızgara simgesi bulunur. İlk dahili kart (alttaki ikinci kart), "Tail COW Copy" başlıklı ve "Copying Unaligned KV Tail" alt yazılı yeşil katmanlı kağıt simgesine sahiptir. Yeşil panelin altına küçük bir alt bilgi eklenmiştir: "Transformer Layers için K/V Tensörlerinin Sayfalandırılması". Sağdaki grup paneli, "Mamba Terminal State Cache Group" başlıklı açık mor yuvarlak bir konteynerdir. İki üst üste yerleştirilmiş dahili kart içerir. İlk kart, "Committed Terminal State" başlıklı ve "Exact State at Committed Length" alt yazılı mor bir veritabanı/ağ simgesine sahiptir. Alttaki ikinci kart, "Requesting Ownership of Terminal Copy" başlıklı ve "Copying SSM + Dialogue State" alt yazılı mor dalgalı çizgi simgesine sahiptir. Mor panelin altına küçük bir alt bilgi eklenmiştir: "Aligned Mode Terminal State Placement". İki grup panelinin çıktıları, mavi çerçeveli ve mikroçip simgeli ortalanmış 5. Adım kartında birleştirilmiştir. Başlık: "5. Hybrid Model Execution". Alt başlık: "Yalnızca Önbelleğe Alınmamış Sonekleri Çalıştır." Bu kartın altında, yan yana iki kapsül şeklinde etiket yer alıyor: "Dönüştürücü Katmanı" ve "Mamba Katmanı". 6. Adım aşağıda yer alıyor. 1. Adım: Mavi çerçeveli ve parıldayan bir simgeye sahip bir kart. Başlık: "6. Kod Çözme Yardımcısı Tokeni". Alt başlık: "Tokene Göre Akış Yanıt Tokeni". Bunun altında 7. Adım: Sıcak sarı-turuncu çerçeveli ve onaylanmış bir veritabanı simgesine sahip bir kart. Başlık: "7. Taahhüt Tamamlama Turu". Alt başlık: "Askıya Alınmış Durumu Yayınla veya Başarısızlık Durumunda At". Sol tarafa, üst soldan 1. Adıma ve alttaki 7. Adımdan tekrar yukarı doğru uzanan kalın, koyu mavi bir döngü oku ekleyin. Bu sol taraf boyunca döngü yapın ve alt yarıya yakın bir yere yığılmış yorum metni yerleştirin: "Taahhüt edilen diyalog başlığını bir sonraki istekte yeniden kullanın". 7. adımdan önbellek grubu panellerine doğru yukarı doğru iki kesik çizgili yayın oku ekleyin: solda "Yeni Durum Yayınla" etiketli yeşil önbellek paneline işaret eden yeşil kesik çizgili bir ok; sağda ise yine "Yeni Durum Yayınla" etiketli mor önbellek paneline işaret eden mor kesik çizgili bir ok. Toplamda 7 numaralı ana kart, 2 önbellek grubu paneli, 4 dahili önbellek kartı ve 2 kapsül etiketi sayısını koruyun. Konferans slaytlarındaki mimari diyagramına benzer bir dikey ölçek kullanın.