Yapay Zeka Altyapısı Bilgilendirme Grafiği Posteri

Amaç: "..." başlıklı, iyi hazırlanmış dikey bir eğitim bilgi grafiği oluşturmak. Alt başlık ise "... Modern Yapay Zeka Sistemleri Nasıl Çalışır?" şeklindedir. Bu belge, veri işlem hatlarından ve GPU eğitim kümelerinden çıkarım hizmetlerine, toplu işlemeye ve anahtar-değer önbelleklerine kadar modern yapay zeka altyapısının derinlemesine bir analizini sunmaktadır. Tuval: Derin mavi, fütüristik veri merkezi tarzında, 4:5 en boy oranına sahip dikey bir poster. Arka planda, dağlar, sunucu rafları, GPU çipleri, neon devreler, ince, yuvarlak paneller, beyaz ve camgöbeği yazı tipleri ve küçük turuncu numaralı logoların illüstrasyonlarıyla tamamlanan parlayan mavi/mor bir ızgara yer almaktadır. Genel görünüm, yoğun ancak okunması kolay, üst düzey bir teknik posteri andırmalıdır. Düzen: Sol üstte ana başlık, altında alt başlıklar ve sloganlar, sağ üstte ise dekoratif sunucu rafları ve GPU çipleri yer almaktadır. İçerik, sağda "Temel Kavramlar" bölümü ve altta akış altbilgisi bulunan, numaralandırılmış sekiz ana bölüme ayrılmıştır. Hassas panel kenarlıkları, simgeler, oklar, grafikler, tablolar ve mikro sekmeler kullanılmıştır. Bölümler ve gerekli içerik: 1. Veri Hattı: Oklarla birbirine bağlanan beş hat aşamasını gösterir: ham veri kaynağı, alım ve temizleme, açıklama/organizasyon, kelime bölümlendirme/parçalama ve bölme ve depolama. Ham veri kaynağı 5 temel öğe içerir: web sayfaları, belgeler, kod, resimler ve günlükler. Alım ve temizleme 3 temel öğe içerir: filtreleme, tekilleştirme ve normalleştirme. Etiketleme/organizasyon 3 temel öğe içerir: kalite kontrolleri, manuel/sezgisel yöntemler ve veri kümesi oluşturma. Tokenizasyon/parçalama 3 temel öğe içerir: tokenlere dönüştürme, belgelere parçalama ve özel tokenler ekleme. Bölme ve depolama 3 temel öğe içerir: parçalara ayırma, dengeli bölümleme ve paralel okumalar için optimizasyon. Verilerin temizlendiğini, yinelenen kayıtların kaldırıldığını, düzenlendiğini, belirteçlere ayrıldığını ve birden fazla çalışan düğüm tarafından verimli bir şekilde okunabilmesi için parçalar halinde depolandığını belirten açıklayıcı metin ekleyin. 2. Depolama ve Orkestrasyon Katmanı: 3 dikey kart içerir: Nesne Depolama (buluttan veritabanına simgesiyle, "S3 / GCS / Azure Blob veya yerel nesne depolama" olarak etiketlenmiş); Meta Veri/Deney Takibi (pano simgesiyle, temel öğeler: "Çalışma ve Metrikler", "Hiperparametreler", "Soy Ağacı ve Yapıtlar"); İzleme ve Günlükler (grafikler/büyüteç simgeleriyle, temel öğeler: "Metrikler ve Uyarılar", "Günlük Toplama", "İzleme ve Hata Ayıklama"). Altbilgi açıklaması ekleyin: Kontrol katmanı, hesaplama görevlerini koordine etmekten, deneyleri izlemekten, kontrol noktalarını depolamaktan ve kullanım, arızalar ve maliyetleri izlemekten sorumludur. 3. Eğitim Kümesi Mimarisi: "Eğitim Kümesi Mimarisi" başlıklı merkezi büyük bir mimari diyagram. Bu diyagram, 2x2'lik bir ızgarada düzenlenmiş ve "Yüksek Hızlı Ağ InfiniBand / RoCE" olarak etiketlenmiş parlak yüksek hızlı ağ bağlantılarıyla birbirine bağlanmış dört GPU/hızlandırıcı düğüm kutusunu göstermektedir. Her düğüm bir CPU ana bilgisayarı (çok çekirdekli), RAM, GPU (örneğin, 8x H100) ve bir NVMe yerel SSD içerir. Düğümler kesikli çizgilerle birbirine bağlanır. Aşağıda üç küçük panel bulunur: Düğüm İç Yapısı, Veri Paralelliği ve Dağıtılmış Eğitim Paralelliği (açıklama). Düğüm İç Yapısı paneli, CPU'nun PCIe/NVLink/NVSwitch hatları aracılığıyla birden fazla GPU'ya bağlı olduğunu göstermelidir. Dağıtılmış Eğitim Paralelliği göstergesi, Aşama 1, Aşama 2, Aşama 3 ve Aşama 4 olarak etiketlenmiş dört aşama göstermelidir. 4. Eğitim Adımları: Soldan sağa doğru altı aşama içeren bir eğitim akışı oluşturun: Giriş Belirteci, İleri Yayılım, Kayıp Hesaplama, Geri Yayılım, Gradyan Hesaplama ve Optimizasyon Güncellemesi. Bir dizi kontrol noktası simgesi, bir "Model Doğruluğu" kutusu (FP32, FP16/BF16, FP8'den bahsederek) ve bir "Optimizasyon Durumu" kutusu içerir. Açıklama ile birlikte gradyan birikim oklarını gösterir: Eğitim sırasında model çıktıyı tahmin eder, kaybı hesaplar, gradyanları geri yayar ve ağırlıkları günceller; bu işlem milyarlarca kez tekrarlanır. 5. Çıkarım Servis Hattı: Üstte 6 aşama içeren kompakt bir servis akış şeması oluşturur: Kullanıcı İstekleri, API Ağ Geçidi, Belirteçleyici, Zamanlayıcı/Yönlendirici, Model Sunucusu (GPU) ve Akış Çıkışı. Panel, dinamik toplu işleme (3 satır istek), bir Model Sunucusu kutusu (ön doldurma ve kod çözme döngülerini gösterir), GPU belleğinde KV Önbelleği, isteğe bağlı adaptörler ve 3 model kopyasını (Model Kopyası 1, Model Kopyası 2 ve Model Kopyası N olarak etiketlenmiş) bağlayan bir yük dengeleyici içerir. 6. İşlemler, Güvenilirlik ve Güvenlik: Simge içeren 6 işlem kartı içerir: Otomatik Ölçeklendirme/Ölçeklendirme, Telemetri/Gözlemlenebilirlik, Oran Sınırlama ve Kotalar, Güvenlik Filtreleri/Koruma Bariyerleri, Sürüm Kontrolü/Geri Alma ve Maliyet İzleme. Not ekleyin: Üretim seviyesindeki yapay zeka sistemleri, güvenilirliği, güvenliği ve maliyet etkinliğini korumak için sağlam operasyonel araçlar gerektirir. 7. Eğitim ve Çıkarım Karşılaştırması: 6 satırlı bir karşılaştırma tablosu ekleyin: Amaç, Ana Darboğazlar, Bellek Endişeleri, Tipik Metrikler, Ölçeklendirme Modu ve Esneklik Gereksinimleri. İki sütunu sırasıyla "Eğitim" ve "Çıkarım (Hizmet)" olarak etiketleyin. Eğitim, verilerden model ağırlıklarının öğrenilmesini, dağıtılmış hesaplamayı ve veri hareket bant genişliğini, aktivasyon değerlerini/eğimlerini/optimizasyon durumlarını, saniyedeki token sayısını veya yakınsama hızını, uzun görevlerden oluşan büyük grupları ve kontrol noktalarını/hata toleransını tanımlamalıdır. Çıkarım, kullanıcı tarafından oluşturulan yararlı yanıtları, gecikmeyi ve verimliliği, model ağırlıklarını artı KV önbelleğini, gecikmeyi ve saniyedeki token sayısını, çok sayıda kısa isteği ve yüksek kullanılabilirliği/kademeli düşüşü tanımlamalıdır. 8. Sağdaki "Temel Kavramlar" Kenar Çubuğu: "Temel Kavramlar" başlıklı, harfler içeren 5 karttan oluşan uzun bir sağ kenar çubuğu oluşturun: A. Grup Boyutu, B. Sıra Uzunluğu/Bağlam Penceresi, C. KV Önbelleği, D. Verimlilik ve Gecikme, E. Parametreler/Ağırlıklar/Aktivasyon Değerleri. A kartı, grup boyutunu tanımlamalı ve küçük ve büyük gruplar arasında bir karşılaştırma göstermelidir (Token/kişi simgeleri). B kartı, ipucu kelime belirtecini ve uzun bağlamı (T1, T2, T3, T4, …, Tn olarak etiketlenmiş belirteç blokları) göstermelidir. C kartı, ipucu kelime belirtecinin mor silindirik bir KV önbelleğine girildiğini ve ardından önbellekten yeni belirteçlerin okunduğunu göstermelidir. D kartı iki gösterge paneli göstermelidir: verimlilik ve gecikme. E kartı, ağırlıkları ve aktivasyon değerlerini göstermelidir (çarpma ile birbirine bağlı mavi ve mor ızgaralar). Kenar çubuğunun altına, ön doldurmanın eksiksiz ipucu kelimelerini işlediğini, kod çözmenin ise KV önbelleğini kullanarak belirteçleri tek tek oluşturduğunu açıklayan bir "Önceden Doldurma vs. Kod Çözme" ipucu ekleyin. Altbilgi: Sol tarafta küçük dairesel bir roket/pusula simgesi ve kapanış ifadesi bulunan, "Veri → Eğitim → Çıkarım → Değer" sırasıyla bir alt gezinme çubuğu ekleyin. {argüman adı="altbilgi alıntısı" varsayılan="Veri, işlem gücü ve üstün mühendislik yetenekleriyle akıllı sistemleri yönlendirin."} Görsel stil: Yoğun kurumsal infografikler, temiz vektör ve yarı 3 boyutlu simgeler, parlayan camgöbeği konturlar, ince gradyanlar, hacimsel aydınlatma, küçük şemalar, mikro grafikler ve modern sans-serif etiketlerle eşleştirilmiş temiz serif başlık yazı tipleri. Renk şeması {argüman adı="renk paleti" varsayılan="Koyu lacivert, elektrik mavisi, camgöbeği, mor, beyaz ve az miktarda kehribar vurguları"} olmalıdır. Kısıtlamalar: 8 numaralı ana modül, 5 temel kavram kartı, 4 GPU düğümü, 6 eğitim aşaması, 6 çıkarım aşaması, 6 bakım kartı ve 6 satır eğitim-çıkarım karşılaştırma tablosu kullanın. Görünürdeki tüm metinler İngilizce olmalı, filigran ve marka logolarından kaçınılmalı ve yoğun düzen içinde yüksek okunabilirlik sağlanmalıdır.