NVIDIA, Hopper teknolojisini bilgi merkezi araçları için üretti. Şirket, yüksek performanslı bilgi süreç sistemlerini birinci sınıf Hopper H100 ekran kartı ile donatıyor. Hatta NVIDIA CEO’su tanıtım sırasında sadece 20 adet H100 GPU ile tüm dünyanın internet trafiğinin denetim edebileceğini tez etmişti.
NVIDIA, bilgi süreç mimarisi konusunda savını ortaya koyuyor
16 bin 896 yahut 14 bin 592 CUDA çekirdeğine sahip olan bu mimari yüksek performanslı bilgi süreç sistemleri için tasarlanmış durumda. Her iki verisyon da 5120 bit arabirimle gelirken, HBM3 belleği kullanan SXM5 sürümü 3.0 Gbps ve PCIe sürümü ise HBM2E belleği ile 2.0 Gbps sürat sunuyor.
Her iki sürüm de şimdiye kadar 80 GB’lık kapasite ile sunuluyordu. Lakin yakın vakitte bu durum değişebilir. Gelen bilgilere nazaran NVIDIA, 120 GB’lık yeni bir Hopper H100 ekran kartı ve PCIe sürümü üzerinde çalışıyor.
Çinli “s-ss.cc” isimli internet sitesinden paylaşılan görsele nazaran, H100 PCIe kartının 120 GB’lık versiyonu yakında kendisini gösterebilir. NVIDIA, yeni versiyon ile 120 GB’lık belleğin yanı sıra daha üst seviye başka özellikler ile birlikte GH100 yongasının doruğunu temsil etmeyi planlıyor.
Görüntüleri internete sızdıran internet sitesinde yeni versiyonun olağan H100 PCIe SKU‘ya nazaran bellek kapasitesi ve performansta kıymetli bir yükselme içerebilir. Bu sayede daha karmaşık vazifeler ve daha performanslı süreçler için NVIDIA imzalı yeni ekran kartı tercih edilebilir.
HPC iş yüklerinin boyutu ve karmaşıklığı arttıkça, daha düzgün performans için daha yük bellek gereksinimi doğuyor. Büyük Bilgisayar Lisan Modellerindeki (LLM’ler) son gelişmelerle birlikte, yapay zeka iş yükleri eğitim, için birçok NVIDIA H100 üzere GPU’larda trilyonlarca parametre kullanılıyor. Bu çeşit durumlarda yüksek bellek epeyce fazla kıymet arz ediyor.
Peki siz NVIDIA‘nın yüksek performanslı bilgi süreç sistemleri için ürettiği ekran kartları hakkında ne düşünüyorsunuz? Görüşlerinizi yorumlar kısmında bizimle paylaşabilirsiniz.
