Nvidia’nın rafta Exaflop süper bilgisayarı böyle görünüyor

Nvidia kısa bir süre önce Nvidia GTC 2024’te DGX GB200 NVL72 rafta süper bilgisayarını tanıttı ve Serve The Home’dan Patrick Kennedy etkileyici canavarı sergileyen harika fotoğraflar çekti.

DGX GB200 NVL72’nin adı size bilmeniz gerekenlerin çoğunu anlatıyor. GB200, Grace Blackwell GB200 hesaplama yapısını ifade ederken NVL72, NVLink ile bağlı 72 Blackwell GPU’su olduğunu gösteriyor.

Blackwell platformu iki GPU kalıbında 208 milyar transistör içeriyor. Bunlar 10 TB/saniye çipten çipe bağlantıyla tek ve birleşik bir GPU’ya bağlanıyor. Bu yılın sonunda piyasaya sürülecek olan Blackwell’in 20 petaflop’a kadar FP4 gücü sunacağı ve yapay zeka çıkarım görevleri için Hopper’dan 30 kata kadar daha hızlı olacağı bildiriliyor.

120kW güç yükü

Raf ölçekli sistem, üst yığında her biri çift Infiniband bağlantı noktası, dört E1.S sürücü tepsisi ve yönetim bağlantı noktalarına sahip on bilgi işlem düğümünden oluşmaktadır. Her düğüm, iki Blackwell GPU’ya bağlı iki Grace Arm CPU tarafından desteklenmektedir. Bu düğümlerin altında, kolay çıkarılabilmeleri için altın tutacakları olan dokuz NVSwitch rafı bulunmaktadır.

Rafın arkası, bus bar, sıvı soğutma nozulları ve her bileşen için NVLink bağlantıları aracılığıyla kör eş güç için tasarlanmış güç dağıtım sistemini ortaya koyuyor. Bu kurulum, doğru kör eşleşmeyi sağlamak için hafif bir harekete izin verir.

DGX GB200 NVL72 1,36 metrik ton (3.000 lbs) ağırlığında ve 120kW güç tüketiyor ki bu Serve The Home’un işaret ettiği gibi tüm veri merkezlerinin kaldıramayacağı bir güç yükü. Birçoğu yalnızca en fazla 60kW’lık rafları destekleyebildiğinden, gelecekte yarım yığın sistemi bir olasılık gibi görünüyor. Raf, optik yerine 2 mil (3,2 km) bakır kablo kullanarak sistemin güç çekimini 20kW düşürüyor.