Google hızla Nvidia’ya karşı zorlu bir rakip haline geliyor

24 Aralık 2023 13:47

Beyza Doğan

Google’ın en yeni yapay zeka çipi, LLM’leri eğitmede önceki modele göre 2,8 kata kadar daha hızlı ve Yapay Zeka Hiper Hesaplama mimarisine uygun
Google, Nvidia’nın pazar lideri GPU’larına karşı bir girişim gibi görünen Gemini AI modellerinin son lansmanına, AI eğitimi ve çıkarımı için amiral gemisi tensör işleme biriminin (TPU) en son sürümüyle eşlik etti.

Google’ın en güçlü özel tasarım yapay zeka hızlandırıcısı olan TPU v5p, firmanın ‘Yapay Zeka Hiper Bilgisayarı’na güç sağlamak üzere konuşlandırıldı. Bu, normalde bilimsel iş yüklerini çalıştıran süper bilgisayarlar yerine yapay zeka uygulamalarını çalıştırmak için özel olarak oluşturulmuş bir süper bilgisayar mimarisidir, çünkü TPU’lar buna uygun değildir.

TPU’nun en son sürümü, v4’teki 4.096’ya kıyasla pod başına (sistemi oluşturan) 8.960 çipe sahiptir ve pod başına FLOP’ların toplam kullanılabilirliği açısından dört kat daha ölçeklenebilirdir. Bu yeni podlar 4.800 Gbps’lik bir iş hacmi sağlıyor. Yeni podlar ayrıca TPU v4’teki 32GB HBM RAM’e karşılık 95GB yüksek bant genişliğine sahip belleğe (HBM) sahiptir.

Nvidia H100 vs Google TPU v5p: Hangisi daha hızlı?
GPU’larını diğer şirketlerin satın alması için sunan Nvidia’nın aksine, Google’ın özel yapım TPU’ları kendi ürün ve hizmetlerinde kullanılmak üzere şirket içinde kalıyor. Google’ın TPU’ları uzun süredir Gmail, YouTube ve Android gibi hizmetlerini güçlendirmek için kullanılıyor ve en son sürüm Gemini’yi eğitmek için de kullanıldı.
Google’ın v5p TPU’ları, büyük dil modellerini eğitmede TPU v4’e kıyasla 2,8 kata kadar daha hızlıdır ve 2,1 kat fiyat/performans değeri sunar. Bu yılın başlarında piyasaya sürülen ara sürüm TPU v5e, her üçü arasında parasının karşılığını en iyi şekilde verse de TPU v4’ten yalnızca 1,9 kat daha hızlıdır ve TPU v5p’yi en güçlüsü yapar.

Hatta yapay zeka iş yükleri için piyasadaki en iyi grafik kartlarından biri olan Nvidia’nın çok talep gören H100 GPU’suna rakip olacak kadar güçlü. Şirketin kendi verilerine göre bu bileşen, eğitim iş yüklerinde Nvidia’nın A100 GPU’sundan dört kat daha hızlı.

Daha fazla haber için;