IBM’in H100’ü Nvidia’yı geride bırakabilir

27 Ağustos 2023 16:24

Beyza Doğan

IBM’in, mevcut endüstri lideri bileşenlerden 14 kata kadar daha fazla enerji verimli olduğu söylenen analog bir yapay zeka çipi ile yapay zeka geliştirmenin geleceğinin planını açıkladı.

Üretken yapay zeka ile ilgili en büyük sorunlardan biri, teknolojinin şu anda ne kadar güce aç olduğu ve günün birinde ne hale gelebileceğidir.

Modellerin eğitilmesi ve altyapının çalıştırılmasıyla ilgili maliyetler, alan geliştikçe hızla artacaktır. Örneğin, Insider’a göre ChatGPT’nin çalıştırılması günde 700.000 dolardan fazlaya mal oluyor.

IBM ilerlemesi

IBM’in Nature dergisinde tanıttığı prototip çip, enerji tüketimini azaltarak Midjourney veya GPT-4 gibi üretken yapay zeka platformları kuran ve işleten işletmeler üzerindeki baskıyı hafifletmeyi amaçlıyor.

Bunun nedeni analog çipin yapılış şeklidir; bu bileşenler analog sinyalleri manipüle edebilmeleri ve 0 ile 1 arasındaki geçişleri anlayabilmeleri açısından dijital çiplerden farklıdır. Dijital çipler günümüz çağında en yaygın olanlardır, ancak yalnızca farklı ikili sinyallerle çalışırlar. İşlevsellik, sinyal işleme ve uygulama alanlarında da farklılıklar vardır.

Nvidia’nın H100 Tensor Core GPU ve A100 Tensor Core GPU dahil olmak üzere çipleri, günümüzün üretken yapay zeka platformlarının çoğuna güç veren bileşenlerdir. Ancak IBM’in prototipi geliştirmesi ve kitlesel pazara sunması halinde, bir gün Nvidia’yı mevcut dayanak noktası olmaktan çıkarabilir.

IBM, bileşen başına 35 milyon faz değişimli bellek cihazını kodlayabilen 14nm analog yapay zeka çipinin 17 milyon parametreye kadar modelleyebileceğini iddia ediyor. Firma ayrıca çipinin insan beyninin çalışma şeklini taklit ettiğini ve mikroçipin hesaplamaları doğrudan bellek içinde gerçekleştirdiğini söyledi.

Böyle bir çip kullanmanın yararlarını, bir sistemin dijital donanım kurulumlarına çok yakın bir doğrulukla konuşan insanların sesini yazıya dökebildiği bir deney de dahil olmak üzere çeşitli deneylerde gösterdi.

IBM prototipi watt başına yaklaşık 14 kat daha verimliydi, ancak simülasyonlar daha önce bu tür donanımların günümüzün önde gelen GPU’larından 40 ila 140 kat daha enerji verimli olabileceğini göstermişti.

Daha fazla haber için;