Google, 7. Nesil Ironwood AI Hızlandırıcısını Tanıttı: En İyi Süper Bilgisayardan 24 Kat Daha Hızlı

Google, özel olarak çıkarım (inference) iş yükleri için tasarlanmış ilk şirket içi çipi olan 7. nesil Ironwood AI hızlandırıcısını tanıttı.

Google Cloud Next 25’te duyurulan Ironwood, bugüne kadarki en güçlü ve verimli hızlandırıcı olarak öne çıkıyor. Nesiller arası yeteneklerde birçok iyileştirme ile gelen bu çip, Google’ın AI’nın bir sonraki “aşaması” olarak gördüğü çıkarım iş yükleri için ideal bir aday haline geliyor. Hızlandırıcı, Google Cloud müşterilerine iki farklı konfigürasyonla sunulacak: 256 çipli bir yapı ve 9.216 çipli bir yapı. Bu seçenekler, iş yüküne ve çıkarım gücüne bağlı olarak tercih edilecek.

[Foruma üye olmadığınız sürece forum içeriğindeki bağlantıları görüntüleyemezsiniz. Foruma üye olmak için TIKLAYIN!]

Ironwood’u modern AI pazarları için devrim niteliğinde kılan kısım ise şu: 9.216 çipli konfigürasyonda, dünyanın en büyük süper bilgisayarı El Capitan’ın 24 katı işlem gücüne ulaşıldığı iddia ediliyor; bu da 42.5 Exaflops anlamına geliyor. Bunun dışında, Ironwood’un önceki nesil Trillium TPU’ya göre watt başına performansta 2 kat daha yüksek olduğu belirtiliyor; bu da her nesilde performans ölçeklendirmesinin muazzam olduğunu gösteriyor. Ironwood hakkında bazı ilginç detaylar ise şunlar:

Yüksek Bant Genişlikli Bellek (HBM) kapasitesinde büyük artış: Ironwood, çip başına 192 GB sunuyor; bu da Trillium’un 6 katı. Bu kapasite daha büyük modellerin ve veri setlerinin işlenmesini sağlayarak sık veri transferi ihtiyacını azaltıyor ve performansı arttırıyor.

HBM bant genişliğinde çarpıcı bir iyileşme söz konusu, çip başına 7.2 TBps’ye ulaşıyor, bu da Trillium’un 4.5 katı. Bu yüksek bant genişliği, modern AI’da yaygın olan bellek yoğun iş yükleri için hızlı veri erişimi sağlıyor.

Geliştirilmiş Çip Arası Bağlantı (ICI) bant genişliği: Bu da 1.2 Tbps çift yönlü hıza yükseltilmiş, Trillium’un 1.5 katı. Çipler arası daha hızlı iletişim sağlayarak eğitimi ve çıkarımı kolaylaştırıyor.

Ironwood ve Google’ın başarıları, şirket içi özel AI çözümlerinin ne kadar ilerlediğini gösteriyor ve bu durumun, Jensen’in de bildiği gibi, NVIDIA’nın pazarlardaki tekelini zorladığı söylenebilir. Bu tür performans rakamları, her zaman büyüme için alan olduğunu açıkça ortaya koyuyor. Microsoft’un Maia 100 ve Amazon’un Graviton çipleri gibi çözümlerin ortaya çıkmasıyla, firmaların şirket içi çözümlerin sunduğu fırsatları fark ettiği de aşikar.

[Foruma üye olmadığınız sürece forum içeriğindeki bağlantıları görüntüleyemezsiniz. Foruma üye olmak için TIKLAYIN!]

Google, özel olarak çıkarım (inference) iş yükleri için tasarlanmış ilk şirket içi çipi olan 7. nesil Ironwood AI hızlandırıcısını tanıttı.

Google Cloud Next 25’te duyurulan Ironwood, bugüne kadarki en güçlü ve verimli hızlandırıcı olarak öne çıkıyor. Nesiller arası yeteneklerde birçok iyileştirme ile gelen bu çip, Google’ın AI’nın bir sonraki “aşaması” olarak gördüğü çıkarım iş yükleri için ideal bir aday haline geliyor. Hızlandırıcı, Google Cloud müşterilerine iki farklı konfigürasyonla sunulacak: 256 çipli bir yapı ve 9.216 çipli bir yapı. Bu seçenekler, iş yüküne ve çıkarım gücüne bağlı olarak tercih edilecek.

[Foruma üye olmadığınız sürece forum içeriğindeki bağlantıları görüntüleyemezsiniz. Foruma üye olmak için TIKLAYIN!]

Ironwood’u modern AI pazarları için devrim niteliğinde kılan kısım ise şu: 9.216 çipli konfigürasyonda, dünyanın en büyük süper bilgisayarı El Capitan’ın 24 katı işlem gücüne ulaşıldığı iddia ediliyor; bu da 42.5 Exaflops anlamına geliyor. Bunun dışında, Ironwood’un önceki nesil Trillium TPU’ya göre watt başına performansta 2 kat daha yüksek olduğu belirtiliyor; bu da her nesilde performans ölçeklendirmesinin muazzam olduğunu gösteriyor. Ironwood hakkında bazı ilginç detaylar ise şunlar:

Yüksek Bant Genişlikli Bellek (HBM) kapasitesinde büyük artış: Ironwood, çip başına 192 GB sunuyor; bu da Trillium’un 6 katı. Bu kapasite daha büyük modellerin ve veri setlerinin işlenmesini sağlayarak sık veri transferi ihtiyacını azaltıyor ve performansı arttırıyor.

HBM bant genişliğinde çarpıcı bir iyileşme söz konusu, çip başına 7.2 TBps’ye ulaşıyor, bu da Trillium’un 4.5 katı. Bu yüksek bant genişliği, modern AI’da yaygın olan bellek yoğun iş yükleri için hızlı veri erişimi sağlıyor.

Geliştirilmiş Çip Arası Bağlantı (ICI) bant genişliği: Bu da 1.2 Tbps çift yönlü hıza yükseltilmiş, Trillium’un 1.5 katı. Çipler arası daha hızlı iletişim sağlayarak eğitimi ve çıkarımı kolaylaştırıyor.

Ironwood ve Google’ın başarıları, şirket içi özel AI çözümlerinin ne kadar ilerlediğini gösteriyor ve bu durumun, Jensen’in de bildiği gibi, NVIDIA’nın pazarlardaki tekelini zorladığı söylenebilir. Bu tür performans rakamları, her zaman büyüme için alan olduğunu açıkça ortaya koyuyor. Microsoft’un Maia 100 ve Amazon’un Graviton çipleri gibi çözümlerin ortaya çıkmasıyla, firmaların şirket içi çözümlerin sunduğu fırsatları fark ettiği de aşikar.

[Foruma üye olmadığınız sürece forum içeriğindeki bağlantıları görüntüleyemezsiniz. Foruma üye olmak için TIKLAYIN!]