Yatırım bankası Morgan Stanley, NVIDIA’nın Blackwell grafik süreç üniteleriyle kurulan data merkezlerinin, Google ve Amazon’un özel üretim çiplerine kıyasla iki kat daha maliyetli olduğunu belirtiyor. Buna karşın banka, NVIDIA çiplerinin sunduğu yüksek süreç gücü verimliliğinin bu maliyet farkını dengelediğini savunuyor.

NVIDIA CEO’su Jensen Huang, çiplerinin yüksek fiyatlı olmasına rağmen uzun vadede daha fazla getiri sağladığını birçok kere lisana getirmişti. Morgan Stanley’nin yeni raporu, bu görüşü destekleyen teknik bilgilerle piyasadaki maliyet tartışmalarına yeni bir boyut kazandırıyor.

NVIDIA’nın Süreç Gücü Verimliliği Özel Çiplerin Önünde

Morgan Stanley, NVIDIA’nın farklı yapay zeka GPU’ları ile Amazon’un Trainium ve Google’ın TPU çiplerinin watt başına düşen süreç performansını (TFLOPS) karşılaştırıyor. Tahlile nazaran, bir gigavatlık data merkezi kurulumunda NVIDIA Blackwell GPU’ları, rakip özel üretim çiplerin maliyetinin iki katına ulaşıyor.

Ancak banka, NVIDIA’nın watt başına performans bedellerinin özel üretim çiplerden 2 ila 8 kat daha yüksek olduğunu vurguluyor. Bu verimlilik farkı, toplam sahip olma maliyeti ve uzun vadeli operasyonel muvaffakiyet açısından NVIDIA’yı dalda farklı bir pozisyona taşıyor.

NVIDIA’nın paylaştığı yol haritasına nazaran Blackwell mimarisini 2026’da Rubin ve 2028’de Feynman mimarileri takip edecek. Bu yeni jenerasyon çipler, bilhassa Vera Rubin (FP4) üzere modellerle watt başına 19.5 TFLOPS üzere yüksek performans bedellerine ulaşıyor.

Alternatif Metrikler ve Maliyet Tartışmaları

Piyasadaki değerlendirmeler yalnızca watt başına performansa odaklanmıyor ve farklı metrikler de öne çıkıyor. Nebius üzere altyapı sağlayıcıları, GPU’ların saatlik maliyeti yerine üretilen milyon token başına düşen maliyeti temel alan bir kıymetlendirme yolu kullanıyor.

Nebius datalarına nazaran, Groq çiplerinin token başına maliyeti 5 ila 10 cent ortasında değişirken, NVIDIA Blackwell çiplerinde bu sayı 25 cent düzeyinde kalıyor. Ayrıyeten Groq çiplerinin saniyede 800 token üretme kapasitesine sahip olduğu, NVIDIA’nın ise saniyede 450 token ile bu alanda daha geride kaldığı belirtiliyor. NVIDIA’nın yüksek performans verimliliği ile başka üreticilerin token maliyeti avantajları ortasındaki bu rekabet, data merkezi yatırımlarının geleceğini şekillendiriyor.

Sizce data merkezlerinde toplam maliyet mi yoksa watt başına performans verimliliği mi daha kritik bir kıymete sahip?

Kaynak: Shiftdelete