Ekran kartı üreticisi Nvidia’nın yapay zeka odaklı Blackwell GPU’ları, önümüzdeki 12 ay boyunca tükenmiş durumda. Bu durum, firmanın güncel sipariş veren müşterilerinin GPU’larını almak için gelecek yılın sonunu beklemek zorunda kalacağı anlamına geliyor. Blackwell GPU’lar, özellikle yapay zeka işlemleri için tasarlanmış devasa sunucu sistemlerinde kullanılmak üzere geliştirildi. ChatGPT gibi uygulamalar da dahil olmak üzere birçok sistemi destekleyecek olan bu donanımlar, yapay zeka alanında çıtayı oldukça yükseğe çıkarıyor.
Nvidia, H100 çipiyle büyük bir başarı yakalayarak pazarda güçlü bir konum elde etti ve şimdi Blackwell B200 GPU ve GB200 gibi yeni donanımlarıyla geleceğe adım atıyor. Teknik detaylar, genel kullanıcılar için anlaşılması zor seviyelerde bulunuyor; ancak GB200 Grace Blackwell “süperçip”inin LLM (Büyük Dil Modeli) iş yüklerinde tam 30 katına kadar performans artışı sağladığı ifade ediliyor. Bu yeni yapı, aynı zamanda 10 trilyon parametreye kadar yapay zeka model işleme kapasitesine sahiptir. İki farklı GPU ve bir CPU’yu içeren GB200 Grace Blackwell’in, 175 milyar parametreli GPT-3 LLM testinde H100’den yedi kat daha fazla performans ve dört kat daha fazla eğitim hızı sunduğu belirtiliyor.
Üretken yapay zeka sistemlerine güç veren büyük sunuculardaki GPU kümeleri genellikle Nvidia’nın donanımlarını içeriyor. Ancak Nvidia’nın üretim kapasitesi sınırlı olduğu için, firmanın birçok büyük müşterisine yeterli miktarda GPU tedarik etmesi zorlu bir görev haline geliyor. Teknoloji devleri, Nvidia’dan daha fazla GPU alabilmek için uzun zamandır rekabet halinde. Elon Musk ve Oracle’ın kurucusu Larry Ellison gibi isimlerin, Nvidia CEO’su Jensen Huang ile bir araya gelerek daha fazla GPU talep ettikleri biliniyor. Ellison, Huang’a “Lütfen paramızı alın; hayır, daha fazlasını alın. Yeterincealmıyorsunuz; paramızdan daha fazlasını talep ediyoruz” dediğini dile getiriyor.
