Intel, OCP Global Summit'te uzun süredir Crescent Island kod adıyla bilinen yapay zeka çıkarım kartına resmi adını verdi: Intel GPU D-Series. Xe3P mimarisi üzerine kurulu kart, 480GB'a kadar LPDDR5X bellek, 1,5TB/s bant genişliği ve FP8'de 1,3 petaflop işlem gücü sunuyor. Tüm bunlar 350W güç tüketimiyle, hava soğutmalı tek bir PCIe kartına sığıyor.
Intel'in açıkladığı 480GB rakamı, iş ortaklarının ürettiği kartlar için geçerli. Intel'in kendi markalı kartı ise 160GB bellekle geliyor. Şirket, sunucu OEM'leri, ODM'ler, bulut sağlayıcıları ve yazılım firmalarına örnek ürün gönderiminin başladığını duyurdu. Duyuruyla birlikte paylaşılan görselde ürün, GPU D270 olarak etiketlendi; bu da seri için görülen ilk parça numarası oldu.
Çıkarım İş Yükleri İçin Bellek Odaklı Tasarım
Intel, Crescent Island'ı ilk kez bu yılki OCP etkinliğinde tanıtmış, mimari detayları ise Ağustos ayındaki Hot Chips konferansında paylaşmıştı. Kart, Xe3P mimarisinde 32 Xe çekirdeği ve 256 XMX motoru barındırıyor. HBM yerine LPDDR5X bellek tercih edilmesi, kartın mevcut hava soğutmalı sunucu raflarına doğrudan entegre edilebilmesini sağlıyor.
Intel'e göre tek bir D-Series kartı yaklaşık 300 milyar parametreli modelleri çalıştırabiliyor; sekiz GPU'luk bir sunucu ise 1 trilyon parametreyi aşan modelleri destekleyebiliyor. Şirket, kartı özellikle çoklu kullanıcılı sürekli çıkarım ve uzun bağlam gerektiren ajan tabanlı iş yükleri için konumlandırıyor. Bu tür senaryolarda KV önbellek büyümesi, bellek ihtiyacını işlem gücünden daha hızlı artırıyor.
1,5TB/s bant genişliğiyle kart, HBM tabanlı hızlandırıcıların gerisinde kalıyor. Ancak Intel, sürekli çıkarım iş yüklerinde watt ve dolar başına kapasitenin, tepe bant genişliğinden daha kritik bir ölçüt olduğunu savunuyor.
Intel Veri Merkezi Grubu'nda yapay zeka ürünleri ve pazara giriş stratejisinden sorumlu Başkan Yardımcısı Anil Nanduri, şu değerlendirmeyi yaptı: "Çıkarım, yapay zekanın belirleyici iş yükü haline geliyor ve kurumlar doğru performansı doğru maliyetle sunan altyapıya ihtiyaç duyuyor. Intel GPU D-Series ile yüksek kapasiteli çıkarımı pratik şekilde devreye alınabilir ve ekonomik olarak ölçeklenebilir hale getirmeye odaklanıyoruz."
Yazılım Desteği ve Ekosistem
Intel, ortak Xe mimarisi sayesinde ürün hattı genelinde ikili uyumluluk sunduğunu belirtiyor. Bu da Arc Pro kartları için geliştirilen kodun, çekirdek seviyesinde yeniden yazılmadan D-Series'e taşınabileceği anlamına geliyor. Intel'in yazılım yığını, Xeon sunucuları ve D-Series hızlandırıcıları genelinde açık kaynak çalışma zamanlarını ve sunum çerçevelerini entegre ediyor. Meta'nın yerel ajan görevleri için geliştirdiği 30 milyar parametreli açık ağırlıklı modeli Muse Glimmer, gün birinde destek alacak modeller arasında yer alıyor.
Intel'in kurumsal yapay zeka ajan araç takımı şu anda Xeon üzerinde çalışıyor; donanım kullanıma sunuldukça D-Series'i de hedefleyecek şekilde tasarlandı. Böylece orkestrasyon katmanı, hızlandırıcılar yaygınlaşmadan önce hazır hale getiriliyor. Intel'in keynote sunumunda yapay zeka odaklı firmalar, cihaz üreticileri, yazılım şirketleri ve bulut sağlayıcılarından oluşan 53 iş ortağı logosu yer aldı.
Kaynaklar: [1] StorageReview