Samsung, San Jose'de düzenlenen OCP Global Summit'te AMD ile birlikte doğruladığı bir CXL bellek havuzlama teknolojisini sergiliyor. CMM-D CXL bellek modülleri üzerine kurulu sistem, agentic yapay zeka çıkarım iş yüklerini hedefliyor ve statik bellek ayırmaya kıyasla ciddi performans kazanımları vadediyor.
İki şirket, CPU çekirdek sayıları artarken bellek kapasitesinin aynı hızda büyümediği gerçeğinden yola çıktı. Agentic iş yükleri CPU kullanımını hızla tırmandırırken, bellek darboğazı sistem performansını baskılıyor. Samsung ve AMD'nin ortak çalışması, CXL belleğini bu açığı kapatacak bir ölçeklendirme aracı olarak doğrulamayı amaçladı.
Samsung'un sunduğu rakamlara göre havuzlama demosu, statik bellek ayırmaya kıyasla ilk token'a kadar geçen sürede yüzde 38'e varan iyileşme ve verimde 3,3 kata kadar artış sağlıyor. Bu rakamlar üretici tarafından paylaşıldı; bağımsız bir doğrulama yapılmadı.
Çok Düğümlü Paylaşım Mimarisi
Demo, bir GPU sunucusu üzerinde çalışan yapay zeka ajanı iş yükünü, CXL'in Dynamic Capacity Device (DCD) mantığı üzerine kurulu bir bellek havuzuna karşı test ediyor. Bu mekanizma, havuzun çalışma zamanında bir host'a bellek verip geri alabilmesini sağlıyor. Birden fazla büyük dil modeli örneği aynı havuzdan esnek şekilde yararlanıyor; bağlam veya parametre artışı yaşayan bir örnek ihtiyaç duyduğu kapasiteyi ödünç alıp iş bitince geri bırakıyor. Bu yaklaşım, her düğümün zirve yüküne göre boyutlandırılıp fazla kapasitenin atıl kalmasının önüne geçmeyi hedefliyor.
AMD iş birliği, aynı yaklaşımı AMD'nin işlem platformunda doğruladı. Buradaki temel sorun, agentic iş yükleri büyüdükçe CPU'ların bellek kapasitesi ve bant genişliği yetersizliğinden dolayı durma noktasına gelmesi. Samsung, CMM-D'nin CPU ile birlikte ölçeklenerek eşzamanlı agentic AI kullanıcı sayısını en üst düzeye çıkardığını belirtiyor.
İki şirket henüz ortak kurulumun sunucu yapılandırması, CXL anahtar topolojisi ya da ara bağlantı gecikme ve bant genişliği verilerini paylaşmadı. Çok sunuculu paylaşım mimarisinin detayları ise XCENA ile 15 Ekim'de yapılacak, dinamik havuzlama, paylaşım ve bellek yakınında işleme konularını kapsayan bir oturumda ele alınacak.
Samsung'un bu alandaki üretim verisi de dikkat çekici. Samsung Semiconductor'ın ABD kampüsünde CMM-D ile çalışan AI Memory Node, şirket içi bir yapay zeka kodlama ajanı ve diğer uygulamalara hizmet veriyor. Samsung, bu sisteme eklenen L3.5 kompozit bellek katmanının KV cache kullanım verimliliğini 5 ile 7 kat artırdığını açıkladı. Bu çalışma Samsung'un Memory Solutions Lab, AI platform entegrasyon ekibi ve SGLang iş birliğiyle geliştirildi.
Yapay Zeka Altyapısında Ölçeklenme
Samsung bellek iş biriminde uygulama mühendisliği ekibi başkan yardımcısı Hojun Shim, 12 Ekim'de "Scaling Innovation for the AI Era" başlıklı bir oturum verdi. Samsung'un standındaki genel mesaj net: ham bellek hızı tek başına, modeller büyüdükçe işlemciyi meşgul tutmaya yetmiyor. Çözüm olarak önerilen hiyerarşi, aktif işlem için yüksek bant genişlikli bellek ile CXL tabanlı esnek kapasite katmanlarını bir araya getiriyor.
Kaynaklar: [1] StorageReview