Alibaba Cloud, Kimi K3.1 Pro Yapay Zeka Modelini İlk Günden Destekliyor: Çin’in Bulut Gücü Artıyor

Çin Radarı olarak edindiğimiz bilgilere göre, Alibaba Cloud, yapay zeka alanındaki liderliğini pekiştiren önemli bir adım attı. Şirket, Moonshot AI’ın büyük dil modeli Kimi K3.1 Pro’ya, Lingjun Zhenwu M890 SuperPoD platformu üzerinden ilk günden itibaren tam destek sağladığını duyurdu. Pandaily tarafından aktarılan verilere göre, bu adaptasyon, vLLM ve SGLang çıkarım çerçevelerinde tam yığın doğrulamasını da içeriyor.

Kimi K3.1 Pro, 2.8 trilyon parametreye sahip, seyrek uzman karışımı (mixture-of-experts) mimarisiyle dikkat çeken bir yapay zeka modeli. Yaklaşık bir milyon token’lık bağlam penceresi, hibrit Kimi Delta Attention ve DSA seyrek dikkat mekanizmaları ile çoklu token tahmini gibi özellikler, modelin yüksek bellek kapasitesi ve yüksek hızlı ölçeklenebilir bağlantı gereksinimlerini beraberinde getiriyor. Alibaba Cloud, T-Head ve Kimi ekibi, bu zorlu gereksinimleri karşılamak üzere FlashMLA, DeepGEMM MoE operatörleri, MegaMoE ve MoonEP gibi bileşenleri içeren T-Head SAIL yazılım yığını üzerinde ortaklaşa çalıştı. Bu sayede müşteriler, çıkarım işlemlerini SuperPoD örnekleri üzerinde veya REIN akıllı motor hizmeti aracılığıyla gerçekleştirebiliyor.

Alibaba Cloud, bu gelişmeyle birlikte Zhongwei, Ningxia’da yeni bir SuperPoD bölgesi için davetli testlere başladığını da açıkladı. Bu yeni bölge, büyük açık ağırlıklı modellerin şirketin kendi geliştirdiği hızlandırıcılar üzerinde barındırılabileceği alanları genişletiyor. Zhongwei SuperPoD, önceki üst düzey yapılandırmalara ek olarak T-Head’in Panmai 920 akıllı ağ kartını da barındırıyor. PCIe 5.0 ve 112G PAM4 Ethernet kullanan Panmai 920, 400 Gbps’ye varan aktarım hızı ve saniyede 400 milyon paket işleme kapasitesi sunuyor. Çok yollu RDMA ve programlanabilir tıkanıklık kontrolünü destekleyen bu kart, entegre bir PCIe Anahtarı sayesinde GPU’lar ve SSD’lerin harici anahtar bağımlılığını azaltarak sistem maliyetini yaklaşık %30 oranında düşürebiliyor.

Büyük modeller için ilk günden itibaren sunulan SuperPoD örnekleri, Ulanqab ve Zhongwei veri merkezlerinde kullanıma sunulmuş durumda. Alibaba Cloud, Lingjun Zhenwu M890 SuperPoD örneklerinin halihazırda büyük modeller, otonom sürüş ve somut yapay zeka alanlarında 100’den fazla büyük müşteriye hizmet verdiğini belirtiyor. Şirket ayrıca, yeni nesil Zhenwu V900 SuperPoD örneklerinin mevcut nesle göre yaklaşık üç kat daha fazla performans sunmasının beklendiğini ve seri üretiminin 2027’nin ilk çeyreğinde başlayacağını duyurdu. Bu gelişme, aynı hafta Huawei Ascend’in de Kimi K3.1 Pro’ya ilk günden itibaren destek verdiğini açıklamasıyla, Çin’in yerel yapay zeka altyapısındaki güçlü rekabeti ve hızlı ilerlemeyi gözler önüne seriyor.