Çinli yapay zeka yazılım şirketi HongYun, HyperLM V2.5 platformuyla Huawei'nin Ascend çiplerine derin entegrasyon sağlayarak büyük dil modellerinin performansını ve kurumsal kullanımdaki verimliliğini önemli ölçüde artırdı.
Çin’in yapay zeka (AI) ekosisteminde önemli bir gelişme yaşandı. Pekin merkezli AI yazılım şirketi HongYun, büyük dil modelleri (LLM) için tasarladığı birleşik eğitim ve çıkarım platformu HyperLM’in 2.5 sürümünü tanıttı. Pandaily tarafından aktarılan bilgilere göre, bu yeni sürüm Huawei’nin amiral gemisi Ascend 950DT çipi ve Atlas 850E SuperPoD sistemiyle tam entegrasyon sağlayarak, yerli AI donanımının potansiyelini en üst düzeye çıkarmayı hedefliyor. HongYun, bu derin adaptasyonu tamamlayan ilk şirket olduğunu ve Huawei’nin Ascend Native teknik sertifikasını aldığını belirtiyor.
HongYun, piyasadaki ‘adaptasyon’ tanımlarının genellikle yüzeysel kaldığını, oysa kendi yaklaşımlarının donanımın tüm performansını ortaya çıkarmaya odaklandığını vurguluyor. Şirket, özellikle devlet kurumları ve büyük işletmeler gibi özel dağıtımlar kullanan müşterilerin, yeni hızlandırıcılardan beklenen performansı tam olarak almalarını sağlamayı amaçlıyor. Huawei Ascend 950DT, geniş bant genişliği gerektiren büyük ölçekli sohbet uygulamaları, uzun belgelerin işlenmesi ve sürekli ajan muhakemesi gibi görevler için tasarlanmış bir çıkarım çipi olarak öne çıkarken, hava soğutmalı Atlas 850E SuperPoD ise mevcut veri merkezlerine kolayca entegre olabiliyor.
HyperLM V2.5, Huawei’nin UnifiedBus 2.0 teknolojisini destekleyerek 13.4 TB/s sistemler arası bant genişliği sunuyor ve bu sayede uzun bağlamlı verilerin veya önyükleme-çıkarım ayrıştırmasının darboğaz yaşamasını engelliyor. Operatör seviyesinde ise mxFP4 çıkarımı için optimize edilen platform, tek bir düğümde 14.2 PFLOPS gibi etkileyici bir performans sergiliyor. Yeni sürüm, Qwen, GLM ve DeepSeek gibi popüler açık kaynaklı büyük dil modellerini desteklemenin yanı sıra, beş temel yetenekle geliyor: önyükleme-çıkarım ayrıştırması, çok seviyeli KV önbellekleme, vNPU sanallaştırma, OpenAI protokolüyle uyumlu birleşik model ağ geçidi ve tam yığın izleme. Bu özellikler, kaynak kullanımını optimize ederken, performansı artırıyor ve hata tespiti ile yönetim kolaylığı sağlıyor.
Platform, hükümet, enerji, ulaştırma ve finans gibi düzenlemeye tabi sektörler için özel olarak tasarlanmış gelişmiş güvenlik ve yönetim özelliklerine sahip. Yönetici, güvenlik ve denetim rollerinin ayrılması, katmanlı sınıflandırma kontrolleri ve kapsamlı operasyon günlükleri gibi özellikler, hassas verilerin işlenmesinde yüksek düzeyde güvenlik ve şeffaflık sunuyor. Ayrıca, hesaplama ölçümü, model çağrı denetimi ve proje bazında kullanım istatistikleri gibi araçlar, kurumsal müşterilere tam kontrol sağlıyor. HongYun, Çin Bilimler Akademisi’ne bağlı Batı Hesaplama Teknolojisi Enstitüsü tarafından kuluçkalanmış olup, çekirdek ekibi aynı enstitü ve Sugon’dan geliyor ve 2020’den beri Huawei’nin Ascend iş ortağı programının bir parçası.
HongYun, gelecekte de Huawei Ascend ve Hygon DCU donanımları üzerine inşa etmeye devam edeceğini, heterojen zamanlama, çıkarım hızlandırma, önbellekleme ve ajan uygulamalarına odaklanacağını belirtiyor. Bu stratejik iş birliği, Çin’in yerli yapay zeka teknolojilerinde bağımsızlığını pekiştirme ve küresel arenada rekabet gücünü artırma yolunda attığı önemli adımlardan biri olarak değerlendiriliyor.