Yapay Zeka Ajanları Kontrol Altında: NetEase Yidun’dan Eylemsel Güvenlik Çözümü

Çin’in teknoloji devlerinden NetEase’in kurumsal hizmetler birimi Yidun, yapay zeka güvenliği alanında çığır açan bir yaklaşımla dikkatleri üzerine çekti. Wuzhen’deki 2026 Dünya İnternet Konferansı’nda tanıtılan yeni ‘AI-yerel güvenlik ürün sistemi’, yapay zeka ajanlarının sadece ne söylediklerini değil, aynı zamanda ne yaptıklarını da denetlemeyi hedefliyor. Şirket yetkilileri, AI ajanlarının bilgi tabanlarına, iş araçlarına ve kurumsal sistemlere erişiminin artmasıyla, güvenlik risklerinin de içerik üretiminin ötesine geçerek eylemsel bir boyut kazandığını belirtiyor. NetEase kurumsal hizmetler iş birimi başkan yardımcısı Zhu Haoqi, yapay zekayı güvenlik çalışmalarını güçlendirmek ve güvenlik araçlarını AI’ı tanımlanmış sınırlar içinde tutmak için kullanmayı içeren iki yönlü bir çerçeve sundu. Zhu, derin sahtecilikler, otomatik dolandırıcılık, model ‘jailbreak’leri, hassas veri sızıntıları ve ajanların yetkilerini aşan eylemleri gibi yeni risklere dikkat çekti.

Yidun’un kapsamlı güvenlik sistemi, üç ana katmandan oluşuyor. İlk katman, yapay zeka içeriği denetimi ve analizi ile CMA adlı moderasyon ajanını içeren AI içerik ve veri güvenliğini kapsıyor. İkinci katman, iş risk kontrolü, cihaz parmak izi, davranışsal CAPTCHA ve DeepGuard yüz sahteciliği önleme gibi özelliklerle etkileşim ve kimlik güvenliğini sağlıyor. Üçüncü ve en kritik katman ise, büyük model koruma kalkanları, bir ajan güvenlik platformu ve ajan tedarik zinciri kontrolleriyle model ve ajan güvenliğine odaklanıyor. Bu sistem, Wuzhen’deki fuar salonunda ‘ilk sürüm sertifikası’ ile ödüllendirildi.

Ajan katmanında, ‘Agent Guard’ (Ajan Kalkanı) adı verilen mekanizma, bir ajanın eylemlerinin kullanıcının niyetiyle eşleşip eşleşmediğini kontrol ediyor, izinleri uyguluyor, riskli araç çağrılarını işaretliyor ve uygunsuz davranışları engelliyor. ‘Ajan Güvenlik Platformu’ ise kullanılan tüm AI varlıklarını keşfediyor, ‘Skill’ ve ‘MCP’ tedarik zincirlerini tarıyor ve hassas veri sızıntılarına karşı koruma sağlıyor. Pandaily tarafından aktarılan bilgilere göre, bu platform özellikle IT departmanlarının bilgisi dışında çalışanların benimsediği ‘gölge AI’ araçlarını hedef alarak engelleme, inceleme, uyarı ve veri maskeleme seçenekleri sunuyor.

Yidun, diğer ürünlerinin performansıyla da iddialı. Örneğin, CMA moderasyon ajanı, şirket içi içerik güvenlik modeli ile özelleşmiş küçük modelleri birleştirerek 7/24 çalışıyor. Bir müşterinin aylık 2.5 milyondan fazla şikayet biletini incelediği vakada, CMA’nın ilk geçiş incelemesi ve insan kontrolü sayesinde ortalama inceleme süresi 35.7 dakikadan 12.3 dakikaya düşürülürken %99.2 gibi yüksek bir doğruluk oranına ulaşıldı. Yüz sahteciliği önleme çözümü DeepGuard ise, Çin Bilgi ve İletişim Teknolojileri Akademisi tarafından yapılan bir değerlendirmede en yüksek puanı aldı ve ekran yeniden yakalama saldırılarına karşı faz testlerinde %99 geri çağırma ve %96 kesinlik gösterdi. Yidun içerik güvenliği başkanı Rao Xiaoyan, kötü niyetli talimatların web sayfaları, dosyalar, API’ler veya araçlar içinde gizlenebileceğini belirterek, sistemlerin görev verilerini davranış komutlarından ayırt etmesi gerektiğini vurguladı. Xiaoyan, model çağrılarından ve bağlam birleştirmesinden önce enjeksiyon savunmaları kurmanın ve akış sırasında çıktıları kontrol etmenin önemine değindi: güvenli içerik gösterilirken, şüpheli içerik inceleniyor ve yüksek riskli içerik geri çekiliyor.