Moonshot tarafından geliştirilen Kimi K3.1 Pro, yapay zeka dünyasında yeni bir dönüm noktası olarak karşımıza çıkıyor. Çin merkezli şirketin yeni modeli, Artificial Analysis Intelligence Index üzerinde 55 puan alarak GPT-6 Astra ve Claude Fable 5.1 üzere rakiplerini geride bırakmayı başardı.

Modelin teknik altyapısı, 2.8 trilyon toplam parametre ve token başına 104 milyar etkin parametre ile hayli savlı bir yapı sunuyor. 1 milyon tokenlık mahallî bağlam penceresine sahip olan sistem, klâsik RoPE katmanlarını büsbütün devre dışı bırakan NoPE mimarisini kullanıyor.

Teknik Mimari ve Performans

Bu mimari, modelin daha esnek bir bağlam idaresi yapmasına ve hesaplama verimliliğini artırmasına imkan tanıyor. Quantization-aware training süreciyle desteklenen MXFP4 yükler ve MXFP8 aktivasyonları, donanım kaynaklarının daha verimli kullanılmasını sağlıyor.

Kimi K3.1 Pro, klâsik kuadratik dikkat düzeneği yerine Kimi Delta Attention (KDA) isimli hibrit bir yapı kullanıyor. Bu sistem, 3:1 oranında tekrarlayan ve hibrit aralıklı durumları birleştirerek KV önbelleğinin boyutunu kıymetli ölçüde azaltıyor.

Modelin içindeki dört yardımcı üniteden üçü, kıymetli bilgileri özetleyen süratli bir not sistemi üzere çalışıyor. Dördüncü ünite ise Gated Multi-Head Latent Attention katmanı sayesinde tüm bağlamın anlık bir imgesini alarak muhtaçlık duyulduğunda bilgileri sıkıştırıp açabiliyor.

Bu yol, modelin uzun bağlamlarda bile sürat kaybetmeden çalışmasını mümkün kılıyor. Kimi K3.1 Pro, 69 katmanlı yapısının içine her üç katmanda bir yerleştirilen 24 adet Gated Multi-Head Latent Attention katmanı ile donatılmış durumda.

Güvenlik ve Kullanılabilirlik

Moonshot, modelin geliştirilme sürecinde siber güvenlik ile ilgili bilgilerin eğitim basamağından çıkarıldığını belirtti. Şirket, modelin daha evvelki sürümlerinin Linux çekirdeği ve Node.js üzere sistemlerdeki açıkları yüksek muvaffakiyetle tespit edebildiğini gözlemledi.

Bu kısıtlamalara karşın model, xdev-bench-hard testinde yüzde 81 üzere yüksek bir muvaffakiyet oranı sergiliyor. Kimi K3.1 Pro’nun açık tartılarının ise 4 Kasım tarihinde genel kullanıma açılması planlanıyor.

Fiyatlandırma tarafında ise Kimi K3 modeline kıyasla yüzde 33 oranında bir indirim yapıldığı görülüyor. Giriş, çıkış ve önbellek hit tokenları için belirlenen yeni fiyatlar, geliştiriciler için daha erişilebilir bir yapı sunuyor.

Modelin Code Arena sıralamasında 8. sırada yer alması, kodlama yeteneklerinin de epey gelişmiş olduğunu kanıtlıyor. Sizce Kimi K3.1 Pro’nun bu performansı, yapay zeka pazarındaki istikrarları nasıl değiştirecek?

Kaynak: Shiftdelete