Çin merkezli Moonshot AI, merakla beklenen yeni modeli Kimi K3’ün yüklerini fiyatsız olarak paylaştı. Bu atılım, şimdiki yapay zeka GPU donanımlarına sahip olan herkesin modeli kendi sistemlerinde çalıştırabilmesine imkan tanıyor.

Şirketin bu kararı, OpenAI ve Anthropic üzere kesimin önde gelen oyuncularına karşı atılmış kıymetli bir adım olarak bedellendiriliyor. Kimi K3, Moonshot AI tarafından paylaşılan test sonuçlarına nazaran evvelki kuşak modelleri geride bırakırken, şimdiki rakipleriyle de rekabet edebilecek bir performans sergiliyor.

Yüksek verimlilik ve düşük maliyetli çalışma

Kimi K3, bilhassa operasyonel maliyetler konusunda rakiplerine kıyasla önemli avantajlar sunuyor. Modelin giriş maliyeti milyon token başına 3 dolar olarak belirlenirken, bu sayı önbellekleme yapısı sayesinde muhakkak kullanım senaryolarında 0,30 dolara kadar düşebiliyor.

Modelin bu denli verimli çalışmasının temelinde, düşük hassasiyetli MXFP4 ve MXFP8 bilgi tiplerinin kullanımı yatıyor. Toplam 2,8 trilyon parametreye sahip olan modelde, her süreç sırasında yalnızca 104,2 milyar parametre faal hale getiriliyor.

Moonshot AI, test süreçlerinde Nvidia H20 üzere günümüz standartlarına nazaran daha düşük düzeyli bir donanım kullandığını belirtiyor. Bu durum, modelin daha geniş bir donanım yelpazesinde verimli bir halde çalışabileceğine işaret ediyor.

Geleneksel anahtar-değer depolama yerine Kimi Delta Attention ismi verilen sabit boyutlu bir durum yöneticisi tercih ediliyor. Bu mimari, hem VRAM kullanımını azaltıyor hem de süreç mühletini kısaltarak genel verimliliğe katkı sağlıyor.

Sektördeki rekabet istikrarları değişiyor

Kimi K3’ün açık yüklü bir model olarak sunulması, geliştiricilerin ve şirketlerin kendi altyapılarını kurarak büyük oyunculara direkt rakip olabilmesinin önünü açıyor. Bu gelişme, bilhassa maliyet odaklı projeler için değerli bir alternatif oluşturuyor.

Açık yüklü modelin sunulması, eğitim sürecinin ve data setinin hala Moonshot AI’ın özel mülkiyetinde olduğu gerçeğini değiştirmiyor. Yeniden de bu adım, fiyatsız yazılımın ticari rakipleriyle emsal performans gösterirken çok daha düşük maliyetlerle çalışabileceğini kanıtlıyor.

Modelin Blackwell üzere MXFP dayanaklı çağdaş donanımlarda çalıştırıldığında daha da yüksek performans göstermesi bekleniyor. İlerleyen devirde yapılacak resmi testler, bu optimizasyonların donanım tarafındaki gerçek tesirini ortaya koyacak.

Sizce Moonshot AI’ın bu atağı, OpenAI ve Anthropic üzere devlerin pazar hissesini nasıl etkileyecek?

Kaynak: Shiftdelete