Thinking Machines Lab, dizüstü bilgisayarda çalışabilen Inkling 2 Mini modelini açık yüklerle yayınladı. Model, kodlama testlerinde misal boyuttaki açık modellerin önünde.
Güçlü yapay zeka modellerini kendi bilgisayarında çalıştırmak isteyenler için yeni bir seçenek geldi. Thinking Machines Lab, dizüstü bilgisayarda çalışacak kadar küçük ancak kodlama testlerinde emsal boyuttaki açık modellerin önüne geçen Inkling 2 Mini’yi yayınladı. Modeli farklı kılan şey ise içindeki katmanların her söz kesimi için birden fazla kere çalışması.
Şirket 20 Kasım tarihli duyurusunda, Inkling 2 Mini’nin tartılarının açık olarak yayınlandığını ve modelin Tinker platformunda kullanıma sunulduğunu açıkladı. Modelin tam tartıları Hugging Face’te de yer alıyor.
Döngülü transformer nedir?
Inkling 2 Mini, “döngülü transformer” (looped transformer) ismi verilen bir mimari kullanıyor. Model 24 katmandan oluşuyor ve bu katmanlar altışarlı dört bloğa ayrılıyor. Birinci ve son bloklar bir sefer çalışırken ortadaki iki blok her token için üç sefer çalışıyor. Şirkete nazaran bu yapı, modelin daha az token üreterek hakikat yanıta ulaşmasını sağlıyor. Bilhassa akıl yürütme kalitesine dayanan yapay zeka casusu ile kodlama işlerinde fark yaratıyor.
Model, uzman karışımı (Mixture-of-Experts) yapısında. Toplam 26,4 milyar parametresi var ve her token için bunların 3,4 milyarı faal oluyor; döngü hesaba katıldığında token başına 5,4 milyar tartı devreye giriyor. Şirket, döngüsüz bir modelin eğitiminin yüzde 7,5 daha az süreç gücü gerektirdiğini, lakin tıpkı sonuca ulaşmak için çalışırken yüzde 140 daha fazla süreç gücü harcadığını söylüyor.
Benzer boyuttaki açık modellerin önünde
Thinking Machines’e nazaran Inkling 2 Mini, toplam parametresi 100 milyarın altındaki açık yüklü modeller arasında DeepSWE v1.1 (yüzde 48,2) ve Vals Index v2.2 (yüzde 46,5) üzere testlerde birinci sırada. SWE-bench Verified testinde yüzde 79,2 alan model, tıpkı testte yüzde 77,8 alan Qwen3.8-27B’nin önünde. Arama ve araç kullanımı gerektiren BrowseComp, DeepSearchQA ve MCP Atlas testlerinde de benzeri boyuttaki açık modellerin önünde yer alıyor.
Stanford’daki araştırmacıların erken erişimle yaptığı güç verimliliği ölçümünde Inkling 2 Mini, NVIDIA DGX Spark üzerinde 0,703 puan aldı. Birebir ölçümde Qwen3.6-35B-A3B 0,430, Gemma-4-26B-A4B 0,159 ve Qwen3.5-27B 0,036 puanda kaldı.
Şirket modelin zayıf yanlarını da paylaştı. Inkling 2 Mini, çok turlu sohbetlerde ve çok sayıda kısıt içeren talimatlarda en güçlü küçük model değil: MultiChallenge testinde yüzde 50,0, ComplexConstraints v1.1 testinde yüzde 33,4 alarak iki testte de Qwen3.8-27B’nin gerisinde kalıyor. Döngü, modelin daha fazla bilgi depolamasını da sağlamıyor; bilgi ölçen testlerdeki puanı tıpkı boyuttaki modellerle misal.
Yaklaşık 20 GB yer kaplıyor
Modelin tartılarının büyük kısmı direkt 4 bit NVFP4 hassasiyetinde eğitildi; son dört katman ise 8 bit MXFP8 kullanıyor. Model tıpkı hassasiyetle dağıtıldığı için dönüştürmeden kaynaklanan bir kayıp da yaşanmıyor. Toplam bellek gereksinimi yaklaşık 20 GB. Şirketin araştırmacıları modeli bir uçuşta internet teması olmadan MacBook Pro’da çalıştırdı ve birkaç dakikada oynanabilir bir uçuş simülatörü yaptırdı.
Thinking Machines, Inkling 2 Mini’nin en az 32 GB belleğe sahip her Mac’te (MacBook, Mac Mini) Ollama ile çalıştığını söylüyor. Model NVIDIA’nın DGX Spark masaüstü yapay zeka bilgisayarında da verimli çalışıyor. Unsloth ve llama.cpp için sıkıştırılmış GGUF sürümleri de hazır.
Araştırmacılar için ikinci model
Şirket, döngü sayısının modelin akıl yürütmesini nasıl etkilediğini incelemek isteyen araştırmacılar için TML-d24-varloop-research isimli ikinci bir modeli de Hugging Face üzerinden yayınladı. Bu modelde döngü sayısı değiştirilebiliyor. Şirketin ölçümlerinde döngü sayısı 1’den 5’e çıktığında modelin akıl yürütme metni yarıdan fazla kısaldı (ortalama 3.703 tokendan 1.661 tokena), fakat metnin okunabilirliği değişmedi. Birden fazla bilgisayarı birleştirerek büyük modelleri yerelde çalıştırmayı amaçlayan bir öteki gelişmeyi de Windows’ta USB4 ile PC kümesi haberimizde aktarmıştık.
Kaynak: Shiftdelete