Tiiny AI, yapay zeka dünyasında istikrarları değiştirebilecek yeni aygıtı Pocket Lab’i tanıttı. Dünyanın en küçük yapay zeka harika bilgisayarı olarak lanse edilen bu aygıt, lokal olarak 100 milyar sınıfı modelleri çalıştırabilme kapasitesiyle Guinness Dünya Rekorlar Kitabı’na girmeyi başardı. Amerikan teşebbüsü Tiiny, bu küçük bilgisayarın bulut temasına, harici sunuculara yahut farklı bir ekran kartına gereksinim duymadan gelişmiş çıkarım vazifelerini yerine getirebildiğini belirtiyor.

Buluta veda edin: 120 milyar parametreli modelleri cebinizde çalıştırın

Cihazın en dikkat çeken özelliği, 10 milyar ile 120 milyar parametre ortasındaki devasa lisan modellerini büsbütün çevrimdışı çalıştırabilmesi. Şirket, tüm süreçlerin aygıt içinde yapılması sayesinde data saklılığının korunduğunu ve ağ gecikmelerinin ortadan kalktığını vurguluyor. Tiiny AI yöneticisi Samar Bhoj, zekanın bilgi merkezlerine değil insanlara ilişkin olması gerektiğini savunarak, bu aygıtın yapay zekayı daha ferdî ve erişilebilir kılacağını tabir ediyor.

Teknik tarafta ise aygıt, 65W güç tüketimi sonları içinde kalarak yüksek performans sunmayı vaat ediyor. Sistemin kalbinde 12 çekirdekli bir ARMv9.2 işlemci ve yaklaşık 190 TOPS süreç gücü sağlayan özel bir yapay zeka modülü yer alıyor. Buna 80GB LPDDR5X bellek ve 1TB SSD eşlik ediyor. Fizikî olarak büyük bir harici diski andıran aygıt, TurboSparse ve PowerInfer üzere yazılım teknolojilerini kullanarak iş yükünü verimli bir biçimde dağıtıyor ve değerli hızlandırıcılara olan muhtaçlığı ortadan kaldırıyor.

Şirketin açıklamalarında baş karıştıran bir ayrıntı da bulunuyor. Tiiny, aygıt için “OTA donanım yükseltmeleri” sunacağını belirtiyor lakin fizikî donanımın uzaktan güncellenmesi mümkün olmadığından, bunun bir pazarlama yanlışı yahut yanlış söz edilmiş bir yazılım güncellemesi olduğu düşünülüyor. Şimdi bağımsız test sonuçları yayınlanmamış olsa da, aygıtın sunduğu mahremiyet ve düşük maliyet avantajları dikkat çekiyor.

Böylesine küçük bir aygıtın sunucu sınıfı performans vaat etmesi teknoloji dünyasında heyecan yaratsa da, gerçek dünya testlerini görmek gerekiyor. Pekala siz bu mevzuda ne düşünüyorsunuz, gelecekte dev yapay zeka modellerini evimizdeki küçük aygıtlarda mı çalıştıracağız?