Google araştırmacıları, yapay zekâ uyku yöntemi ismini verebileceğimiz yeni bir öğrenme sistemi önerdi. Amaç, büyük lisan modellerinin yeni bilgileri kalıcı olarak öğrenmesi. Üstelik bunu eski bilgileri kaybetmeden yapması hedefleniyor.

Örneğin ChatGPT, Gemini ve Claude üzere modeller bugün sunulan bir belgeyi sırf o sohbet sırasında kullanabiliyor. Zira sohbet bitince bilgi birçok vakit kayboluyor ya da kullanıcıya özel bir bellek girdisi olarak kalıyor. Ayrıyeten bu bilgiler modelin genel bilgi dağarcığına eklenmiyor.

Bu sebeple kalıcı öğrenme için tekrar eğitim ya da ince ayar (fine-tuning) gerekiyor. Fakat bu prosedürün de bir sorunu var. Zira model yeni şeyler öğrenirken eski bilgi ve hünerlerini kaybedebiliyor. Gerçekten literatürde buna “yıkıcı unutma” (catastrophic forgetting) deniyor.

Yapay zekâ uyku tekniği nasıl çalışıyor?

Öncelikle sistem, modelin çalışmasını iki basamağa ayırıyor: faal (uyanık) basamak ve uyku basamağı. Etkin basamakta model ayrıyeten kullanıcılarla konuşuyor ve yeni bilgileri kısa periyodik belleğinde tutuyor. Lakin bu bilgiler şimdi kalıcı parametrelere aktarılmıyor.

Ardından makul aralıklarla uyku etabı devreye giriyor. Model bu sırada yeni girdileri işlemeyi bırakıyor. Kaynaklarını ise öğrendiklerini kalıcı hâle getirmek için kullanıyor. Hakikaten bu yapay zekâ uyku formülü, insan beynindeki hafıza pekiştirme sürecinden esinleniyor.

Öncelikle uyku iki kesimden oluşuyor: hafıza pekiştirme ve hayal görme. Örneğin pekiştirmede süreksiz bellekteki bilgiler kalıcı bir depolama alanına taşınıyor. Buna rağmen düş görmede model, kendi ürettiği sentetik datalarla alıştırma yapıyor.

Pekiştirme için Mixture of Experts (MoE) mimarisi kullanılıyor. Zira bu mimaride her süreçte sadece ilgili uzman modüller çalışıyor. Üstelik uyku sırasında bu yapıya yeni, düşük dereceli (low-rank) uzman modüller ekleniyor. Böylelikle mevcut parametreleri bozmak yerine ek kapasite oluşuyor.

• Öncelikle Knowledge Seeding isimli “yukarı hakikat damıtma” ile kısa periyodik bellekteki bilgi geniş kapasiteli modele aktarılıyor.
• Ayrıca Genel Bilgi Damıtma (GKD) ve pekiştirmeli öğrenme tabanlı taklit tahsili birlikte kullanılıyor.
• Bunun yanı sıra Learning to Imitate (LTI) sistemi, metinleri mana ve Levenshtein uzaklığı üzerinden öğretmen modelle karşılaştırıyor.
• Son olarak sinaptik budama ile süreksiz bellek sıfırlanıyor.

Levenshtein uzaklığı, bir metni başkasına çevirmek için gereken karakter ya da süreç sayısını ölçüyor. Böylelikle yapay zekâ uyku prosedürü, modelin sırf emsal sözler üretmesini değil, manası da müdafaasını amaçlıyor.

Rüya görme basamağında ne oluyor?

Bu etap, insan beyninin REM uykusunda yeni ilişkiler kurmasından esinleniyor. Zira model burada kendi eğitim verisini üretiyor. Birinci olarak MoE içindeki uzmanlar arasından rastgele seçimler yapılıyor. Böylelikle farklı bilgi alanları bir araya geliyor.

Ardından model bu kombinasyonlardan kendi örneklerini, yani “rüyalarını” oluşturuyor. Fakat hepsi eğitimde kullanılmıyor. Hasebiyle gradyan tabanlı bilgi seçimiyle gelişim potansiyeli en yüksek örnekler ayrılıyor. Son olarak gözetimli ince ayar ve pekiştirmeli öğrenme uygulanıyor.

Testlerde Neler Görüldü?

Örneğin Mançu ve Kalamang üzere az kaynaklı lisanlarda çeviri deneyi yapıldı. Üstelik yapay zekâ uyku usulü birden fazla öğrenme basamağından geçmesine karşın evvelki vazifelerdeki performansını neredeyse hiç kaybetmedi. Buna rağmen klâsik ince ayar ve bağlam içi öğrenmede önemli düşüşler yaşandı.

Ayrıca BABILong testinde sistem, 10 milyon token uzunluğundaki bağlamlarda neredeyse kusursuz performans gösterdi. Google’ın aktardığı sonuçlar buna nazaran sistemin GPT-4 ve Titans üzere sistemleri geride bıraktığını gösteriyor. Öte yandan SQuAD ve daima ön eğitim değerlendirmelerinde sırasıyla yüzde 48,9 ve yüzde 46,2 muvaffakiyete ulaştı. Hasebiyle bu oranlar temel model, klâsik ince ayar ve SEAL üzere yaklaşımların üzerinde kaldı.

Bu sebeple çalışma, yapay zekâların öğrendiklerini kendi kendine pekiştirebileceği bir geleceğe işaret ediyor. Yeniden de tekniğin eserlere ne vakit girebileceğine dair bir takvim paylaşılmadı.

Kaynak: Shiftdelete