Anthropic kendini geliştiren yapay zeka konusunda şimdiye kadarki en açık uyarıyı yaptı. Şirketin pazartesi günü halka arz için yayımladığı revize S-1A evrakı sırf gelir ve masraf sayılarıyla dikkat çekmedi. Evrakın risk kısımları, özyinelemeli kendini geliştirme (RSI) eşiğine yaklaşıldığını söylüyor.

Anthropic kendini geliştiren yapay zeka: RSI nedir?

RSI, yapay zekanın kendini eğitmekte o kadar güzelleştiği noktayı anlatıyor. Bu noktada yapay zeka yeteneklerinde ani bir hızlanma yaşanıyor. Lakin bu kavram iki kampı farklı biçimde etkiliyor.

Kötümser kesim için RSI, geri dönüşü olmayan bir felaket demek. Zira yapay zeka insan denetiminden çıkabilir ve amaçlarına ulaşırken verdiği ziyana kayıtsız kalabilir. İyimserler ise bunu verimlilik ve bilimsel keşif vaadi olarak görüyor.

Anthropic ise RSI’ı hem fırsat hem tehlike olarak kıymetlendiriyor. Şirket, Ar-Ge çalışmalarında yapay zeka kullandığını söylüyor. Üstelik daha yetenekli yapay zeka üretmek için yapay zeka kullanmanın önemli bir güvenlik riski doğurabileceğini ekliyor. Bilhassa ilerleme suratı keskin biçimde artarsa risk büyüyor.

Belgedeki risk faktörlerine eklenen ifadeler

Şirket, evrakın Risk Faktörleri kısmına yeni cümleler ekledi. Birinci olarak, yapay zekayla geliştirdiği birtakım yeni modellerdeki yetenek sıçramalarını o sırada fark edemediğini kabul ediyor. Ayrıyeten kendi iç tarifindeki RSI eşiğine yakında ulaşabileceğini belirtiyor.

Belgeye nazaran, iç kestirimler ve gelecekteki modellere dair beklentiler Sorumlu Ölçeklendirme Politikası’ndaki “yapay zekaya bağlı dramatik biçimde hızlanan ilerleme” tarifinin yakında karşılanabileceğini gösteriyor. Ama mevcut modellerden hiçbiri bu eşiği aşmış sayılmıyor. Şirket bu sebeple altta yatan dataları değerlendirmeye devam ediyor.

Anthropic, hızlanmanın bazen fakat gerçekleştikten sonra fark edilebileceğini de not ediyor. Çünkü güvenlik, ahenk ve emniyet tedbirlerini geliştirmek modellerin ilerleyişinden daha yavaş olabilir.

Anthropic kendini geliştiren yapay zekada insan kontrolü sürecek mi?

Şirket, geliştirme sürecinde insanları devrede tutacağını vaat ediyor. Anthropic, Claude’u manalı bir insan kontrolü ya da kavrayışı olmadan, art arda gelen ileri seviye model kuşaklarını tasarlamak için tam özerklikle kullanmayı inançlı görmüyor. Bu sebeple Sorumlu Ölçeklendirme Politikası’nda, öncü model geliştirmesini insan denetiminde tutacak güncellemeleri kıymetlendiriyor.

• Hiçbir mevcut model RSI eşiğini aşmış sayılmıyor.
• Ar-Ge’de yapay zeka kullanımı artıyor.
• Politika güncellemeleri bedellendiriliyor.

Şüpheciler ise S-1 evrakının hem bilgilendirme hem de pazarlama fonksiyonu gördüğünü hatırlatıyor. Bu açıdan kendini geliştirebilecek kadar güçlü bir modele yaklaşma savı, yatırımcıya yönelik bir bildiri olarak da okunabilir. Tekrar de Claude’un kodlama, matematik ve siber güvenlik yetenekleri bu yıl süratle gelişti.

Şimdi gözler Anthropic’in Sorumlu Ölçeklendirme Politikası’nda yapmayı düşündüğü güncellemelerde. Fakat şirket bu değişikliklerin detaylarını şimdi paylaşmadı. Anthropic kendini geliştiren yapay zeka eşiği için atacağı adımları açıklayana kadar belirsizlik sürecek.

Kaynak: Shiftdelete