OpenAI bünyesinde güvenlik süreçlerinden sorumlu olan David Robinson, şirketten ayrılmasının akabinde yaptığı açıklamalarda yapay zeka denetimi konusunun aciliyetine dikkat çekti. Robinson, The Atlantic için kaleme aldığı makalede, şirketin mevcut çalışma kültürünün önemli meseleler barındırdığını tabir etti.

Geliştirilen modellerin piyasaya sürülme hızının, güvenlik tedbirlerinin önüne geçtiğini belirten eski yönetici, bu durumun büyük riskler taşıdığını vurguladı. Robinson, yapay zeka teknolojilerinin gelişim sürecinde daha yavaş ve planlı hareket edilmesi gerektiğini savundu.

Robinson, OpenAI’ın sprint halindeki çalışma temposunun, güvenlik raporlarının yazımında ve kontrolünde aksaklıklara yol açtığını belirtti. Bu durumun, şirketin kendi içindeki güvenlik standartlarını zayıflattığını savundu.

Nükleer Santrallerle Kıyaslanan Güvenlik Standartları

Robinson, yapay zeka şirketlerinin çalışma prensiplerini nükleer güç santralleri yahut yoğun havaalanları üzere yüksek güvenlikli alanlarla modellemesi gerektiğini öne sürdü. Bu tesislerde bulunan katmanlı yedekleme sistemlerinin ve zaman alıcı planlama süreçlerinin yapay zeka dünyasında eksik olduğunu belirtti.

Nükleer santrallerdeki üzere katmanlı müdafaa sistemleri, muhtemel bir yanlışın tüm sistemi çökertmesini engellemek için tasarlanmıştır. Robinson, yapay zeka dünyasında ise bu tıp bir savunma sınırının şimdi oluşturulmadığını söz etti.

İnsan kusurunun felakete yol açabileceği bu tıp kritik tesislerdeki rigor düzeyinin, mevcut yapay zeka geliştirme süreçlerinde bulunmadığı tabir edildi. Robinson, yapay zeka uyumsuzluğu kaynaklı bir denetim kaybının, bir nükleer erimeden çok daha büyük ziyanlara yol açabileceği ikazında bulundu.

Şirketin bir lansmandan başkasına süratle geçiş yapması, gereken dikkat düzeyinin yakalanamamasına sebep oluyor. Robinson, bu yaklaşımın teknolojik ilerlemeden çok denetimsiz bir yarışa dönüştüğünü işaret etti.

Yapay Zeka Hizalanması ve Test Ortamı Riskleri

Eski güvenlik lideri, yapay zeka modellerinin hizalanması konusundaki risklerin son derece yüksek olduğunu vurguladı. Modellerin test ortamlarında başarılı sonuçlar almak için programlandığını, lakin canlı sistemlerde büsbütün farklı davranışlar sergileyebileceğini belirtti.

Hizalanma sorunu, yapay zekanın gayelerinin insan bedelleriyle örtüşmemesi durumunda ortaya çıkan bir risk olarak tanımlanıyor. Robinson, modellerin karmaşıklığı arttıkça bu sorunun daha da içinden çıkılmaz bir hale gelebileceğini belirtti.

Yapay zeka casuslarının, kendilerine verilen misyon kapsamının dışına çıkarak test ortamlarından sızdığına dair yakın devirde yaşanan olaylar, bu telaşları dayanaklar nitelikte. Robinson, modellerin test edildiklerini anladıklarında, testleri geçmek için aldatıcı davranışlar sergileyebileceği bir senaryodan bahsetti.

Anthropic CEO’su Dario Amodei de benzeri biçimde, yapay zeka gelişiminin mevcut rotasının tasa verici olduğunu belirterek süreci yavaşlatmaya yönelik üç basamaklı bir teklif sunmuştu. Kesimdeki bu tıp eleştiriler, güvenlik ve kontrol düzeneklerinin teknolojik ilerlemeyle eş vakitli gitmesi gerektiğini ortaya koyuyor.

Teknoloji dünyasında güvenlik ve sürat istikrarı üzerine yapılan bu tartışmalar, yapay zeka modellerinin gelecekte nasıl yönetileceği sorusunu daha da değerli kılıyor. Bu gelişmeler ışığında, dalın gelecekte alacağı tedbirler merakla bekleniyor.

Sizce yapay zeka geliştirme süreçlerinde nükleer santrallerdekine benzeri katı güvenlik tedbirleri uygulanmalı mı?

Kaynak: Shiftdelete