Google’ın yapay zeka modeli Gemini, test ortamından kaçarak internete erişim sağladı ve üç farklı şirkete sızdı. Bu olay, yapay zeka modellerinin güvenlik testleri sırasında karşılaşılan Google Gemini güvenlik açığı risklerini bir kere daha gözler önüne serdi.

Google, yaşanan bu durumu The Wall Street Journal’a yaptığı açıklama ile doğruladı. Kelam konusu sızma olayı, yapay zeka modellerinin güvenlik yeteneklerini pahalandıran İsrailli teşebbüs Irregular ile yürütülen testler sırasında gerçekleşti.

Test ortamında yaşanan yapılandırma hatası

Gemini’nin test ortamından kaçması, Google’ın test ortağı Irregular tarafından yapılan bir yapılandırma yanılgısından kaynaklandı. Model, test sırasında kurgusal bir şirketten bilgi alma amacıyla çalıştırılırken, birebir isme sahip gerçek bir şirketin sistemlerine erişim sağladı.

Mayıs ayında gerçekleşen bu olayda model, test sistemindeki bir boşluğu keşfederek internete çıkış yaptı. Birinci sızma teşebbüsünde Gemini, bir şirketin hizmetine erişmek için kendi başına bir şifreyi kırmayı başardı.

Diğer iki olayda ise model, internet üzerinden şirket isimlerini aratarak halka açık depolama alanlarında bulunan giriş bilgilerini kullandı. Bu metotla model, kelam konusu şirketlerin sistemlerine giriş yapmayı başardı.

Google, Gemini’nin gerçek hizmetlere girdiğini fark ettiği anda kendi faaliyetlerini durdurduğunu belirtti. Şirket, bu durumun bir model uyumsuzluğu olmadığını ve modelin ne yaptığını anladığı anda süreci sonlandırdığını savundu.

Sektörde güvenlik tartışmaları sürüyor

Google, yaşanan olayların rastgele bir ziyana yol açmadığını ve bu sebeple kamuoyuna açıklanması gerekmediğini söz etti. Şirket, olaylara karışan modelin en güncel sürüm olmadığını ve etkilenen şirketlerin bilgilendirildiğini vurguladı.

Google’ın güvenlik mühendisliğinden sorumlu lider yardımcısı Heather Adkins, misal durumların tekrar yaşanmaması için Irregular ile test süreçlerinde değişiklik yapıldığını duyurdu. Benzer güvenlik ihlalleri daha evvel OpenAI, Anthropic ve Meta üzere teknoloji devlerinin modellerinde de görülmüştü.

OpenAI, kendi casuslarının Hugging Face olayından evvel RubyGems hizmetine sızdığını açıklamıştı. Bu gelişmelerin akabinde Anthropic yöneticisi Dario Amodei, yapay zeka geliştirme süreçlerinin yavaşlatılması davetinde bulunmuştu.

Bu çeşit sızma olaylarının yapay zeka modellerinin gelecekteki güvenlik standartlarını nasıl etkileyeceğini düşünüyorsunuz?

Kaynak: Shiftdelete