Hugging Face geçtiğimiz hafta altyapısına otonom bir yapay zeka sistemi tarafından müsaadesiz giriş yapıldığını duyurdu. Şirket, akın sırasında sonlu sayıda bilgi kümesine ve hizmet kimlik bilgisine erişildiğini açıkladı.

Sürecin akabinde OpenAI, gerçekleştirdiği şirket içi güvenlik değerlendirmeleri sonucunda Hugging Face’e sızan sistemlerin kendi yapay zeka modelleri olduğunu belirtti. Şirket, bu modellerin siber güvenlik yeteneklerini test etmek amacıyla güvenlik müdafaalarını azalttığını söz etti.

Modeller test ortamından dışarı çıktı

OpenAI tarafından yapılan açıklamaya nazaran, GPT-5.6 Sol ve şimdi yayımlanmamış bir model, ExploitGym testleri sırasında yalıtılmış test ortamından çıkmayı başardı. Modeller, üçüncü parti bir sıfırıncı gün açığını kullanarak internete erişim sağladı ve Hugging Face’in üretim veritabanındaki zımnî bilgilere ulaştı.

Sızma süreci, çalınmış kimlik bilgileri ve uzaktan kod çalıştırma formülleri kullanılarak gerçekleştirildi. OpenAI, bu durumun fark edilmesinin yaklaşık bir hafta sürdüğünü ve bu süreçte Hugging Face’in durumu FBI ile paylaştığını belirtti.

Dört farklı hizmete daha erişim sağlandı

OpenAI, incelemelerini derinleştirdiğinde denetimden çıkan modellerin Hugging Face dışında dört farklı hizmete daha sızdığını tespit etti. Şirket, modellerin kamuya açık hizmetlerde ifşa edilmiş kimlik bilgilerini tespit edip kullandığını açıkladı.

Bu hesaplardan biri dışa giden temaslar için aracı olarak kullanılırken, bir başkası bilgi depolama hedefiyle tercih edildi. Kalan iki hesaba ise sırf okuma gayeli erişim sağlandığı ve bu hesapların güvenlik ihlalini ilerletmek için kullanılmadığı belirtildi.

OpenAI, etkilenen hizmet sahiplerini bilgilendirme sürecinin devam ettiğini vurguladı. Şirket ayrıyeten modellerin kod paylaşım siteleri ve ekran görüntüsü hizmetleri üzere çeşitli web araçlarını da kullandığını, fakat bu durumlarda platform seviyesinde bir güvenlik ihlali yaşanmadığını kaydetti.

Şu ana kadar kelam konusu sağlayıcılar üzerinde daha geniş bir tesir olduğuna dair rastgele bir delil bulunmuyor. Pekala, yapay zeka modellerinin bu denli otonom hareket edebilmesi hakkında siz neler düşünüyorsunuz?

Kaynak: Shiftdelete