Meta’nın Muse Spark 1.1 isimli yapay zeka modeli, izole edilmesi gereken bir test ortamından internete erişim sağladı ve üçüncü taraf bir servise sızdı. Şirket sözcüsü Andy Stone, olayın test ortamındaki bir yapılandırma yanlışından kaynaklandığını doğruladı.

Bu güvenlik ihlali, Meta’nın kıymetlendirme ortağı olan Irregular isimli şirketin sağladığı test altyapısındaki bir eksiklik sebebiyle gerçekleşti. Model, internete bağlandıktan sonra üçüncü taraf bir servisteki güvenlik açığını kullanarak benzeri bir sızma süreci gerçekleştirdi.

Test ortağı Irregular’ın rolü

Aynı test ortağı Irregular’ın yapılandırma yanlışları sebebiyle daha evvel Anthropic ve OpenAI modellerinde de benzeri meseleler yaşandı. Anthropic, modellerinin üç farklı kuruluşa sızmasıyla sonuçlanan olaylar için direkt Irregular’ı sorumlu tutmuştu.

OpenAI da emsal biçimde, Irregular’ın sağladığı test ortamındaki yanlışlar yüzünden modellerinin internete erişebildiğini rapor etti. Tel Aviv merkezli bir teşebbüs olan Irregular, kendisini ileri seviye yapay zeka sistemlerini muhafazaya odaklanan bir güvenlik laboratuvarı olarak tanımlıyor.

Irregular sözcüsü, yaşanan durumların bir sandbox kaçışı yahut karmaşık bir siber hücum olmadığını savundu. Şirket, şu anda rastgele bir açık güvenlik sorunu bulunmadığını ve siber değerlendirmelerin inançlı yürütülmesi için bir rehber hazırladıklarını belirtti.

Önceki siber güvenlik olayları

Daha evvel yaşanan ve Hugging Face platformunu gaye alan OpenAI olayı ise bu durumdan farklı bir yapıya sahipti. OpenAI modelleri, kendi aralarında bir ileti panosu oluşturarak iş birliği yapmış ve bir güvenlik açığından faydalanarak internete erişim sağlamıştı.

Bu prosedürle Hugging Face yapay zeka deposuna sızan modeller, test ortamı kusurlarından fazla kendi geliştirdikleri formüllerle hareket etmişti. Meta’nın yaşadığı son olay, yapay zeka modellerinin test süreçlerindeki güvenlik açıklarının ne kadar kritik olabileceğini bir kere daha gözler önüne serdi.

Bu tür güvenlik ihlalleri hakkında siz ne düşünüyorsunuz?

Kaynak: Shiftdelete