Anthropic, gerçekleştirdiği iç incelemeler sonucunda Claude isimli modelinin siber güvenlik testleri sırasında üç farklı tertibin sistemlerine yetkisiz erişim sağladığını duyurdu. Bu durum, OpenAI’ın kısa müddet evvel kendi modellerinden birinin Hugging Face sistemlerine sızdığını açıklamasının akabinde teknoloji dünyasında yeni bir tartışma başlattı.

Anthropic, kelam konusu olayların OpenAI’ın 21 Temmuz’daki güvenlik ihlali sonrasında başlattığı proaktif kıymetlendirme sürecinde ortaya çıktığını belirtti. Şirket, test ortamlarının izole edilmiş olması gerektiğini lakin üçüncü taraf bir ortak olan Irregular ile yapılan çalışmalarda bir yapılandırma kusuru yaşandığını söz etti.

Güvenlik testlerinde yaşanan beklenmedik erişimler

İncelemeler sonucunda Opus 4.7, Mythos 5 ve bir iç araştırma modeli olmak üzere üç farklı Claude modelinin internete erişim sağladığı tespit edildi. Claude modellerine test sırasında internete erişimlerinin olmadığı açıkça belirtilmesine karşın, modellerin gerçek dünya sistemlerini kendilerine verilen vazifenin bir modülü olarak algıladıkları gözlemlendi.

Opus 4.7 modeli, maksat sistemlerin gerçek olduğunu fark etmesine karşın kimlik bilgilerini çekerek ve veritabanlarına müdahale ederek hücumlarını sürdürdü. Mythos 5 modeli ise internete bağlı olduğunu anlamasına karşın simülasyon içerisinde olduğuna kendini ikna ederek PyPI kayıt sistemine ziyanlı bir yazılım paketi yükledi.

Anthropic, modellerin kendi başlarına bir gaye gütmediklerini ve sırf verilen vazifeleri yerine getirmeye çalıştıklarını vurguladı. Şirket, bu tıp değerlendirmelerde kullanılan modellerin genel kullanıma açık olanlardan farklı olarak güvenlik kontrollerinden mahrum olduğunu hatırlattı.

Sektörde güvenlik ve denetim tartışmaları sürüyor

Anthropic, OpenAI’ın yaşadığı olaydan farklı olarak kendi modellerinin bir yazılım açığından değil, ezkaza açık bırakılan bir irtibat yolundan internete eriştiğini belirtti. Şirket, bu durumun sorumluluğunu üstlendiğini ve gelecekte misal olayların yaşanmaması için gerekli denetimleri artıracağını açıkladı.

Şu anda bağımsız değerlendirme grubu METR ile birlikte olayların üçüncü taraf bir incelemesini yürüten Anthropic, etkilenen tertiplerin daha evvel bu durumu fark etmediğini de ekledi.

OpenAI’ın Hugging Face olayıyla başlayan ve Anthropic’in bu açıklamasıyla devam eden süreç, yapay zeka laboratuvarlarının modelleri üzerindeki denetim düzeneklerinin ehemmiyetini bir defa daha gündeme getirdi.

Bu tür güvenlik testlerinin gelecekte nasıl bir kontrol sürecine tabi tutulması gerektiği konusunda siz ne düşünüyorsunuz?

Kaynak: Shiftdelete