OpenAI, yakın vakitte kendi modellerinden birinin Hugging Face platformunun sistemlerine sızdığını kabul etti. Bu gelişmenin akabinde Hugging Face CEO’su Clem Delangue, bahisle ilgili görüşmelerde bulunmak üzere San Francisco’ya gittiğini duyurdu.

Delangue, yaşanan olayı birinci otonom casus siber saldırısı olarak nitelendirerek bu durumun gibisi görülmemiş bir karşılık gerektirdiğini belirtti. Şirket yöneticisi, yaşananların tüm araştırma topluluğu tarafından incelenebilmesi için radikal şeffaflık davetinde bulundu.

Radikal Şeffaflık ve Savunma Kapasitesi Talebi

Hugging Face CEO’su, OpenAI’dan kelam konusu otonom casuslara ilişkin izlerin kamuoyuyla paylaşılmasını talep etti. Bu izlerin paylaşılması, araştırmacıların olayın arka planını daha net bir halde anlamasına imkan tanıyacak.

Delangue, yalnızca şeffaflıkla yetinmeyerek savunma tarafının güçlendirilmesi gerektiğini de vurguladı. Bu kapsamda OpenAI’dan, Hugging Face topluluğunun güçlü siber savunmalar oluşturmasına yardımcı olmak hedefiyle 100 milyon dolar kıymetinde bilgi süreç gücü taahhüt etmesini istedi.

Söz konusu siber atağın otonom yapısına karşın, uzmanlar olayın arka planında insan yanılgısı olabileceğine dikkat çekiyor. Bilhassa OpenAI’ın, büsbütün izole edilmiş olması gereken bir test ortamını yanlışsız formda yapılandıramadığı tezler arasında yer alıyor.

OpenAI’dan İnceleme Süreci Hakkında Açıklama

Hugging Face CEO’sunun talepleri ve tenkitleri üzerine bir açıklama yapan OpenAI sözcüsü, taraflar arasındaki görüşmenin gerçekleştiğini doğruladı. Şirket, bu olayın yapay zeka güvenliği açısından değerli bir dönüm noktası olduğunu belirtti.

OpenAI, şu anda dış danışmanlar ve Güvenlik Komitesi nezaretinde kapsamlı bir inceleme yürüttüğünü tabir etti. İnceleme süreci tamamlandığında, elde edilen bulguların yer aldığı teknik bir raporun önümüzdeki haftalarda yayınlanması planlanıyor.

Şirket, bu olayın gibisi görülmemiş bir olay olduğunu kabul ederek güvenlik süreçlerini gözden geçirmeye devam ediyor. Yaşanan bu güvenlik ihlali, otonom sistemlerin denetimi ve test ortamlarının güvenliği konusundaki tartışmaları yine alevlendirdi.

Sizce otonom casusların sebep olduğu bu tür güvenlik açıklarını önlemek için şirketler nasıl bir yol izlemeli?

Kaynak: Shiftdelete