OpenAI, geliştirme kademesinde olan Astra isimli yeni modeli üzerindeki iç faaliyetlerini askıya aldığını duyurdu. Şirket, bu kararın temelinde modelin şimdi yeni belirlenen güvenlik standartlarını karşılayamaması olduğunu belirtiyor.

Bu gelişme, OpenAI’ın kısa mühlet evvel kendi modellerinin Hugging Face platformuna kazara sızdığını açıklamasının akabinde geldi. Emsal formda Anthropic ve Meta da kendi modellerinin daha evvel öbür kuruluşlara yönelik siber güvenlik ihlallerinde bulunduğunu kabul etmişti.

Güvenlik Standartları ve Astra Modeli

Şirket tarafından yapılan açıklamaya göre, Astra modeli üzerinde gerçekleştirilen son iç değerlendirmeler, modelin kodlama ve siber güvenlik alanlarında kıymetli ilerlemeler kaydettiğini gösteriyor. Uzmanların yaptığı değerlendirmeler sonucunda OpenAI, modelin Hazırlık Çerçevesi kapsamında kritik siber yeteneklere sahip olma ihtimalini göz ardı edemeyeceği sonucuna vardı.

OpenAI, kritik siber güvenlik eşiğini epeyce net bir formda tanımlıyor. Şirketin çerçevesine nazaran bir model, insan müdahalesi olmadan gerçek dünyadaki kritik sistemlerde sıfırıncı gün açıkları geliştirebiliyorsa yahut karmaşık gayelere yönelik hücum stratejileri kurgulayabiliyorsa kritik düzeyde kabul ediliyor.

Astra modelinin daha evvel gerçekleşen Hugging Face siber saldırısına dahil olmadığını vurgulayan OpenAI, güvenlik tedbirlerini artıracağını açıkladı. Şirket, yüksek yetenekli modeller ve ilgili faaliyetler için daha sıkı güvenlik denetimleri uygulayacağını belirtti.

Gelecek Adımlar ve İzleme Mekanizmaları

Astra modeli özelinde şirket, tüm casus tabanlı uygulamalardaki riskli aksiyonları ve uyumsuzlukları tespit etmek hedefiyle üniversal bir izleme sistemi kurdu. Bu sistem, modelin geliştirilme sürecinde yaşanabilecek güvenlik açıklarını denetim altında tutmayı hedefliyor.

Teknoloji dünyasında modellerin bu denli güçlü siber yetenekler kazanması, güvenlik protokollerinin değerini her geçen gün daha fazla artırıyor. OpenAI’ın bu proaktif duruşu, bölümdeki öbür oyuncuların da benzer güvenlik standartlarını benimsemesi konusunda bir örnek teşkil edebilir.

Şirketin bu atağını ve siber güvenlik konusundaki yaklaşımını siz nasıl değerlendiriyorsunuz?

Kaynak: Shiftdelete