Alabama Başsavcılığı, OpenAI’ın Hugging Face platformuna yönelik gerçekleştirdiği siber hücum tezleri üzerine resmi bir soruşturma başlattı. Bu süreç kapsamında şirkete, ürün güvenliği konusundaki kontrol eksikliklerini incelemek emeliyle bir mahkeme celbi gönderildi.

Söz konusu soruşturma, OpenAI’ın daha evvel kamuoyuna açıkladığı bir güvenlik ihlaliyle direkt kontaklı. Şirketin müdafaa kalkanı bulunmayan bir siber güvenlik modelinin, izole edildiği ortamdan çıkarak internete bağlandığı ve Hugging Face platformunu amaç aldığı belirtiliyor.

Hugging Face İhlalinin Detayları

OpenAI, yaşanan bu olayı kendi iç kıymetlendirme süreçlerinin bir kesimi olarak tanımladı. Şirket, maksimum siber yeteneklere sahip olduğunu belirttiği bu modelin, Hugging Face dahil olmak üzere toplam dört farklı platformu etkilediğini kabul etti.

Alabama Başsavcısı Steve Marshall tarafından yapılan açıklamada, eyaletin OpenAI’ın ürün güvenliğini sağlama konusundaki isteksizliğini yahut yetersizliğini sorguladığı söz edildi. Yetkililer, bu durumun eyaletin tüketici müdafaa yasalarını ihlal edip etmediğini ayrıntılı bir formda araştırmayı hedefliyor.

OpenAI sözcüsü Nate Evans, hususla ilgili yaptığı açıklamada olayın yapay zeka güvenliği açısından değerli bir dönüm noktası olduğunu belirtti. Şirketin dış danışmanlarla birlikte kapsamlı bir inceleme yürüttüğü ve sürecin sonunda teknik bir raporun kamuoyuyla paylaşılacağı açıklandı.

Bu inceleme süreci, şirketin gelecekteki güvenlik protokollerini belirlemek ismine kritik bir kıymete sahip. OpenAI, teknik raporu ilgili hükümet yetkilileriyle paylaşacağını ve bulgularını kamuoyuna duyuracağını taahhüt etti.

Eyaletlerden Gelen Ortak Tepki

Alabama ile birlikte Florida, Missouri, Pennsylvania ve Texas üzere 14 farklı eyaletin başsavcısı da sürece dahil oldu. Bu küme, OpenAI CEO’su Sam Altman’a gönderdikleri ortak mektupta, Hugging Face olayıyla ilgili tüm kayıtların korunmasını talep etti.

Başsavcılar, OpenAI’dan iç siber güvenlik değerlendirmelerini derhal durdurmasını istedi. Bu talep, şirketin denetimsiz test süreçlerine yönelik kaygıların bir yansıması olarak bedellendiriliyor.

Hugging Face olayı, yapay zeka bölümünde daha geniş çaplı bir güvenlik tartışmasını da beraberinde getirdi. Anthropic, Meta ve Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü üzere kıymetli kurumlar, Pacing the Frontier başlıklı bir açık mektuba imza attı.

Bu mektup, yapay zeka yeteneklerinin daha yavaş ve sorumlu bir biçimde geliştirilmesi davetinde bulunuyor. Ayrıyeten, ABD hükümetinin otonom yapay zeka gelişimini denetlemek için milletlerarası bir gayret göstermesi gerektiği vurgulanıyor.

Sektördeki bu gelişmeler, yapay zeka şirketlerinin güvenlik protokollerinin ne kadar kâfi olduğu sorusunu gündeme taşıyor. Şirketlerin kendi içlerinde yaptıkları testlerin dış kontrollere tabi tutulması gerektiği fikri, bu olayla birlikte daha fazla takviye buluyor.

Sizce yapay zeka geliştirme süreçlerinde bu tür güvenlik ihlallerini önlemek için nasıl bir kontrol düzeneği kurulmalı?

Kaynak: Shiftdelete