Google, yapay zeka dayanaklı geçersiz raporların artması üzerine Google OSS VRP askıya alındı kararı aldığını duyurdu. Şirket, açık kaynak yazılım projelerindeki güvenlik açıklarını bildiren araştırmacıların ödüllendirildiği bu programı süreksiz olarak durdurdu.

Bu karar, sistemin yapay zeka tarafından üretilen ve gerçeklikten uzak, yanılgılı bildirimlerle dolup taşması sonucunda alındı. Güvenlik uzmanları ve proje sorumluları, gelen bu yoğun ve geçersiz rapor trafiğiyle başa çıkmakta zorlandıklarını belirtti.

Programın Durdurulma Nedeni

Google tarafından 1 Ekim tarihinde yapılan resmi açıklamada, programın mevcut işleyişinin sürdürülemez hale geldiği vurgulandı. Şirket, bilhassa yapay zeka araçları kullanılarak oluşturulan ve halüsinasyon olarak isimlendirilen kusurlu raporların, gerçek güvenlik açıklarının tespitini engellediğini söz etti.

Programın bu biçimde devam etmesi, hem inceleme süreçlerini yavaşlatıyor hem de kaynakların verimsiz kullanılmasına sebep oluyordu. Bu durum, açık kaynak projelerinin güvenliğini sağlamak hedefiyle kurulan sistemin temel fonksiyonelliğini olumsuz etkiledi.

Yapay zeka modellerinin, var olmayan güvenlik açıklarını varmış üzere göstermesi, programın kontrol düzeneklerini önemli bir yük altına soktu. Bu çeşit içeriklerin temizlenmesi, gerçek güvenlik açıklarına odaklanması gereken takımların vaktini büyük ölçüde tüketmeye başladı.

2027’ye Kadar Sürecek Yeniden Yapılandırma

Google, programın bu yönünü tekrar yapılandırmak ve daha verimli hale getirmek için kapsamlı bir çalışma başlattı. Şirket, bu süreçte iştirakçilerin öbür faal VRP programlarını incelemeye devam edebileceklerini belirtti.

Programın şimdiki durumu hakkında yeni bir güncellemenin 2027 yılının birinci çeyreğinde paylaşılması hedefleniyor. Bu mühlet zarfında, sistemin yapay zeka kaynaklı spam gönderimlerine karşı daha dirençli hale getirilmesi planlanıyor.

Açık kaynak dünyasında güvenlik açıklarının süratli bir formda bildirilmesi, yazılım ekosisteminin korunması açısından kritik bir rol oynuyor. Lakin, otomasyon araçlarının yanlış kullanımı, bu tıp ödül programlarının işleyişini önemli halde sekteye uğratabiliyor.

Google’ın aldığı bu karar, siber güvenlik topluluğunda geniş yankı uyandırdı ve benzeri programların geleceği hakkında tartışmaları beraberinde getirdi. Güvenlik araştırmacıları, yapay zeka ile üretilen içeriklerin kontrol sistemlerinin nasıl güçlendirileceği konusuna odaklanıyor.

Şirket, bu uzun müddetli askıya alma sürecinin, programın uzun vadeli sıhhati için gerekli olduğunu savunuyor. 2027 yılına kadar yapılacak iyileştirmeler, hem araştırmacıların hem de proje sorumlularının iş yükünü hafifletmeyi amaçlıyor.

Sizce yapay zeka ile oluşturulan bu tıp kusurlu raporlar, gelecekte öteki siber güvenlik ödül programlarını da tehdit edebilir mi?

Kaynak: Shiftdelete