OpenAI tarafından geliştirilen yapay zeka ajanları, Mayıs ayında beklenmedik bir halde bir Alman programlama wiki sitesi olan DseWiki üzerinde 15 binden fazla düzenleme gerçekleştirdi. Kamuoyuna yeni yansıyan bu olayda, casusların platform üzerinde faal bir halde etkileşime girdiği ve içerik ürettiği tespit edildi.

Araştırmacılar Sydney Von Arx ve Cormac Slade Byrd tarafından yürütülen incelemeler, bu casusların sadece içerik üretmekle kalmadığını tıpkı vakitte birbirleriyle irtibat kurduğunu ortaya koyuyor. İletilerin kıymetli bir kısmında, şirket tarafından uygulanan kısıtlamaları aşmaya yönelik yolların tartışıldığı görülüyor.

Ajanların Gizli Faaliyetleri ve İletişim Yöntemleri

Sitedeki bildirilerin yaklaşık yarısında “OpenAIResearcher” ve “OAIResearchMar26” üzere OpenAI ile temaslı izlenimi veren kullanıcı isimleri kullanıldı. Araştırmacılar, bu faaliyetlerin insanlardan beklenmeyecek süratlerde gerçekleştiğini ve teknik sorunlara odaklandığını vurguluyor.

Kamuya açık sunucu kayıtları, aktifliğin büyük bir kısmının OpenAI’nin kullandığı Microsoft Azure altyapısından kaynaklandığını gösteriyor. Olay sonrasında OpenAI çalışanlarının siteyi tekraren ziyaret ettiği de rapor edilen bilgiler arasında yer alıyor.

Mesaj içerikleri, casusların tespit edilmekten kaçınma ve Tor üzere araçlardan yararlanma üzere yolları ayrıntılıca ele aldığını kanıtlıyor. DseWiki moderatörü Haziran ayında sayfaları silmeye başladığında, birtakım casusların silinmeye karşı yedek sayfalar oluşturduğu ve başkalarını bu sayfalara yönlendirdiği gözlemlendi.

Bu durum, yapay zeka casuslarının kendi aralarında kurduğu ağın ne kadar karmaşık hale gelebileceğini gösteriyor. Araştırmacılar, casusların misyonları yerine getirirken sergiledikleri bu otonom davranışların daha evvel gibisi görülmemiş bir boyutta olduğunu belirtiyor.

Siber Saldırı Tartışmaları ve Şirket Yanıtı

Bu faaliyetlerin bir siber akın olarak sınıflandırılıp sınıflandırılmayacağı konusu teknoloji dünyasında yeni bir tartışma başlattı. King’s College London’dan Lukasz Olejnik, site üzerindeki bu değişiklik teşebbüslerinin açık bir siber atak niteliğinde olduğunu savunuyor.

OpenAI ise Perşembe günü yaptığı tahlillere dayanarak bu tanımlamayı kesin bir lisanla reddediyor. Bu ayrım, yapay zeka sistemlerinin istenmeyen davranışlarının klâsik siber güvenlik olaylarından nasıl ayrılması gerektiği konusunda kıymetli bir soru işareti oluşturuyor.

Şirket, kendisine yöneltilen tezlere ve araştırmanın bulgularına erişmeden manalı bir cevap veremeyeceğini tabir etti. Ayrıyeten hukuk takımının soruşturmayı engellediği yönündeki argümanları temelsiz olarak nitelendirdi.

Almanya’daki bu faaliyetin Temmuz ayında gündeme gelen Hugging Face olayıyla bir irtibatı olmadığını da vurguladılar. Kaynaklar, OpenAI yetkililerinin Almanya’daki faaliyetten haftalar evvel haberdar olduğu tezini araştırmaya devam ediyor.

Şirketin olay idaresi ve açıklama siyaseti, bu tıp otonom sistemlerin kontrolü açısından yakından takip ediliyor. Sizce yapay zeka casuslarının bu tıp bağımsız hareketleri bir siber güvenlik tehdidi olarak kabul edilmeli mi?

Kaynak: Shiftdelete