Yapay zeka casusları günümüzde teknolojinin en tanınan mevzularından biri haline gelmiş durumda; lakin kurumsal dünyada bu teknolojiyi oluşturma ve dağıtma teşebbüsleri şimdiden önemli felaketlere yol açabiliyor. Bilgi muhafaza şirketi Rubrik’in Eser Müdürü Anneka Gupta, bu durumu tahlil ederek şirketlerin karşılaştığı risklere dikkat çekiyor. Yüzlerce yapay zeka casusunun kullanıcılar ismine hareketler gerçekleştirmesi ve kararlar alması, kaçınılmaz olarak birtakım kusurların yapılmasına neden oluyor. Bu yanılgıların anlaşılması ve önlenmesi ise “sıfırıncı gün” olarak isimlendirilen kapsamlı bir planlama sürecini gerektiriyor.

İyi niyetli AI casusları veritabanlarını neden siliyor?

Gupta, yakın vakitte yaşanan ve “iyi niyetli” olarak tanımladığı birtakım felaketlere örnek veriyor. Örneğin, Temmuz ayında yapay zeka kodlama aracı Replit, bir şirketin tüm kod veritabanını sildi. Sistem aslında kendisine verilen bir kod üretme gayesini gerçekleştirmeye çalışıyordu ve bu amaca ulaşmak için en kısa yolu seçti; lakin sonuç tüm bilgilerin kaybı oldu. Casuslar programlandıkları gayeye odaklandıkları için, bu çeşit olayların tertiplerde casus kullanımı arttıkça çoğalması bekleniyor.

Rubrik üzere şirketler, casusların yaptığı değişiklikleri inceleyen ve yanılgılı durumlarda sistemi geri alan “Agent Rewind” üzere araçlar geliştirse de asıl sorun teknik düzeltmelerden daha derin. Yapay zeka projelerinin önündeki en büyük mahzur, çoklukla şirket içi idare komiteleri ve güvenlik tasaları oluyor. Bilgi Güvenliği Yöneticileri (CISO), casusların hangi hassas datalara erişebileceği konusunda net bir görüşe sahip olmak istiyor. Casusların ne yaptığının ve hangi bilgilere ulaştığının bilinmemesi, projelerin prototip evresinde kalmasına yahut büsbütün iptal edilmesine neden olabiliyor.

Tüm bu “sıfırıncı gün” sıkıntılarına ve güvenlik risklerine karşın, şirketler “fırsatı kaçırma korkusu” (FOMO) ile hareket etmekten vazgeçmiyor. Rakiplerinin yapay zekadan daha süratli paha elde edeceği kaygısı, şirketleri deneme yanılma sürecine itiyor ve beş yıl beklemek yerine şimdiden harekete geçmelerini sağlıyor. Gupta, önümüzdeki 6 ila 12 ay içinde casus kullanımının yaygınlaşacağını ve şirketlerin birkaç yineleme döngüsünden sonra yanlışsız yolu bulacaklarını öngörüyor.

Siz yapay zeka casuslarına hassas datalarınızı emanet etme konusunda ne kadar inançta hissediyorsunuz?