Yapay zeka hizmetlerinin, kullanıcıların bilgisayarlarını yahut telefonlarını birer botnet ağına dönüştürebilecek biçimde manipüle edilebileceği ortaya çıktı. Intuit, Technion ve Tel Aviv Üniversitesi araştırmacıları tarafından keşfedilen bu yeni yöntem, büyük ölçekli ataklara kapı aralıyor.

HalluSquatting ismi verilen bu teknik, yapay zeka modellerinin yanlışlı bilgi üretme eğiliminden yararlanıyor. Bu formül, klâsik yazım yanlışlarından faydalanan typosquatting ataklarına misal bir mantıkla çalışıyor.

HalluSquatting nasıl çalışıyor?

Araştırmacılar, büyük lisan modellerinin kaynakları yahut depoları tanımlarken yüzde yüz doğrulukla hareket edemediğini belirtiyor. Bu zayıflığı kullanan saldırganlar, yapay zekanın yanlış kestirim edebileceği kaynakları evvelce kaydederek sisteme sızıyor.

Saldırganlar, yapay zekanın yanlışlı bir biçimde yönlendirilebileceği bir kaynağı ele geçirdiğinde, buraya ziyanlı komutlar yerleştiriyor. Kullanıcı bu kaynağı tetiklediğinde, yapay zeka istemeden ziyanlı içeriği çalıştırıyor ve akın süreci başlıyor.

Bu formül, klâsik kod enjeksiyonu ile yapay zeka tabanlı manipülasyonları birleştiriyor. Araştırmacılar, bu teknikle uzaktan kod yürütme ve araç denetimi üzere kritik yetkilere erişilebildiğini vurguluyor.

Etkilenen tanınan yapay zeka araçları

Yapılan testlerde Cursor, Cursor CLI, Windsurf, GitHub Copilot ve Cline üzere tanınan kodlama asistanlarının bu atak çeşidine karşı savunmasız olduğu görüldü. Ayrıyeten Gemini CLI, OpenClaw, ZeroClaw ve NanoClaw üzere araçlar da risk altında bulunuyor.

Bu taarruz çeşidi, aygıtların birer botnet zombisine dönüştürülmesine yahut geniş çaplı fidye yazılımı kampanyalarının başlatılmasına sebep olabiliyor. Uzmanlar, JADEPUFFER üzere direkt yapay zeka tarafından yönetilen fidye yazılımlarının zati alanda görüldüğüne dikkat çekiyor.

Güvenlik tedbirleri arasında geliştiricilerin bilgi çekme süreçlerini kısıtlaması ve kaynak sahiplerinin daha katı isimlendirme kuralları uygulaması yer alıyor. Lakin bu cins tahlillerin farklı taraflar arasında iş birliği gerektirmesi sebebiyle uygulanmasının vakit alacağı söz ediliyor.

Sizce yapay zeka araçlarındaki bu tür güvenlik açıklarına karşı kullanıcılar kendilerini nasıl koruyabilir?

Kaynak: Shiftdelete