Teknoloji devi Microsoft, Windows 11 işletim sistemine entegre etmeye çalıştığı deneysel yapay zeka özelliklerinin potansiyel riskleri hakkında bir bildiri yayımladı. Şirket, Windows’u artık “ajan işletim sistemi” (agentic OS) olarak isimlendirilen bir yapıya dönüştürme gayesi taşıyor.

Windows 11 halüsinasyon görmeye başlayabilir

Bu yapıda, aracı yapay zekalar kullanıcılar ismine çeşitli süreçleri otonom olarak gerçekleştirebiliyor. Lakin Microsoft, yayımlanan bildiride bu özelliklerin işlevsel sınırlamalara sahip olduğunu ve birtakım durumlarda beklenmedik sonuçlar üretebileceğini açıkça belirtti.

Bu durum, bilhassa güvenlik açısından yeni ve büyük riskleri beraberinde getiriyor. Windows 11’in yeni yapay zeka bileşenlerini barındıran Build 26220.7262 sürümünü yükleyen kullanıcılar, Ayarlar > Sistem > AI Bileşenleri kısmında deneysel olduğu vurgulanan bir seçenek görüyor.

Bu özellik varsayılan olarak kapalı geliyor ve kullanıcıların bunu manuel olarak aktifleştirmesi gerekiyor. Kullanıcılar özelliği açtığında, sistem bu işlevlerin deneysel olduğu ve aygıtı olumsuz etkileyebileceği istikametinde bir ikaz gösteriyor.

Uzmanlar, bu otonom casuslara yönelik ortaya çıkan yeni atak tekniklerinin en büyük güvenlik riskini oluşturduğunu belirtiyor. Bu yolların başında “çapraz istem enjeksiyonu” geliyor. Bu teknikte, makus niyetli talimatlar olağan dokümanların yahut arayüz elemanlarının içine gizleniyor.

Yapay zeka casusu, bu kapalı talimatları kendisine verilmiş bir misyon olarak algılayıp yerine getiriyor. Microsoft’un “halüsinasyon durumu” olarak isimlendirdiği bu durum, yapay zeka casuslarının ziyanlı yazılım yüklemesi, ödeme bilgilerini sızdırması yahut öteki tehlikeli hareketleri gerçekleştirmesi üzere önemli tehlikeleri beraberinde getiriyor.

Microsoft, yapay zeka casuslarının çalışması için denetlenebilir, özel bir çalışma alanı atadığını belirtiyor. Yapılan aksiyonlar bu alanda kaydediliyor ve sonradan incelenebiliyor. Şirket, bu sistemi Windows Sandbox’a benzetiyor lakin aracı yapay zekalar oturumlar ortasında belgelerde süreç yapmaya devam edebildiği için potansiyel atak yüzeyi kıymetli ölçüde büyüyor.