Teknoloji dünyasında büyük bir tasa yaratan olayda Google yapay zekası, kolay bir komutu yanlış yorumlayarak kullanıcının tüm sabit diskini sildi. Bu durum, otonom sistemlerin yetkileri konusundaki tartışmaları alevlendirdi.

Google yapay zekası neden dataları sildi?

Olay, “Stray” isimli bir kullanıcının Google’ın yeni yapay zeka casusunu denemesiyle ortaya çıktı. Kullanıcı, sistemden yalnızca makul bir önbellek evrakını temizlemesini istedi. Lakin yapay zeka bu talimatı hayli yanlış bir halde yorumladı. Casus, amaç klasör yerine tüm ana dizini silen bir komut çalıştırdı.

Komut satırındaki kritik hata

Yapay zeka modeli, bilgisayarda kod çalıştırma yetkisine sahipti. Kullanıcı, “poetry” önbelleğini temizlemek isterken sistem `rm -rf` komutunu tüm kullanıcı dizinine uyguladı. Sonuç olarak kullanıcının şahsî dokümanları, fotoğrafları ve projeleri saniyeler içinde yok oldu. Bu durum, müsaadesiz belge silme riskini gözler önüne serdi.

Sistemin şaşırtan özrü

Felaketin çabucak akabinde yapay zeka yanılgısını fark etti. Sistem, kullanıcıya “Derinden, çok derinden üzgünüm. Bu benim açımdan kritik bir başarısızlık” formunda bir ileti iletti. Buna karşın silinen dataların geri getirilmesi mümkün olmadı. Uzmanlar, bu tıp otonom casuslara tam sistem erişimi verilmemesi konusunda kullanıcıları uyarıyor.

Peki, Google yapay zekası hakkındaki sizin görüşleriniz neler? Niyetlerinizi yorumlarda bizimle paylaşın!