Google, yapay zeka takviyeli görsel üretim aracı Nano Banana 2’yi Google Earth platformuna entegre ettikten kısa bir müddet sonra bu özelliği geri çekme kararı aldı. Şirket, üretilen kimi görsellerin mevcut siyasetleri ihlal ettiğini belirterek daha kapsamlı güvenlik tedbirleri üzerinde çalışacağını duyurdu.

Google, 30 Temmuz tarihinde Nano Banana 2 teknolojisini Google Earth sistemine dahil ederek kullanıcıların gerçek dünya pozisyonları üzerinde yaratıcı görüntüler oluşturmasına imkan tanımıştı. Bilhassa coğrafik datalarla çalışan profesyoneller için yararlı olması beklenen bu yeni özellik, kısa müddet içinde beklenmedik problemlerle karşı karşıya kaldı.

Sahte ve aldatıcı görseller üretilebiliyor

Araştırmacılar, Google Earth platformuna entegre edilen yapay zeka aracının gerçekçi görünen lakin büsbütün uydurma sahneler oluşturabildiğini ortaya koydu. Yapılan denemelerde Beyaz Saray’ın önüne devasa bir Donald Trump heykeli yerleştirildiği, Meksika hududu yakınında hayali bir mülteci kampı oluşturulduğu ve İran’da gerçekte var olmayan bir nükleer tesisin görüntülendiği tespit edildi.

Ayrıca Amsterdam’da hiç yaşanmamış bir trafik kazasını gösteren uydurma görsellerin üretilebildiği de paylaşılan örnekler arasında yer aldı. Bu tıp içeriklerin oluşturulabilmesi, platformun güvenilirliği konusunda önemli soru işaretleri yarattı.

Daha güçlü güvenlik tedbirleri getirilecek

Google, resmi haber hesabı üzerinden X platformunda yaptığı açıklamada, kullanıcıların Google Earth’ü dünyanın sağlam bir görünümü olarak kabul ettiğini vurguladı. Kimi kullanıcıların yapay zeka ile oluşturulan bu geçersiz imajları ekran imgesi alarak paylaşmaya başlaması, şirketin siyasetlerini ihlal eden bir durum olarak değerlendirildi.

Bu sebeple Google, kelam konusu özelliği Google Earth platformundan süreksiz olarak kaldırma kararı aldı. Şirket, daha güçlü güvenlik tedbirleri geliştirdikten sonra bu özelliği yine sunmayı değerlendireceğini belirtti.

Yeni güvenlik tedbirlerinin hangi cins görselleri engelleyeceği konusunda ise şimdi net bir bilgi verilmedi. Google, yapay zeka tarafından oluşturulan görsellerin ana tecrübede başka kullanıcıların karşısına çıkmadığını ve bu içeriklerin yapay zeka üretimi olduğunu belirten bir filigran taşıdığını söz etti.

Google Earth’ün bu yeni yapay zeka atağı hakkında siz ne düşünüyorsunuz?

Kaynak: Shiftdelete