Google’ın arama motoruna entegre ettiği AI Overviews özelliği, internet üzerindeki tanınan kurgu cihanı SCP Foundation içeriklerini gerçek bilimsel bilgilerle karıştırarak önemli bir doğruluk sıkıntısıyla karşı karşıya kaldı.

Futurism tarafından yayınlanan rapora nazaran, yapay zeka algoritmaları bu hayali “anomalileri” dokümante edilmiş gerçek olaylar üzere sunarak kullanıcıları yanıltıyor.

Özellikle biyolojik ve paranormal ögeler içeren yüzlerce kurgusal rapor, yapay zeka tarafından rastgele bir ikaz etiketi eklenmeden bilgi kaynağı olarak kullanılıyor.

Bu durum, arama sonuçlarının en doruğunda yer alan yapay zeka cevaplarının güvenilirliğini bir kere daha tartışmaya açıyor.

Yapay Zeka Kurgusal İçerikleri Nitekim Ayırt Edemiyor

SCP Foundation, internet kullanıcılarının ortaklaşa oluşturduğu ve “anomalileri” içeren, büsbütün hayali bir bilim kurgu projesidir.

Ancak Google’ın yapay zeka modelleri, bu içerikleri tararken bağlamı kaçırarak onları gerçek dünya evraklarıyla tıpkı kefeye koyuyor.

Örneğin, SCP-426 kod isimli kurgusal bir objeyle ilgili yapılan aramalarda, sistem objenin kendi ağzından anlatılan öyküsünü bir gerçeklik üzere aktarıyor.

Sistemlerin kurgu ve gerçeği ayırt edememesi, bilhassa çocuklar ve araştırmacılar için önemli bir dezenformasyon riski oluşturuyor.

Sistemin ürettiği karşılıkların birden fazla, “lore” üzere tabirler içerse de bu tabirlerin kurgusal bir cihana ilişkin olduğu bilgisi net bir halde tabir edilmiyor.

Kullanıcılar, arama motorunun en üstünde çıkan bu bilgileri sorgulamadan yanlışsız kabul etme eğiliminde oldukları için, yapay zekanın sağladığı bu “yapay gerçeklik” epeyce ikna edici duruyor.

Google Kusurlu Algoritmaları Düzeltmeye Çalışıyor

Yapılan incelemelerde, Google’ın kimi sorgularda “kurgusal anomali” etiketini eklemeye başladığı gözlemlendi. Bu durum, mühendislerin sorunu fark ettiğini ve algoritmalara müdahale ettiğini gösteriyor. Tekrar de, sistemin şimdi dengeli bir güvenlik bariyerine sahip olmadığı ve misal kusurların tekrarlanmaya devam ettiği rapor ediliyor.

Yapay zeka teknolojisinin süratli gelişimi, arama motorlarının sunduğu bilginin kalitesini artırmayı hedeflese de, datanın kökenini doğrulama konusunda yaşanan bu çeşit zafiyetler büyük bir itimat sorunu yaratıyor.

Geçmişte yaşanan benzeri yanlışlar, Google’ın yapay zeka stratejisinin hala geliştirilmeye muhtaç olduğunu kanıtlıyor.

Yapay zekanın sunduğu bilgilerin doğruluğunu sorgulamak, dijital çağda bilgi okuryazarlığının en temel modülü haline geliyor.

Sizce yapay zeka tarafından üretilen bu şekil içeriklerin altına kesinlikle “kurgusaldır” uyarısı eklenmeli mi? Google’ın arama sonuçlarındaki doğruluk hissesi hakkındaki görüşlerinizi yorumlar kısmında bizimle paylaşabilirsiniz.

Kaynak: Shiftdelete