Common Sense Media bünyesindeki Youth AI Safety Institute tarafından yayınlanan yeni bir rapor, Google Arama’nın yapay zeka araçlarını maksat aldı. Raporda, AI Overviews ve AI Mode özelliklerinin çocuklar için kabul edilemez bir risk oluşturduğu sav edildi.

Google ise bu tezleri kategorik olarak reddederek raporun bulgularına karşı çıktı. Şirket, kelam konusu araçların çocuklar ve gençler için öğrenme süreçlerini destekleyen yararlı teknolojiler olduğunu savundu.

Google’dan güvenlik savunması

Google sözcüsü, raporun test prosedürlerinin gerçek kullanıcı davranışlarını yansıtmadığını belirtti. Şirkete nazaran raporda kullanılan sorgular hayli meçhul ve yapay zeka güvenliğini ölçmek için tesirli bir prosedür sunmuyor.

Arama motoru devi, raporda öne çıkarılan birçok karşılığı kendi sistemlerinde tekrar oluşturamadıklarını söz etti. Ayrıyeten, AI Overviews ve AI Mode özelliklerinin her sorgu için cevap üretmediği ve sadece inanç duyulan mevzularda devreye girdiği vurgulandı.

Google, hassas mevzularda uyarıcı notlar ve web temasları üzere çeşitli güvenlik tedbirlerinin faal olduğunu belirtti. Şirket, ebeveynlere çocuklarının arama tecrübesini denetim etmeleri için iki farklı metot sunduklarını da hatırlattı.

Kriz anlarında ise akademik ve klinik uzmanlarla geliştirilen yardım sınırlarının kullanıcılarla paylaşıldığı söz edildi. Google, çocuklara yönelik yaşa uygun yapay zeka okuryazarlığı kaynakları sağladıklarını ve bilgilerin doğrulanması konusunda ipuçları sunduklarını açıkladı.

Diğer yapay zeka platformları da mercek altında

Common Sense Media’nın raporu, daha geniş kapsamlı bir yapay zeka inceleme programının modülü olarak hazırlandı. Raporda yalnızca Google değil, Meta AI, Grok, AI Toys ve Character.AI üzere platformlar da kabul edilemez risk kategorisinde değerlendirildi.

Aynı incelemede Gemini K-12, Perplexity ve ChatGPT-5 üzere araçlar yüksek riskli olarak sınıflandırıldı. Claude ise bu listede orta risk derecesi alan az eserlerden biri oldu.

Google’ın güvenlik tedbirlerinin kâfi olup olmadığı konusundaki bu tartışmalar, teknoloji dünyasında yapay zeka kontrolü tartışmalarını yine alevlendirdi.

Sizce Google’ın çocuklara yönelik sunduğu bu güvenlik denetimleri kâfi mi, yoksa daha katı tedbirler alınmalı mı?

Kaynak: Shiftdelete