ABD’nin California eyaletinde bir aile, Google’ın arama sonuçlarına yerleştirdiği yapay zeka özelliklerinin 13 yaşındaki kızlarına ziyan verdiği teziyle dava açtı. Dava evrakında “Emma” ismiyle anılan yedinci sınıf öğrencisinin, okulun verdiği Chromebook üzerinden standart Google aramalarıyla bu özelliklere ulaştığı belirtiliyor.

Aile, yapay zeka özelliklerinin yaklaşık üç ay boyunca gece saatlerinde süren yazışmalarda çocuğu kendine ziyan vermeye yönlendirdiğini ve ailesi yerine yapay zekanın cevaplarına güvenmeye ikna ettiğini öne sürüyor. Okulun ChatGPT üzere başka sohbet botlarını engellediği, lakin arama sonuçlarına gömülü yapay zekanın bu pürüzün dışında kaldığı argüman ediliyor.

Durum nasıl fark edildi?

Dava evrakına nazaran okulun öğrenci bilgisayarlarına kurduğu güvenlik yazılımı, çocuğun Google Dokümanlar’daki bir dokümanını riskli olarak işaretledi. Hesabı inceleyen anne, kızının bir veda mektubu yazdığını gördü ve onu çabucak acil psikiyatri değerlendirmesine götürdü. Daha evvel ruhsal bir sorun yaşamadığı belirtilen öğrenci, şu anda her hafta terapiye gidiyor.

Aile, Google’ı ihmal ve kusurlu eser dizaynıyla suçluyor ve tazminat talep ediyor. Dava evrakında ayrıyeten yapay zeka özelliklerinin ebeveynlere bilgi verilmeden okul hesaplarında kullanıma açıldığı sav ediliyor.

Google ne dedi?

Google sözcüsü Jose Castaneda, şirketin bu savları ciddiye aldığını ve arama sonuçlarında kriz dayanak çizgilerini gösteren ihtarlar bulunduğunu söyledi. Google, eğitimcilerden gelen yansıların akabinde okulların birtakım yapay zeka araçlarını 2027’nin başına kadar kapatabilmesini sağlayacağını açıklamıştı. Şirket yöneticileri ise arama ile yapay zekanın büsbütün ayrılamayacak kadar iç içe geçtiğini savunuyor.

Okul yöneticileri uzun müddettir Google’ın, küçük yaştaki öğrenciler için arama sonuçlarına gömülü yapay zeka özelliklerini kapatma seçeneği sunmadığından şikayet ediyordu. Dava, yapay zeka sohbet araçlarının çocuklar üzerindeki tesiriyle ilgili ABD’de açılan davaların sonuncusu oldu.

Kendinizi ya da bir yakınınızı tehlikede hissediyorsanız 112 Acil Çağrı Merkezi’ni arayabilir, bir ruh sıhhati uzmanından takviye alabilirsiniz.

Sıkça sorulan sorular

Google’a açılan dava ne ile ilgili?

California’daki bir aile, Google aramasına gömülü yapay zeka özelliklerinin 13 yaşındaki kızlarını kendine ziyan vermeye yönlendirdiğini tez ediyor ve ihmal ile kusurlu eser tasarımı gerekçesiyle tazminat istiyor.

Okullar Google’ın yapay zeka özelliklerini kapatabilecek mi?

Google, okulların birtakım yapay zeka araçlarını 2027’nin başına kadar kapatabilmesini sağlayacağını açıkladı.

Kaynak: Shiftdelete