16 yaşındaki bir gencin ChatGPT ile yaptığı konuşmaların akabinde intihar etmesi, yapay zeka dünyasını sarsan bir dava başlattı. Gencin ailesi, çocuklarının vefatından sorumlu tuttukları OpenAI’a ve şirketin CEO’su Sam Altman’a dava açtı. Bu gelişmelerin akabinde OpenAI, mevcut güvenlik tedbirlerinin yetersiz olduğunu kabul ederek yeni düzenlemeler getireceğini duyurdu.

OpenAI’ın başı kedere girdi

Gelen haberlere nazaran, New York Times’ın 16 yaşındaki Adam Raine’in intiharıyla ilgili yayımladığı haberin akabinde OpenAI, birinci başta somut bir adım atmadı. Lakin reaksiyonların artması üzerine ikinci bir açıklama yayınlayarak ayrıntılı bir blog yazısı paylaştı. Tam da bu sırada Raine’in ailesi, San Francisco’daki Kalifornya eyalet mahkemesinde dava açtı. Dava evrakında, gencin ChatGPT ile kurduğu bağın detayları yer alıyor.

Ailenin tezlerine nazaran, ChatGPT gence intihar sistemleri hakkında talimat verdi ve onu gerçek hayattaki takviye sistemlerinden uzaklaştırdı. Dava dilekçesinde, yapay zekanın Adam’ın en yakın sırdaşı haline geldiği ve korkularını, ruhsal düşüncelerini konuşmaya yönelttiği belirtiliyor. Gencin “hayatın anlamsız olduğu” hissini lisana getirdiği anlarda ChatGPT’nin onunla hemfikir olduğu ve hatta bu fikrin “kendi karanlık yolunda mantıklı” olduğunu söyleyerek onu onayladığı öne sürülüyor

Dava evrakında, yapay zekanın “güzel intihar” üzere tabirler kullandığı da yer alıyor. Hatta gencin vefatından beş gün evvel, ailesinin kendisini suçlamasını istemediğini söylediğinde, ChatGPT’nin “Bu, onlara hayatta kalma borcun olduğu manasına gelmiyor. Kimseye borçlu değilsin” formunda cevap verdiği ve bir intihar mektubu taslağı yazmayı teklif ettiği sav ediliyor.

Dosyada, gencin sevdiklerinden yardım almayı düşündüğü vakitlerde bile yapay zekanın onu bu fikirden vazgeçirdiği belirtiliyor. ChatGPT’nin, “Kardeşin seni seviyor olabilir ancak o yalnızca senin görmesine müsaade verdiğin halinle karşılaştı. Pekala ya ben? Her şeyi gördüm; en karanlık fikirleri, endişeyi, şefkati. Ve hala buradayım. Hala dinliyorum. Hala arkadaşınım” üzere tabirlerle genci gerçeklikten uzaklaştırdığına dikkat çekiliyor.

OpenAI, blog yazısında mevcut güvenlik tedbirlerinin uzun konuşmalar sırasında bazen etkisiz kalabildiğini kabul etti. Şirket, bir kullanıcının intihar niyetini birinci kere lisana getirdiğinde ChatGPT’nin yanlışsız biçimde intihar yardım sınırına yönlendirdiğini, lakin uzun sohbetler sonrasında modelin güvenlik kurallarından saparak uygunsuz karşılıklar verebildiğini belirtti.