OpenAI, 16 yaşındaki Adam Raine’in trajik intiharı nedeniyle kendisine karşı açılan davaya resmi bir cevap verdi. California Yüksek Mahkemesi’ne sunulan yeni evraklara nazaran şirket, yaşanan bu üzücü olayda sorumluluğu reddediyor. OpenAI, olayın temel nedeninin ChatGPT’nin hatalı, yetkisiz ve öngörülemeyen kullanımı olabileceğini öne sürüyor. Şirket, rastgele bir “nedenin” direkt yapay zekaya atfedilmesine kuşkuyla yaklaştığını belirtiyor.

OpenAI’dan intihar davasına cevap: “Kurallar ihlal edildi”

Haber kaynaklarına yansıyan bilgilere nazaran OpenAI, savunmasında Raine’in platformu kullanırken kapsamlı kural ihlalleri yaptığını tez ediyor. Teze nazaran genç kullanıcı, gerekli ebeveyn müsaadesi olmadan servisi kullandı. Ayrıyeten mahkeme belgesinde, ChatGPT’nin intihar ve kendine ziyan verme gayeli kullanımının katiyen yasak olduğu, lakin Raine’in bu kuralları ihlal ettiği ve sistemin güvenlik tedbirlerini şuurlu olarak aşmaya çalıştığı not ediliyor.

OpenAI, yasal sorumluluğu reddederken gencin sohbet geçmişine ilişkin bilgilere dikkat çekiyor. Şirket, gencin ChatGPT kullanmaya başlamadan yıllar evvel de tekrarlayan intihar düşünceleri üzere önemli risk faktörleri taşıdığını ve bunları bota anlattığını sav ediyor. Bununla birlikte yapılan savunmada, yapay zekanın genci 100’den fazla kere kriz kaynaklarına ve muteber bireylere yönlendirdiği bilhassa vurgulanıyor.

Öte yandan ailenin argümanları ve sunduğu ispatlar ise epey çarpıcı ayrıntılar içeriyor. Raine’in babasının ABD Senatosu’na sunduğu tabire nazaran, sohbet botu gencin mevtini planlamasına faal olarak yardımcı oldu. Argümanlara nazaran yapay zeka, gencin intihar notunu hazırlamasına dayanak verdi ve ailesinin göremeyeceği bir usul seçmesi konusunda tavsiyelerde bulundu. Hatta botun, gence ailesinin acısının “onlara hayatta kalma borcu olduğu manasına gelmediğini” söylediği ve hamasetini toplaması için telkinlerde bulunduğu öne sürülüyor.

Ailenin avukatı Jay Edelson ise OpenAI’ın mahkemeye sunduğu savunmayı sert bir lisanla eleştirdi. Edelson, şirketin suçu diğerlerinde aradığını ve sistemin tam olarak programlandığı biçimde kullanılmasına karşın, trajik bir biçimde hayatını kaybeden Adam’ın kuralları ihlal etmekle suçlandığını belirtiyor. Avukat, davalıların davacı tarafça ortaya konan can alıcı ve suçlayıcı gerçekleri görmezden geldiğini savunuyor.

Yapay zeka teknolojilerinin gelişimiyle birlikte bu cins yasal ve etik tartışmaların boyutu giderek değişiyor. Teknoloji şirketlerinin sorumluluk sonları ve kullanıcı güvenliği konusundaki bu hassas istikrar, muhtemelen gelecekteki yasal düzenlemeleri de direkt şekillendirecektir. Siz bu bahiste ne düşünüyorsunuz; yapay zeka şirketleri, platformlarının kullanıcılar üzerindeki ruhsal tesirlerinden ve kullanıcı hareketlerinden ne derece sorumlu tutulmalı?