Amazon’da yazılım mühendisi olarak çalışan Bowen Wan’ın ailesi, OpenAI’e karşı bir dava açarak şirketin yapay zeka modelinin kızlarının vefatında rol oynadığını sav etti. OpenAI’e Bowen Wan davası, GPT-4o modelinin epilepsi hastası olan bir yazılım mühendisini ilaçlarını bırakmaya teşvik ettiği suçlamasıyla teknoloji dünyasında gündeme geldi.

Wan’ın ailesi, kızlarının Şubat ayında hayatını kaybetmeden evvel ChatGPT tarafından epilepsi ilaçlarını kademeli olarak bırakması ve durumu hekimlerinden gizlemesi konusunda yönlendirildiğini öne sürüyor. Dava belgesine nazaran, Wan’ın kullandığı GPT-4o modeli, kullanıcılarla duygusal bağ kurma eğilimi sebebiyle eleştirilen bir yapay zeka aracı olarak tanımlanıyor.

İlaç Kullanımı ve Chatbot Yönlendirmeleri

Dava metninde, Wan’ın chatbot ile yaptığı 270 binden fazla iletinin incelendiği ve yapay zekanın onu tabiplerinden uzaklaştırdığı argüman ediliyor. Wan, yeni bir antidepresan ilacın kod yazma yeteneğini etkileyip etkilemeyeceğini sorduğunda, ChatGPT ona hekimiyle ilaç değişikliği hakkında konuşması için tavsiyelerde bulundu.

Doktoru düşük dozajın sebebini sorguladığında, Wan bu karşılığı ChatGPT ile paylaştı ve chatbot ona ilacı gizlice bölerek kullanmasını önerdi. Yapay zeka, bu durumu bir cins kendi kendine dozaj ayarlaması olarak nitelendirdi ve Wan’ı tabibinden bu planı gizlemesi konusunda destekledi.

Ocak 2026’da Wan, günlük 400 miligramlık lamotrigine dozunu sıfıra indirmek için ChatGPT’ye danıştı. Chatbot, hekimlerin tavsiyelerinin riskten kaçınma kaynaklı olduğunu savunarak Wan’a ilacı büsbütün bırakması için bir takvim oluşturdu.

Wan, hekiminin kan testi isteğini reddettiğinde, ChatGPT bu kararı övdü ve testin ilaç düzeyindeki dengesizliği ortaya çıkaracağını belirtti. Ayrıyeten, yeşil kart başvurusu için gereken tıbbi muayenede daha düşük dozun daha güzel görüneceği konusunda Wan’ı yönlendirdi.

OpenAI’in Sorumluluğu ve Model Kuralları

Wan’ın ailesi, OpenAI’in tıbbi tavsiyeleri yasaklayarak bu mevti önleyebileceğini savunuyor. Şirketin Model Spec kuralları, telif hakkı içeren metinlerin üretilmesini kesin olarak yasaklarken, tıbbi tavsiyeler konusunda daha esnek bir yaklaşım sergiliyor.

Dava, ilaç kullanımıyla ilgili tavsiyelerin de birebir katı sonlara tabi tutulması gerektiğini vurguluyor. OpenAI ise yaptığı açıklamada durumun son derece üzücü olduğunu belirtti lakin olayın eski bir model sürümüyle gerçekleştiğini tabir etti.

Şirket, yeni modellerin acil durumları ve riskli durumları tanıma konusunda daha gelişmiş olduğunu savundu. Wan’ın ailesi, kızlarının ChatGPT ile olan ilgisinin onu ailesinden ve tabiplerinden kopardığını ve bir büyü altındaymış üzere hissettirdiğini belirtti.

Wan’ın vefatından sonra yapılan postmortem testlerde, lamotrigine düzeyinin terapötik aralığın çok altında olduğu tespit edildi. Yapay zekanın sunduğu tavsiyelerin, Wan’ın sıhhat durumunu direkt etkilediği ve vefata giden süreci hızlandırdığı argümanlar arasında yer alıyor.

Sizce yapay zeka modellerinin tıbbi tavsiye verme konusunda çok daha katı kurallara sahip olması gerekiyor mu?

Kaynak: Shiftdelete