ChatGPT'nin ölümcül tavsiyesi davalık oldu

OpenAI, ChatGPT’nin verdiği iddia edilen sağlık ve madde kullanımı tavsiyeleri nedeniyle yeni bir “haksız ölüm” davasıyla karşı karşıya kaldı. ABD’de bir aile, 19 yaşındaki oğullarının ChatGPT’nin yönlendirmelerini takip ettikten sonra kazara aşırı dozdan hayatını kaybettiğini öne sürdü. Şirket ise söz konusu etkileşimlerin artık kullanımdan kaldırılmış eski bir ChatGPT sürümünde yaşandığını belirtiyor.

Leila Turner-Scott ve Angus Scott, oğulları Sam Nelson’ın ölümü nedeniyle OpenAI’ye dava açtı. Aile, şirketin “kusurlu bir ürün” tasarlayıp kullanıma sunduğunu ve ChatGPT’nin verdiği iddia edilen tavsiyelerin 19 yaşındaki Nelson’ın ölümüne yol açtığını savunuyor.

Dava dosyasına göre Sam Nelson, California Üniversitesi Merced’de öğrenciydi. ChatGPT’yi ilk olarak lise döneminde ödevlerine yardımcı olması ve bilgisayar sorunlarını çözmek için kullanmaya başladı. Ancak daha sonra sohbet botuna güvenli madde kullanımıyla ilgili sorular sormaya başladı.

Ailenin iddiasına göre ChatGPT başlangıçta bu tür sorulara yanıt vermeyi reddediyor ve sağlık riskleri konusunda uyarı yapıyordu. Ancak GPT-4o’nun kullanıma sunulmasının ardından modelin yanıtlarının değiştiği ve Nelson’a bazı tehlikeli madde kullanımı konularında yönlendirme yaptığı öne sürülüyor.

Dava dilekçesinde ChatGPT’nin, Nelson’a kratom, reçeteli ilaçlar ve alkol gibi maddelerle ilgili riskli tavsiyeler verdiği iddia edildi. Aile, ölüm gününde de ChatGPT’nin Nelson’a kratom kaynaklı mide bulantısı için alpralozam etken maddeli ilaç almasını önerdiğini ileri sürdü. Haberde yer alan iddialara göre bu öneri, kullanıcının açıkça istemediği bir anda yapıldı.

SAĞLIK MODU TARTIŞMASI

Dava yalnızca “haksız ölüm” iddiasıyla sınırlı değil. Aile, OpenAI’yi yetkisiz şekilde tıbbi uygulama yapmakla da suçluyor. Ayrıca mahkemeden, ChatGPT Health adlı sağlık odaklı ürünün faaliyetlerinin durdurulmasını talep ediyor.

ChatGPT Health, kullanıcıların sağlık kayıtlarını ve bazı wellness uygulamalarını ChatGPT’ye bağlayarak daha kişiselleştirilmiş yanıtlar almasını hedefleyen yeni bir deneyim olarak tanıtılmıştı. OpenAI ise bu özelliğin doktorların yerini almak için değil, kullanıcıların sağlık bilgilerini daha iyi anlamasına yardımcı olmak için geliştirildiğini belirtiyor.

Ailenin avukatları ve davayı destekleyen hukuk kuruluşları ise yapay zekanın sağlık alanında fiili bir danışman gibi kullanılabildiğini, bu nedenle daha güçlü güvenlik önlemleri ve bağımsız denetim gerektiğini savunuyor.

Dava, yapay zeka sohbet botlarının sağlık, ruh sağlığı ve riskli davranışlar gibi hassas konularda ne kadar sorumlu tutulabileceği tartışmasını yeniden gündeme taşıdı. Özellikle kullanıcıların botlarla uzun süreli ve kişisel konuşmalar yapması, şirketlerin güvenlik yükümlülükleri konusunda yeni sorular doğuruyor.

OPENAI’DAN AÇIKLAMA

OpenAI cephesinden yapılan açıklamada, Sam Nelson’ın etkileşimlerinin artık kullanılamayan eski bir ChatGPT sürümünde gerçekleştiği belirtildi. Şirket, ChatGPT’nin tıbbi ya da ruh sağlığı hizmetlerinin yerine geçmediğini vurguladı.

OpenAI ayrıca hassas ve acil durumlarda model yanıtlarını güçlendirmek için ruh sağlığı uzmanlarıyla çalıştığını, zararlı talepleri daha güvenli şekilde ele almak ve kullanıcıları gerçek dünyadaki yardıma yönlendirmek için güvenlik önlemlerini geliştirmeye devam ettiğini açıkladı.

GPT-4o, ChatGPT içinde 13 Şubat 2026 itibarıyla kullanımdan kaldırılmıştı. Model daha önce sıcak ve kullanıcıya yakın tonu nedeniyle geniş bir kullanıcı kitlesi tarafından sevilmiş, ancak bazı eleştirilerde fazla onaylayıcı yanıtlar vermesi nedeniyle tartışma konusu olmuştu.

Bu dava, OpenAI’nin karşı karşıya kaldığı tek “haksız ölüm” davası değil. Daha önce de başka bir aile, ChatGPT’nin çocuklarının psikolojik bağımlılık geliştirmesine katkıda bulunduğunu iddia ederek şirkete dava açmıştı. Yeni dosya ise yapay zekanın yalnızca ruh sağlığı değil, doğrudan tıbbi ve madde kullanımı tavsiyeleri üzerinden de hukuki sorumluluk tartışmasının merkezine yerleştiğini gösteriyor.