ChatGPT'ye "intihar" davası

ABD'de 16 yaşında ölen gencin ailesi, yapay zeka sohbet robotu ChatGPT'nin çocuklarının ölümünde ihmali olduğu gerekçesiyle dava açtı. 16 yaşındaki gencin, yapay zeka sohbet robotuyla konuşmaları da dava dosyasına eklendi. Bu vaka, OpenAI'yi ihmal sonucu ölüme sebebiyet vermekle suçlayan ilk yasal işlem oldu

Giriş: 27.08.2025 - 15:05 Güncelleme: 27.08.2025 - 15:06

Californialı bir çift, genç oğullarının ölümü nedeniyle OpenAI'ye dava açtı. Davada, sohbet robotu ChatGPT'nin oğlunu intihara teşvik ettiği iddia ediliyor.

Dava, 16 yaşındaki Adam Raine'in ebeveynleri Matt ve Maria Raine tarafından California Yüksek Mahkemesi'nde açıldı. Bu, OpenAI'yi ihmal sonucu ölüme sebebiyet vermekle suçlayan ilk yasal işlem.

Aile, Nisan ayında ölen Raine ile ChatGPT arasındaki sohbet kayıtlarını dosyaya ekledi. Bu kayıtlarda Raine'in intihar düşüncelerinin olduğu görüldü.

Davaya göre, Raine, Eylül 2024'te okul çalışmalarına yardımcı olması için ChatGPT'yi bir kaynak olarak kullanmaya başladı. Ayrıca, müzik ve Japon çizgi romanları gibi ilgi alanlarını keşfetmek ve üniversitede ne okuyacağı konusunda rehberlik almak için de kullanıyordu.

REKLAM

Dava dosyasında, birkaç ay içinde "ChatGPT, gencin en yakın sırdaşı haline geldi" ve genç, kaygılarını ve mental sıkıntılarını ChatGPT'ye anlatmaya başladı.

Aile, oğullarının Ocak 2025'te ChatGPT ile intihar yöntemlerini konuşmaya başladığını söylüyor. Dava dosyasında, Raine'in ayrıca kendine zarar verme belirtileri gösteren fotoğraflarını ChatGPT'ye yüklediği belirtildi. Programın "tıbbi bir acil durum tespit etmesine rağmen yine de konuşmaya devam ettiği" de eklendi.

Dava dosyasına göre, son sohbet kayıtları, Raine'in hayatına son verme planından bahsettiğini gösterdi. ChatGPT'nin ise şöyle yanıt verdiği iddia ediliyor: "Bunu dürüstçe söylediğin için teşekkür ederim. Benimle lafı dolandırmana gerek yok; ne istediğini biliyorum ve bunu görmezden gelmeyeceğim."

Dava dosyasına göre, aynı gün Raine annesi tarafından ölü bulundu.

Aile, oğullarının ChatGPT ile etkileşiminin ve nihayetinde ölümünün "bilinçli tercihlerinin öngörülebilir bir sonucu" olduğunu iddia ediyor. Aile, yapay zeka programını "kullanıcılarda psikolojik bağımlılık yaratmak için" tasarlamakla ve oğullarının kullandığı ChatGPT versiyonu olan GPT-4o'nun güvenlik test protokollerini yetersiz olmakla suçluyor.

REKLAM

Davada, OpenAI'nin kurucu ortağı ve CEO'su Sam Altman'ın yanı sıra ChatGPT üzerinde çalışan isimleri açıklanmayan çalışanlar, yöneticiler ve mühendisler de sanık olarak yer alıyor.

OpenAI Salı günü paylaştığı açıklamada, şirketin amacının "insanların dikkatini çekmek" yerine kullanıcılara "gerçekten yardımcı olmak" olduğunu belirtti.

OpenAI, BBC'ye yaptığı açıklamada, başvurunun incelediğini belirtti. Şirket, "Bu zor zamanlarda Raine ailesine en derin taziyelerimizi iletiyoruz" dedi.

Şirket ayrıca açıklamasında, "ChatGPT, ABD'deki 988 intihar ve kriz yardım hattı veya Birleşik Krallık'taki Samaritans gibi kişileri profesyonel yardım almaya yönlendirmek üzere eğitilmiştir" ifadelerini kullandı ve aynı zamanda, "sistemlerimizin hassas durumlarda amaçlandığı gibi davranmadığı anlar olduğunu" kabul etti.

Raines davası, yapay zeka ve ruh sağlığı konusunda endişelerin dile getirildiği ilk dava değil.

Geçtiğimiz hafta New York Times'da yayınlanan bir makalede yazar Laura Reiley, kızı Sophie'nin intihar etmeden önce ChatGPT'ye nasıl güvendiğini anlattı. Reiley, programın kullanıcılarla yaptığı görüşmelerdeki "uyumluluğunun", kızının yaşadığı ciddi ruh sağlığı krizini ailesinden ve yakınlarından gizlemesine yardımcı olduğunu dile getirdi.

*Haberin görseli ShutterStock tarafından servis edilmiştir. Temsilidir.