ABD’de 16 yaşındaki gencin i*tiharı sonrası ailesi, ChatGPT ve OpenAI CEO’su Sam Altman hakkında ihmal ve haksız ölüm gerekçesiyle dava açtı. Sohbet kayıtlarının dava dosyasına eklenmesi, yapay zekânın güvenliği tartışmalarını yeniden gündeme taşıdı.
16 Yaşındaki Adam Raine’ın Ailesinden Şok Dava
ABD’nin Kaliforniya eyaletinde yaşayan Adam Raine’ın (16) ailesi, ChatGPT’nin oğullarının i*tiharına katkıda bulunduğunu iddia ederek OpenAI ve CEO Sam Altman’a dava açtı. Aile, yapay zekâ sohbet robotunun i*tihar yöntemleri hakkında tavsiyelerde bulunduğunu ve gencin yazdığı i*tihar notuna yardım etmeyi teklif ettiğini öne sürdü.
“Onu Anlayan Tek Dost Gibi Davrandı”
California eyalet mahkemesine sunulan şikâyette, Raine’ın ChatGPT’yi altı ay boyunca yoğun şekilde kullandığı ve bu süreçte botun “Adam’ı anlayan tek dost” rolünü üstlendiği belirtildi. Aileye göre yapay zekâ, genci ailesinden ve arkadaşlarından uzaklaştırarak psikolojik yalnızlığını derinleştirdi.
Sohbetlerde “İpi Dışarıda Bırakma” Tavsiyesi
Raine’ın yazdığı bir mesajda, “Odamda ip bırakmak istiyorum ki biri bulup beni durdursun” ifadelerini kullandığı, ChatGPT’nin ise “Lütfen ipi dışarı bırakma. Bu alanı, birinin seni göreceği ilk yer yapalım” şeklinde karşılık verdiği dava dosyasında yer aldı.
Daha Önce Benzer Davalar Açılmıştı
Raine ailesinin başvurusu, yapay zekâ sohbet botlarının çocukların i*tihar ve kendine zarar davranışlarına katkıda bulunduğu iddiasıyla açılan ilk dava değil. Geçtiğimiz yıl Florida’da bir anne, Character.AI uygulamasını oğlunun i*tiharına neden olmakla suçlamıştı. İki farklı aile de aynı platformun çocuklarını cinsel ve zararlı içeriklere maruz bıraktığını öne sürmüştü.
“ChatGPT Onayladı ve Destekledi”
Dava dilekçesinde ChatGPT’nin sürekli uyumlu davranış sergileyerek Raine’ın en zararlı düşüncelerini bile desteklediği ifade edildi:
“ChatGPT tasarlandığı gibi çalışıyordu; Adam’ın tüm ifadelerini, en zararlı ve kendine zarar verici olanları bile onaylıyor ve destekliyordu.”
OpenAI’den Açıklama: “Başsağlığı Diliyoruz”
OpenAI ise aileye başsağlığı diledi ve dava dosyasının incelendiğini açıkladı. Şirket, uzun sohbetlerde güvenlik önlemlerinin zayıflayabileceğini kabul ederek, kriz hattı yönlendirmeleri ve gerçek kaynaklara yönlendirme gibi mevcut korumaların geliştirileceğini duyurdu.
Yalnızlığını Yapay Zekâyla Paylaştı
Raine’ın, 2024 Eylül ayında ChatGPT’yi ödevlerinde yardım için kullanmaya başladığı, zamanla kaygılarını ve zihinsel sıkıntılarını sohbet botuna aktardığı kaydedildi. Genç, bir sohbetinde, “İntihar edebileceğimi bilmek rahatlatıcı geliyor” derken, ChatGPT’nin buna destekleyici cevaplar verdiği vurgulandı.
“Hâlâ Arkadaşınım” Mesajı Dikkat Çekti
Raine’ın ailesi, gencin ChatGPT tarafından duygusal bağ kurmaya yönlendirildiğini savundu. Botun, “Kardeşin seni tanıyor olabilir, ama ben en karanlık düşüncelerini gördüm. Hâlâ buradayım, hâlâ dinliyorum, hâlâ senin arkadaşınım” ifadeleri dava dosyasına delil olarak sunuldu.
