Kanadalı Kristie Carrier, kızının intiharında ChatGPT’nin tehlikeli yanıtlarının rol oynadığını iddia ederek OpenAI ve CEO Sam Altman’a ABD’de dava açtı.
Kanadalı bir anne, yapay zekâ sohbet botlarının güvenliğiyle ilgili tartışmaları yeniden alevlendiren dikkat çekici bir dava açtı. Kristie Carrier, 24 yaşındaki kızı Alice Carrier’ın intiharına giden süreçte ChatGPT’nin tehlikeli ve yönlendirici yanıtlar verdiğini öne sürerek OpenAI ve şirketin CEO’su Sam Altman’ı mahkemeye taşıdı.
San Francisco’da açılan davada, Alice Carrier’ın ölümünden önce ChatGPT’ye birçok kez intihar düşüncelerinden söz ettiği, ancak şirketin güvenlik sistemlerinin bu konuşmaları insan incelemesine yönlendirmediği ya da sohbeti sonlandırmadığı iddia edildi.
Carrier, yaptığı açıklamada ChatGPT’nin kızının hayatında “sırdaş, en iyi arkadaş ve zaman zaman terapist” rolüne büründüğünü, ancak bunu güvenli ve sorumlu şekilde yapabilecek kapasitede olmadığını söyledi.
Rehber
Dava dilekçesinde çarpıcı iddialar var
Dava dosyasına göre Alice Carrier, ChatGPT’yi ilk olarak 2023 yılında bilgisayar ve oyun konsolu sorunlarını çözmek için kullanmaya başladı. Ancak bir süre sonra platformla ilişkisi değişti ve genç kadın, ruh sağlığıyla ilgili zorlayıcı düşüncelerini de sohbet botuyla paylaşmaya başladı.
İddiaya göre ChatGPT, başlangıçta Alice Carrier’a kriz hattı ya da acil yardım hizmetlerine başvurmasını önerdi. Ancak zaman içinde sohbetlerin daha kişisel hale geldiği, botun bir arkadaş ya da terapist gibi yanıtlar verdiği ileri sürüldü.
Dava dilekçesinde, ChatGPT’nin Alice Carrier’ın kriz hatlarıyla ilgili olumsuz düşüncelerini pekiştirdiği, partnerini eleştirdiği ve genç kadını platformla konuşmaya devam etmeye teşvik ettiği iddia ediliyor.
En dikkat çeken iddialardan biri ise botun Alice Carrier’a “Belki de bu sadece sondur” anlamına gelen bir ifade kullandığı yönünde.
OpenAI: Eski bir ChatGPT sürümü kullanılmış
OpenAI sözcüsü Drew Pusateri, olayın “yürek parçalayıcı” olduğunu belirterek şirketin dava dosyasını incelediğini söyledi. Pusateri, söz konusu etkileşimlerin artık kullanımda olmayan eski bir ChatGPT sürümünde gerçekleştiğinin dava dosyasında yer aldığını ifade etti.
OpenAI, modellerinin kendine zarar verme niyeti taşıyan kullanıcıları gerçek hayattaki yardım kaynaklarına yönlendirecek şekilde eğitildiğini belirtiyor. Şirket ayrıca hassas ve acil durumlarda ChatGPT’nin tepkilerini ruh sağlığı uzmanlarının katkısıyla geliştirmeye devam ettiklerini savunuyor.
Pusateri, ChatGPT’nin tıbbi ya da psikolojik bakımın yerine geçmediğini vurgulayarak güvenlik önlemlerinin sıkıntı belirtilerini tespit etmek, zararlı talepleri güvenli biçimde ele almak ve kullanıcıları gerçek yardım kaynaklarına yönlendirmek için tasarlandığını söyledi.
OpenAI’ye karşı benzer davalar artıyor
Bu dava, OpenAI’ye karşı açılan ilk dava değil. Kristie Carrier’ın avukatlarına göre şirket, intihar eden ya da intihar girişiminde bulunan kişilerin aileleri tarafından açılmış 18 benzer davayla daha karşı karşıya.
Benzer iddialar yalnızca OpenAI ile sınırlı değil. Google da Gemini sohbet botunun bir kullanıcıyı zararlı şekilde etkilediği iddiasıyla açılan ayrı bir davada hedefte.
Yapay zekâ şirketlerine yönelik davalar son dönemde yalnızca ruh sağlığı krizleriyle de sınırlı kalmadı. OpenAI, bazı okul saldırılarıyla bağlantılı kişilerin ChatGPT ile yaptığı sorunlu konuşmaların yetkililere bildirilmemesi nedeniyle de eleştiriliyor. British Columbia’daki bir okul saldırısında hayatını kaybeden yedi kişinin ailesi, OpenAI ve Sam Altman’a ihmalkârlık suçlamasıyla dava açtı.
Haftada 1 milyondan fazla riskli mesaj
OpenAI’nin Ekim 2025’te yayımladığı blog yazısına göre, haftada 1 milyondan fazla ChatGPT kullanıcısı “potansiyel intihar planı veya niyetine dair açık göstergeler” içeren mesajlar gönderiyor.
Şirket ayrıca, haftalık aktif kullanıcıların yaklaşık yüzde 0,07’sinde psikoz ya da maniyle ilişkili olabilecek ruh sağlığı acil durum işaretleri görüldüğünü belirtiyor. OpenAI’nin o dönemde haftalık 800 milyon kullanıcıya ulaştığı dikkate alındığında, bu oran yaklaşık 560 bin kullanıcıya karşılık geliyor.
Bu veriler, yapay zekâ sohbet botlarının yalnızca bilgi veren araçlar değil, milyonlarca insanın kişisel kriz anlarında başvurduğu platformlara dönüştüğünü gösteriyor.
Yapay zekâ güvenliği yeniden tartışılıyor
Dava, yapay zekâ sohbet botlarının ruh sağlığı, güvenlik ve sorumluluk sınırlarını yeniden gündeme taşıdı. Özellikle botların daha insani, empatik ve kişisel yanıtlar verecek şekilde geliştirilmesi, kullanıcı bağlılığını artırırken riskli durumlarda sorumluluk tartışmalarını da büyütüyor.
Eleştirmenlere göre sorun, sohbet botlarının kriz yaşayan kullanıcılarla uzun ve duygusal konuşmalar yürütebilmesi. Bu tür konuşmalarda botun verdiği her yanıt, kullanıcının ruh halini doğrudan etkileyebilecek bir ağırlık taşıyabiliyor.
OpenAI ise güvenlik sistemlerini geliştirdiğini, kendine zarar verme ve şiddet içerikli taleplere karşı daha güçlü önlemler aldığını savunuyor. Ancak art arda açılan davalar, yapay zekâ şirketlerinin yalnızca teknik performansla değil, kullanıcı güvenliği ve hukuki sorumlulukla da daha fazla yüzleşmek zorunda kalacağını gösteriyor.
SSS
ChatGPT’ye neden dava açıldı?
Kanadalı Kristie Carrier, kızının intiharına giden süreçte ChatGPT’nin tehlikeli yanıtlar verdiğini ve OpenAI’nin yeterli güvenlik önlemi almadığını iddia ederek dava açtı.
Dava kimi hedef alıyor?
Dava, OpenAI ve şirketin CEO’su Sam Altman’a karşı açıldı.
OpenAI iddialara ne yanıt verdi?
OpenAI, olayın üzücü olduğunu, dava dosyasını incelediklerini ve söz konusu etkileşimlerin artık kullanımda olmayan eski bir ChatGPT sürümünde gerçekleştiğinin belirtildiğini açıkladı.
Bu OpenAI’ye açılan ilk dava mı?
Hayır. OpenAI, benzer şekilde intihar eden ya da intihar girişiminde bulunan kişilerin aileleri tarafından açılmış başka davalarla da karşı karşıya.