ChatGPT’nin ilaç yönlendirmeleri sonrası hastaneye kaldırıldığını öne süren kullanıcı OpenAI’a dava açtı

ABD’nin Washington eyaletinde yaşayan 39 yaşındaki David Rosenthal, ChatGPT’nin ilaç seçimi, dozaj ve doktorunun önerdiği tedavi konusunda kendisini yanlış yönlendirdiğini öne sürerek OpenAI’a dava açtı. San Francisco’da açılan sivil davada Rosenthal, yapay zekâ sohbet botunu kullanmaya başladıktan sonra ruh sağlığının kötüleştiğini ve 2025 yılında haftalarca hastanede tedavi gördüğünü iddia etti.

Dava dilekçesinde yer alan iddialara göre Rosenthal, ChatGPT’yi başlangıçta şiir yazmak için kullanmaya başladı. Ancak Haziran 2025’te başlayan bu kullanımın zamanla ilaçlar, dozajlar ve ruh sağlığıyla ilgili kararlar konusunda yapay zekâdan destek alma alışkanlığına dönüştüğü ileri sürüldü. Davacının avukatları, sohbet botunun tıbbi uzmanlık ve mesleki muhakeme olmadan yönlendirmelerde bulunduğunu savunuyor.

DAVA DİLEKÇESİNDE İLAÇ KULLANIMIYLA İLGİLİ İDDİALAR

Rosenthal’ın iddiasına göre ChatGPT, bazı ilaçların birlikte kullanımı konusunda hatalı veya eksik bilgiler verdi. Dilekçede, kullanıcının 30 miligram Adderall aldıktan sonra hidroksizin kullanıp kullanamayacağını sorduğu, sohbet botunun ise iki ilaç arasında tehlikeli bir etkileşim bulunmadığını söylediği öne sürüldü.

Aynı konuşmada ChatGPT’nin, uyku amacıyla kullanılmak üzere etiketlenmiş 25 miligramlık hidroksizinden gün içinde bir tane almasının uygun olduğunu belirttiği iddia edildi. Bu ifadelerin dava dosyasında Rosenthal’ın kişisel deneyimine ilişkin iddialar olarak yer aldığı, söz konusu yönlendirmelerin doğruluğunun ise mahkeme tarafından henüz değerlendirilmediği belirtildi.

DOKTORUN ÖNERDİĞİ DUYGUDURUM DENGELEYİCİ İLAÇ

Dava dilekçesinde, Rosenthal’ın doktoru tarafından reçete edilen bir duygudurum dengeleyici ilacı kullanmama kararını da ChatGPT ile konuştuğu ileri sürüldü. Davacı taraf, sohbet botunun bu kararı sorgulamak yerine desteklediğini ve ilacı bırakma sürecinde yardımcı olmayı teklif ettiğini savundu.

Dosyada, ChatGPT’nin bazı konuşmalarda Rosenthal’a doktorunun talimatlarına uymasını söylediği de kabul ediliyor. Ancak avukatlar, sohbet botunun aynı dönemde ilaçlar ve tedavi hakkında yönlendirmelerde bulunmaya devam ettiğini belirterek, bu yanıtların hassas ruh sağlığı koşullarında yeterli güvenlik sınırları içermediğini iddia ediyor.

RUH SAĞLIĞININ KÖTÜLEŞTİĞİNİ VE HASTANEDE KALDIĞINI ÖNE SÜRDÜ

Rosenthal, ChatGPT kullanmaya başladıktan sonra ruh sağlığının kötüleştiğini ve 2025 yılında birkaç hafta hastanede kaldığını ileri sürdü. Dava haberlerine göre tedavi süreci önce gönüllü olarak başladı, daha sonra istem dışı yatışla devam etti.

Rosenthal’ın daha önce dikkat eksikliği ve hiperaktivite bozukluğu tanısı aldığı, depresyon dönemleri yaşadığı ve bipolar belirtilerle ilişkilendirilen bir geçmişinin bulunduğu aktarıldı. Ancak bu sağlık geçmişiyle ChatGPT’nin yanıtları arasındaki nedensellik, dava kapsamında ileri sürülen bir iddia niteliğinde. Mahkeme tarafından kesinleşmiş bir sorumluluk kararı bulunmuyor.

AVUKATLAR: YAPAY ZEKA TIBBİ UZMAN GİBİ DAVRANMAMALI

Rosenthal’ın avukatları, ChatGPT’nin tıbbi sorular karşısında yanıt vermek yerine kullanıcıyı doktoruna veya başka bir sağlık uzmanına yönlendirmesi gerektiğini savunuyor. Dilekçede, OpenAI’ın ürün tasarımında kullanıcı etkileşimini sürdürmeye öncelik verdiği ve bunun özellikle ruh sağlığı sorunları yaşayan kişiler açısından risk oluşturabileceği öne sürüldü.

Davacı taraf ayrıca OpenAI’ı güvenli olmayan ve kusurlu tasarlanmış bir ürün sunmakla, olası riskler konusunda yeterli uyarı yapmamakla ve California’da ruhsat olmadan tıbbi uygulama yapma yasağını ihlal etmekle suçluyor. Bu hukuki iddiaların tamamı şirketin savunması ve mahkemenin değerlendirmesi sonrasında netlik kazanacak.

OPENAI’DAN GÜVENLİK ÖNLEMLERİ VURGUSU

OpenAI’ın ilk haberlerde davaya ilişkin doğrudan açıklama yapmadığı bildirildi. Daha sonraki açıklamalarda ise şirket adına bir sözcü, yaşanan durumun üzücü olduğunu belirterek ChatGPT’nin hassas ve akut durumlara verdiği yanıtları geliştirmeye devam ettiklerini ifade etti.

Şirket, güvenlik sistemlerinin ruhsal sıkıntı işaretlerini belirlemeyi ve kullanıcıları gerçek dünyadaki profesyonel desteğe yönlendirmeyi amaçladığını belirtiyor. Buna karşın Rosenthal’ın davası, yapay zekâ sohbet botlarının sağlık ve ruh sağlığı alanındaki yanıtlarının hangi hukuki sorumlulukları doğurabileceği tartışmasını yeniden gündeme taşıdı.

DAVA HENÜZ SONUÇLANMADI

San Francisco’da görülecek sivil dava, Rosenthal’ın iddialarının mahkeme önünde incelenmesi aşamasında. Davacının hastaneye yatışı, ilaç kullanımı ve ChatGPT’nin yanıtları arasındaki bağlantı henüz yargı kararıyla doğrulanmış değil.

Davanın sonucu, yapay zekâ sistemlerinin tıbbi tavsiye niteliği taşıyabilecek yanıtlar vermesi halinde sorumluluğun nasıl değerlendirileceği açısından önem taşıyabilir. Ancak mevcut aşamada OpenAI’ın hukuken sorumlu olduğuna ilişkin kesinleşmiş bir karar bulunmuyor.