ABD’nin Florida eyaletinde görev yapan rahip Scott Winters, ChatGPT’nin verdiği yanlış tıbbi tavsiyeler nedeniyle akciğer embolisi geçirip ölümden döndüğünü belirterek OpenAI ve CEO Sam Altman’a dava açtı. San Francisco Eyalet Mahkemesine sunulan dilekçede, Winters’ın baş dönmeleri için yapay zeka modelinin yönlendirmesiyle hareketlerini kısıtladığı ve pıhtı belirtisi olan kasık ağrısının bot tarafından önemsiz gösterildiği ifade edildi. Yanlış yönlendirme sonucu hareketsiz kalarak akciğerine pıhtı atan ve hastaneye kaldırılan Winters, yapay zekanın ilerleyen süreçte doktorların önerdiği rehabilitasyon programını reddetmesini söylediğini ve zamanla tıbbi sorumluluk reddi uyarılarını vermeyi tamamen bıraktığını öne sürdü.
Şikayet dilekçesinde tazminat talebinin yanı sıra ChatGPT’nin acil tıbbi yardım gerektiren durumlarda sohbeti sonlandırmasını sağlayacak bir mahkeme kararı ve bağımsız güvenlik denetimleri yapılana kadar “ChatGPT Health” uygulamasının durdurulması isteniyor. OpenAI tarafı ise ChatGPT’nin bir doktor olmadığını ve profesyonel sağlık bakımının yerini alamayacağını savunurken, günlük yaklaşık 40 milyon kişinin sağlık konularında başvurduğu platform, benzer iddialarla açılan davalarla mücadele etmeye devam ediyor.