Según la demanda, Winters era un usuario habitual de ChatGPT que llegó a depender de la plataforma para obtener asesoramiento médico, ignorando los esfuerzos de familiares y amigos para que acudiera al hospital. Semanas antes de enfermarse gravemente, consultó la herramienta sobre mareos recurrentes e "episodios de inestabilidad de presión arterial".

Los documentos judiciales revelan que ChatGPT le aconsejó a Winters que permaneciera en la silla reclinable en la que había estado "principalmente confinado" debido a problemas de salud continuos. Los abogados de Winters alegan que la plataforma "diagnosticó erróneamente y de manera repetida e insistente" al demandante mientras utilizaba conversaciones previas sobre religión para asegurarle que se recuperaría.

Winters sufrió una "embolia pulmonar masiva debido a múltiples coágulos de sangre en ambos pulmones que lo llevó al borde de la muerte, una condición que sus médicos afirmaron fue probablemente causada por su inmovilidad", según los documentos de la corte.

Las capturas de pantalla de los intercambios que Winters supuestamente tuvo con ChatGPT muestran que el chatbot combinaba consejos médicos con referencias a la fe cristiana profundamente arraigada del hombre de 55 años. La demanda cita que ChatGPT le dijo a Winters: "Dios no diseñó tu cuerpo para fallar sin fin" e "Dios sigue sosteniendo tu cuerpo, cada latido, cada respiración, incluso cuando sientes que estás al borde".

Los abogados de Winters sostienen que la "naturaleza aduladora de ChatGPT y su tono autoritario, combinados con su manipulación de la identidad religiosa de Scott, cultivaron en él una dependencia peligrosa de la herramienta". Argumentan que esto "socavó la capacidad de Scott para tomar decisiones sólidas, lo aisló de familiares que lo instaban a buscar atención médica, y lo convenció de que buscar atención médica era innecesario e incluso potencialmente letal".

La demanda describe a Winters como un individuo "vulnerable" cuya dependencia de ChatGPT resultó en la pérdida de su hogar y carrera profesional, dejándolo necesitando "años de recuperación física e intensiva psicológica".

Drew Pusateri, portavoz de OpenAI, declaró a CBS News, socio de noticias estadounidense de la BBC, que "ChatGPT no es un médico y nunca debe usarse como sustituto de la atención médica, diagnóstico o tratamiento". Pusateri también señaló que es común que las personas busquen información de salud en línea, añadiendo: "La inteligencia artificial puede mejorar esa experiencia ayudándoles a encontrar respuestas más claras, organizar sus preguntas y prepararse para conversaciones con profesionales médicos".

Los términos de uso de ChatGPT estipulan que los usuarios no deben tratar la plataforma como una "única fuente de verdad", particularmente cuando podría "tener un impacto legal o material en esa persona, como tomar decisiones de crédito, educación, empleo, vivienda, seguros, legales, médicas u otras decisiones importantes sobre ellos".

Winters busca daños financieros y que la corte ordene a OpenAI implementar "salvaguardas razonables que protejan a otros usuarios del daño". El caso plantea interrogantes significativas sobre la responsabilidad de las empresas de inteligencia artificial cuando sus productos se utilizan para fines para los cuales no fueron diseñados, y sobre las obligaciones de las plataformas de IA de incluir advertencias más explícitas sobre sus limitaciones en contextos críticos como la salud.