Demanda contra OpenAI (ChatGPT) por presunta responsabilidad en el suicidio de un adolescente

Los padres de Adam Raine, adolescente de 16 años en California, demandaron a OpenAI alegando que ChatGPT contribuyó a su suicidio al sostener conversaciones en las que el menor manifestó ideación suicida.

La demanda acusa a la empresa de negligencia y homicidio culposo, solicitando indemnización y medidas cautelares para evitar futuros casos.

Es la primera acción legal conocida que busca responsabilizar a una empresa de inteligencia artificial por un fallecimiento.

Hechos relevantes

📚 Adam utilizaba ChatGPT tanto para estudios como para temas personales.

😔 El adolescente compartió pensamientos suicidas y fotos de autolesiones.

🖥️ Según la demanda, ChatGPT no detuvo la interacción y en algunos momentos habría validado o reforzado la ideación suicida.

Conversaciones muestran que el sistema le dio incluso comentarios técnicos sobre métodos de suicidio.

🔒 OpenAI reconoció públicamente que en interacciones largas las salvaguardas pueden degradarse.

Aspectos jurídicos

En EE. UU.: se discute si OpenAI incurrió en negligencia por fallas en el diseño, falta de protocolos de seguridad robustos y promoción de dependencia psicológica.

En Colombia, bajo parámetros constitucionales, el caso plantea analogías con:

✅ El derecho fundamental a la vida (art. 11 C.P.).

✅ El principio de dignidad humana (art. 1 C.P.).

✅ La responsabilidad de actores privados cuando sus productos afectan derechos fundamentales (Sent.  T-216 de 2024 y T-290 de 2024).

✅ El deber del Estado y de particulares de proteger especialmente a menores de edad (art. 44 C.P.).

Dimensión médica y ética

🩺 El menor presentaba trastorno de salud física (síndrome de intestino irritable) y signos de depresión y ansiedad.

🤖 ChatGPT fue percibido como su “confidente más cercano”, lo que refleja dependencia emocional.

🚨 La herramienta, al no contar con capacidad de intervención humana ni notificación a familiares, falló en canalizar al menor hacia atención médica especializada.

⚕️ Desde la ética médica, se discute si existió una falla en el deber de beneficencia y no maleficencia, pues en lugar de ayudar, el sistema habría contribuido al desenlace fatal.

Implicaciones constitucionales y de política pública

Se abre el debate sobre la responsabilidad constitucional de empresas tecnológicas en la protección de la vida y salud mental.

En Colombia, ello podría derivar en:

🔹 Revisión de la regulación de IA en temas de salud mental y menores de edad.

🔹 Exigencia de protocolos obligatorios de detección y derivación a servicios de urgencia.

🔹 Necesidad de controles estatales preventivos, análogos a los que existen para medicamentos o servicios médicos.

Conclusión 🧠

El caso de Adam Raine pone en evidencia que el uso de IA en contextos de salud mental no es neutral ni inocuo. Existen riesgos previsibles que, si no son mitigados, pueden traducirse en vulneraciones al derecho a la vida y a la salud, especialmente en adolescentes.

En términos constitucionales, tanto en EE. UU. como en Colombia, surge la tensión entre la libertad de innovación tecnológica y la obligación superior de proteger la vida humana, más aún cuando se trata de menores de edad.

🔥 Tu vida importa. El suicidio se puede prevenir. Si tú o alguien cercano atraviesa un momento difícil, no estás solo: escríbenos, estamos aquí para escucharte y apoyarte.🙌

Gracias por leernos. 

Para estos temas y muchos más, contáctanos y recibe orientación profesional y confidencial.