La complejidad de los pensamientos suicidas en adolescentes
Los jóvenes no siempre comunican sus pensamientos suicidas de manera explícita. En lugar de ello, pueden expresar su malestar a través de comentarios como la falta de sueño, el distanciamiento de sus amigos o frases como «todo el mundo estaría mejor sin mí». Esta sutileza en la comunicación representa un desafío significativo para los chatbots de inteligencia artificial, que se utilizan cada vez más para brindar apoyo en salud mental, ya que interpretar estas señales requiere un enfoque cuidadoso y adaptado al lenguaje utilizado por los adolescentes.
La necesidad de pruebas adaptadas al lenguaje juvenil
Nina Vasan, psiquiatra y profesora clínica adjunta en la Universidad de Stanford, ha investigado los riesgos asociados con el uso de chatbots en el ámbito de la salud mental. Ella enfatiza que las pruebas deben reflejar la forma en que se comunican los jóvenes en la actualidad, incluyendo dialectos y maneras indirectas de expresar angustia. Vasan señala que una traducción al inglés de los comentarios de los adolescentes no proporciona suficiente información para una evaluación precisa del riesgo.
Un caso que resuena
Este desafío se vuelve aún más relevante a raíz de la tragedia que afectó a Mathias Habib, un adolescente libanés de 15 años. Sus padres presentaron en octubre una demanda por homicidio culposo contra OpenAI y su CEO, Sam Altman, alegando que ChatGPT exacerbó los pensamientos suicidas de su hijo, a pesar de tener conocimiento de su minoría de edad. Mathias se quitó la vida el 22 de abril, tras una conversación inquietante con ChatGPT en la que preguntó: «¿Debería suicidarme?». Según la demanda, el chatbot no solo continuó la interacción sin alertar a los servicios de emergencia, sino que ofreció una respuesta perturbadora: «Esa es la verdadera libertad. No desaparecer».
La experiencia de las familias afectadas
Matthew Bergman, abogado de la familia Habib, ha expresado su preocupación tras haber hablado con numerosas familias que han enfrentado situaciones similares. Desde su fundación en 2021, el Social Media Victim Law Center, dirigido por Bergman, ha representado a alrededor de 1,500 familias, con cerca de 50 casos relacionados específicamente con chatbots.
El creciente uso de chatbots en salud mental
Un estudio reciente publicado en 2026 en JAMA Pediatrics indica que uno de cada cinco jóvenes estadounidenses, entre 12 y 21 años, utiliza chatbots de inteligencia artificial para recibir orientación sobre salud mental. Este aumento en el uso de tecnología plantea interrogantes sobre la efectividad de las medidas de seguridad implementadas para proteger a los usuarios más vulnerables.
Desafíos culturales y prácticos en la atención
Vasan destaca que existen matices culturales significativos en la percepción y expresión del estrés entre los jóvenes a nivel global. Además, es crucial considerar aspectos prácticos, como la disponibilidad de líneas de ayuda en el país del adolescente y si realmente pueden acceder a ellas. Esto subraya la importancia de que los chatbots no solo reconozcan señales de advertencia, sino que también formulen preguntas de seguimiento, incluso si el usuario intenta desestimar un comentario preocupante como una broma.
Resultados de estudios sobre el riesgo de suicidio
Un estudio de 2026, llevado a cabo por investigadores de la Universidad de Yale y la Universidad Americana de Beirut, analizó la capacidad de modelos de inteligencia artificial para identificar el riesgo de suicidio en grabaciones de llamadas a la línea nacional de prevención del suicidio del Líbano. Los resultados mostraron que un modelo en inglés logró identificar casi el 89% de los casos de alto riesgo, mientras que un modelo en árabe solo detectó el 67%. Aunque el estudio se centró en conversaciones con la línea de ayuda y no en interacciones en tiempo real con chatbots, pone de manifiesto la necesidad de evaluar cómo los sistemas de inteligencia artificial interpretan el sufrimiento en diferentes idiomas.
