Salud mental y la detección de señales suicidas

En tiempos de la IA

Por Angélica Castro

La Dirección Territorial de Salud de Caldas informó que hasta mayo de 2025 se habían contabilizado 299 intentos de suicidio en el departamento. Un 30% menos que en 2024. Las cifras, aunque positivas, alertan a las autoridades sobre la salud mental de las personas en la región y en todo el mundo. En Colombia, según el Ministerio de Salud, se registraron 2.984 suicidios en el 2024 y la Organización Mundial de la Salud, por ejemplo, estima que el aislamiento social está relacionado con la muerte de más de 870 mil personas al año. 

Estas cifras cobran relevancia pues este 10 de septiembre se conmemora el Día mundial para la prevención del suicidio, y en este panorama, la Inteligencia Artificial – IA aparece como un recurso de cercanía y acceso al acompañamiento, pero también como un riesgo cuando sustituye los vínculos humanos y la atención profesional. 

La empresa creadora de ChatGPT, OpenAI, informó el pasado 27 de agosto, que incorporará mejoras para identificar señales de crisis emocional en las conversaciones con los usuarios. Este anuncio ocurre después de la demanda presentada en EE.UU. por los padres de Adam Raine , un adolescente de 16 años que se quitó la vida en abril de este año y que, al parecer, buscaba ayuda en esta aplicación en vez de acudir a un profesional en la materia. 

Según la compañía, el objetivo es priorizar la seguridad en situaciones de riesgo y las actualizaciones incluyen bloqueos frente a contenidos sensibles, seguimiento de largas interacciones, acceso a líneas de ayuda y controles parentales para adolescentes. 

Acompañamiento humano en la salud mental

De acuerdo con documentos citados por The New York Times, Adam utilizó ChatGPT como confidente. Aunque el sistema ofreció recursos de ayuda, los demandantes sostienen que la herramienta priorizó la interacción sobre la protección del menor, lo que reabrió el debate sobre los límites de la IA como apoyo emocional. 

En la opinión de los expertos, el uso de estas herramientas debe evaluarse con cuidado. “Uno encuentra lo que está buscando. Entonces no se trata de si es bueno o malo, porque, evidentemente el uso de estas herramientas es cada vez más común en los jóvenes. Buscan en los chats un espacio de desahogo, una forma de sentirse escuchados incluso por una inteligencia no humana”, explica Julián Castañeda, psicólogo clínico. 

Asimismo, desde la parte técnica, comprender cómo funcionan estos sistemas ayuda a dimensionar sus alcances y limitaciones. “La IA, como ChatGPT, no piensa como un humano, sino que imita patrones del lenguaje. Toma lo que la persona escribe, lo divide en fragmentos llamados tokens y, con base en millones de ejemplos, predice palabra por palabra la respuesta más probable”, detalla Sebastián Ortiz Valencia, ingeniero de sistemas. 

No obstante, Ortiz advierte que “las aplicaciones pueden generar dependencia emocional, dar información inexacta y fallar en situaciones críticas. Además, los datos que se comparten pueden quedar almacenados y ser usados con fines comerciales”. 

En este sentido, la discusión no es lejana al contexto universitario. En Manizales, donde conviven estudiantes que enfrentan problemas de ansiedad y depresión, los expertos coinciden en que la IA puede ser una herramienta de apoyo para los programas de bienestar estudiantil, siempre y cuando se use bajo la supervisión de profesionales. Según un estudio publicado en 2024 en Higher Education Today, esto permitiría fortalecer el análisis de datos y la detección temprana de señales de alerta, pero no reemplazar el acompañamiento humano. 

Personaje Destacado

Lea más contenido aquí