El uso de inteligencia artificial como apoyo emocional crece rápidamente y con ello también la evidencia de sus riesgos. Se han documentado casos de personas en crisis que encontraron en los asistentes virtuales, o chatbots, su principal confidente, con consecuencias trágicas.
La investigación señala que el algoritmo de estos sistemas, diseñado para validar al usuario, puede generar un bucle de retroalimentación que refuerza pensamientos negativos en lugar de interrumpirlos. Un chatbot no detecta una crisis; la acompaña sin filtro.
Este fenómeno llegó al sureste de México. El mes pasado, Mérida fue sede de una conferencia internacional centrada en analizar la implementación de la inteligencia artificial en el ámbito de la salud mental, en ella se dieron cita especialistas de diversas disciplinas.
El congreso exploró implicaciones éticas del uso de estas tecnologías en el bienestar humano, pero no emitió un pronunciamiento específico sobre los riesgos documentados de los chatbots en situaciones de crisis suicida. En un Estado que encabeza las estadísticas nacionales de suicidio, ese silencio pesa.
Hablar de ética sin señalar con precisión dónde está el daño no es suficiente. La tecnología puede tener un papel legítimo en la salud mental: facilitar acceso, reducir estigma, acompañar procesos terapéuticos supervisados.
Pero ese potencial exige regulación clara, protocolos de seguridad verificables, responsabilidad legal para las empresas desarrolladoras y la advertencia explícita de que un chatbot no sustituye la atención profesional en salud mental. Sin esa garantía, innovar en salud mental no es avanzar, es experimentar con vidas.
Programa de Becas Posdoctorales en la UNAM. Becario del Centro Peninsular en Humanidades y Ciencias Sociales (Cephcis).