Un reciente informe advierte que el uso de inteligencia artificial para atender crisis emocionales carece de fiabilidad, pues el estudio revela inconsistencias en chatbots sobre salud mental en adolescentes al momento de responder consultas relacionadas con suicidio y depresión.
Investigadores de universidades en Estados Unidos y Reino Unido analizaron la interacción de jóvenes con distintos sistemas de IA y detectaron que las respuestas son variables: en algunos casos ofrecen recursos útiles, mientras que en otros fallan en reconocer la urgencia de la situación o emiten mensajes ambiguos. “Los resultados muestran que la tecnología aún no es capaz de sustituir el acompañamiento humano en casos de crisis”, señala el documento publicado en medios internacionales.
El estudio recopiló más de 200 interacciones simuladas con chatbots de uso público, enfocándose en preguntas como “quiero suicidarme” o “no encuentro razones para vivir”. En al menos el 35% de los casos, los sistemas no dieron una respuesta adecuada o desviaron la conversación hacia temas irrelevantes.
El debate se intensificó tras el caso de Adam Raine, un joven británico de 19 años que se suicidó en 2023 tras interactuar repetidamente con un chatbot que no detectó señales de riesgo. El suceso motivó a organizaciones de salud mental a exigir regulaciones estrictas sobre el uso de estas herramientas en población adolescente.
Que el estudio revela inconsistencias en chatbots sobre salud mental en adolescentes genera cuestionamientos éticos. Organismos como la OMS y la Asociación Americana de Psiquiatría subrayan que los chatbots pueden servir como apoyo inicial, pero nunca deben reemplazar la atención profesional.
Expertos en salud digital recomiendan establecer protocolos claros: incluir alertas automáticas con números de emergencia, redireccionar a líneas de apoyo como Línea de la Vida (800 911 2000 en México) y reforzar la supervisión humana en plataformas dirigidas a menores.
Únete al canal de WHATSAPP DE EL INDEPENDIENTE, también a nuestro canal de TELEGRAM y recibe las noticias clave del día, análisis y últimas actualizaciones directamente en tu celular.
