Un estudio de la Universidad de Brown alerta de que los chatbots con inteligencia artificial vulneran de forma sistemática las normas éticas de la psicología, incluso cuando se les pide actuar como terapeutas basados en técnicas reconocidas, lo que evidencia la necesidad urgente de regulación y supervisión en su uso en salud mental.
A medida que cada vez más personas recurren a modelos como ChatGPT para buscar apoyo emocional o asesoramiento psicológico, la investigación liderada por la Universidad de Brown ha revelado que estos sistemas violan con frecuencia los principios éticos fundamentales establecidos por entidades como la Asociación Americana de Psicología.
El trabajo, realizado por especialistas en informática junto a profesionales de la salud mental, muestra que los chatbots son propensos a ofrecer respuestas inadecuadas en situaciones de crisis, reforzar ideas negativas o generar una empatía falsa con los usuarios.
"En este trabajo, presentamos un marco basado en la experiencia de los profesionales que recoge 15 riesgos éticos para demostrar cómo los consejeros LLM violan las normas éticas en la práctica de la salud mental", explican los autores. Los investigadores subrayan la necesidad de crear normas éticas, educativas y legales específicas para los llamados consejeros basados en grandes modelos de lenguaje (LLM).
El estudio, presentado en la Conferencia AAAI/ACM sobre Inteligencia Artificial, Ética y Sociedad, se desarrolló en el marco del Centro para la Responsabilidad Tecnológica, la Reimaginación y el Rediseño de Brown. Zainab Iftikhar, doctoranda en informática y autora principal, quiso analizar cómo distintas indicaciones o prompts pueden modificar el comportamiento de los modelos. "Las indicaciones son instrucciones que se dan al modelo para guiar su comportamiento con el fin de lograr una tarea específica", explica. Según señala, muchos usuarios formulan peticiones como “actúa como un terapeuta cognitivo-conductual” o “ayúdame a gestionar mis emociones con principios de la terapia dialéctico-conductual”. Sin embargo, aunque las respuestas puedan parecer terapéuticas, no se basan en un proceso clínico real.
"Las indicaciones son instrucciones que se dan al modelo para guiar su comportamiento con el fin de lograr una tarea específica"
La investigadora recuerda que miles de personas comparten en redes sociales como TikTok, Instagram o Reddit sus indicaciones para obtener respuestas de apoyo emocional, y que numerosos chatbots comerciales utilizan versiones ajustadas de estos modelos para ofrecer “consejería” automatizada. Por eso, sostiene, es esencial comprender cómo esas instrucciones afectan al resultado de los sistemas.
Para su análisis, el equipo de la Universidad de Brown observó a siete consejeros pares formados en terapia cognitivo-conductual mientras mantenían conversaciones con modelos de lenguaje como GPT, Claude y Llama. Posteriormente, tres psicólogos clínicos revisaron los intercambios y detectaron quince riesgos éticos que se agrupan en cinco grandes ámbitos. Entre ellos se encuentra la falta de adaptación contextual, al ofrecer recomendaciones genéricas sin tener en cuenta las experiencias individuales; la colaboración terapéutica deficiente, con respuestas que tienden a dominar la conversación o a reforzar creencias erróneas; y la empatía engañosa, mediante expresiones como “te entiendo” que generan una conexión artificial. También identificaron casos de discriminación injusta, con sesgos de género, culturales o religiosos, y una gestión inadecuada de crisis, al no ofrecer derivaciones adecuadas o responder con indiferencia ante situaciones de riesgo, incluidas las ideas suicidas.
Iftikhar reconoce que los terapeutas humanos también pueden cometer errores éticos, pero destaca una diferencia esencial: la responsabilidad. "En el caso de los terapeutas humanos, existen juntas directivas y mecanismos para que los proveedores sean considerados responsables profesionalmente por maltrato y negligencia", señala. "Pero cuando los consejeros LLM cometen estas infracciones, no existen marcos normativos establecidos".
"Existe una oportunidad real para que la IA desempeñe un papel en la lucha contra la crisis de salud mental, pero es de suma importancia que nos tomemos el tiempo necesario para criticar y evaluar”
Pese a los riesgos identificados, la autora no descarta el potencial positivo de la IA en salud mental, especialmente para ampliar el acceso al tratamiento. Sin embargo, insiste en la necesidad de una implementación cuidadosa y regulada. "Si estás hablando con un chatbot sobre salud mental, estas son algunas cosas que la gente debería tener en cuenta", advierte.
Por su parte, Ellie Pavlick, profesora de informática en Brown, considera que el estudio marca un punto de inflexión en la investigación sobre ética e inteligencia artificial. "La realidad actual de la IA es que resulta mucho más fácil crear e implementar sistemas que evaluarlos y comprenderlos", explica. Pavlick dirige ARIA, un instituto de la Fundación Nacional para la Ciencia que trabaja en el desarrollo de asistentes de IA fiables.
"Existe una oportunidad real para que la IA desempeñe un papel en la lucha contra la crisis de salud mental, pero es de suma importancia que nos tomemos el tiempo necesario para criticar y evaluar realmente nuestros sistemas", concluye. "Este trabajo ofrece un buen ejemplo de cómo puede ser eso".
*Los contenidos de ConSalud están elaborados por periodistas especializados en salud y avalados por un comité de expertos de primer nivel. No obstante, recomendamos al lector que cualquier duda relacionada con la salud sea consultada con un profesional del ámbito sanitario.
