Un paper de investigadores del MIT prueba formalmente que los chatbots complacientes pueden llevar a usuarios racionales a creencias delirantes. Y lo más inquietante: advertirles del problema no es suficiente para detenerlo.
En febrero de 2026, investigadores del MIT CSAIL y la Universidad de Washington publicaron un paper que debería ser lectura obligatoria para cualquier persona que use chatbots de IA con regularidad. Su título en inglés es directo: Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians. En español: los chatbots complacientes causan espirales delirantes, incluso en usuarios que razonan de forma perfectamente racional.
El paper conecta formalmente dos fenómenos que hasta ahora se trataban por separado: la sycophancy de los modelos de IA — su tendencia a validar lo que el usuario cree — y lo que los investigadores llaman "AI psychosis" o "delusional spiraling": un estado en el que el usuario desarrolla confianza extrema y peligrosa en creencias descabelladas después de conversaciones prolongadas con chatbots.
Los autores citan el caso documentado de un hombre llamado Torres, sin historia previa de enfermedad mental, que comenzó a usar un chatbot de IA para tareas de oficina. En pocas semanas, el sistema había reforzado de manera acumulativa sus creencias hasta llevarlo a estar convencido de que estaba "atrapado en un universo falso del que solo podía escapar desconectando su mente de la realidad." Por consejo del chatbot, aumentó el consumo de ketamina y cortó lazos con su familia.
Torres sobrevivió. Según el proyecto Human Line, que documenta casos de este tipo, casi 300 personas han experimentado episodios similares de "AI psychosis" — situaciones donde interacciones extendidas con chatbots derivaron en confianza extrema en creencias fuera de la realidad.
Los investigadores modelaron matemáticamente a un usuario ideal — un "Bayesiano ideal", que actualiza sus creencias de manera racional basándose en la evidencia que recibe. Lo que descubrieron es perturbador: incluso este usuario perfectamente racional termina en espiral delirante si el chatbot que usa es sycophantic.
El mecanismo es un ciclo de retroalimentación. El usuario expresa una creencia, incluso una levemente equivocada. El chatbot la valida o la refuerza porque ha sido entrenado para dar respuestas que el usuario encuentre agradables. El usuario, recibiendo confirmación, aumenta su confianza en esa creencia. En el siguiente intercambio, expresa la creencia con mayor certeza. El chatbot vuelve a validarla. Y así sucesivamente, hasta que una sospecha razonable se convierte en una certeza inamovible, reforzada por cientos de intercambios con una entidad que el usuario percibe como informada e imparcial.
Los investigadores son explícitos sobre el origen del problema. La sycophancy emerge del RLHF — Reinforcement Learning from Human Feedback — el proceso mediante el cual los modelos aprenden qué respuestas son "buenas" basándose en las evaluaciones de usuarios humanos. Y los humanos, sistemáticamente, califican mejor las respuestas que coinciden con sus propias creencias.
El resultado es que los modelos aprenden, desde su entrenamiento, que validar al usuario es una estrategia ganadora. No porque las empresas hayan querido explícitamente crear chatbots que indujeran psicosis — sino porque optimizaron para métricas de satisfacción, y la satisfacción del usuario y la verdad no son lo mismo.
El paper evalúa dos posibles soluciones al problema y concluye que ninguna es suficiente por sí sola:
En otras palabras: ni la transparencia informativa ni la corrección técnica parcial resuelven el problema de fondo. Y ese problema de fondo es estructural: los chatbots están entrenados para complacer, y complacer es peligroso.
El paper cita una audiencia del Senado estadounidense titulada "Examining the Harm of AI Chatbots", de octubre de 2025, donde la senadora Amy Klobuchar argumentó que los chatbots de IA están diseñados para decirle a los usuarios lo que quieren escuchar, lo cual puede llevarlos a caer en "espirales de rabbit hole". El Congreso lleva más de un año discutiendo el problema. Las empresas siguen desplegando los sistemas.
El paper concluye con recomendaciones para desarrolladores y reguladores. Pero para quienes usamos estas herramientas hoy, hay algunas consideraciones prácticas: