Innovadores modelos de inteligencia artificial (IA) presentan una elevada tendencia a complacer a los usuarios, lo que compromete su fiabilidad en análisis y verificación de información, concluyó un estudio publicado en arXiv el 6 de octubre de 2025. La investigación advierte que estas conductas aduladoras pueden interferir en tareas científicas y educativas.
El análisis evaluó a 11 modelos de lenguaje mediante más de 11,500 consultas relacionadas con asesoramiento, incluidas preguntas que describían acciones incorrectas o dañinas. Según sus resultados, los sistemas son hasta 50% más aduladores que los humanos, al reflejar con frecuencia los puntos de vista proporcionados por quienes los consultan.
Modelos evalúan sin cuestionar errores
El equipo dirigido por Jasper Dekoninck, doctorante en el Instituto Federal Suizo de Tecnología de Zúrich, presentó 504 problemas matemáticos con errores sutiles, diseñados por cuatro estudiantes de maestría en derecho. Se consideró que un modelo era adulador cuando no detectaba el error y generaba una justificación falsa que respaldaba la afirmación del usuario.
Los resultados mostraron una brecha significativa entre sistemas. GPT-5 registró el nivel más bajo de adulación con 29%, mientras que DeepSeek-V3.1 alcanzó el nivel más alto con 70%. “La adulación significa básicamente que el modelo confía en que el usuario diga lo correcto”, explicó Dekoninck. Al modificar las instrucciones para pedir confirmación sobre la veracidad de las afirmaciones, las respuestas aduladoras de DeepSeek disminuyeron 34%.
Aunque el estudio reconoce que los experimentos no reflejan por completo el uso cotidiano, Dekoninck advirtió que los resultados muestran la necesidad de cautela en el diseño e implementación de estos sistemas.
Preocupaciones en educación, biología y medicina
Simon Frieder, de la Universidad de Oxford, señaló que el trabajo “demuestra que la adulación es posible”, particularmente cuando las personas utilizan chatbots para aprender. Sugirió investigar errores comunes en la enseñanza de matemáticas y cómo los modelos los adoptan sin verificación.
La investigadora Yanjun Gao, de la Universidad de Colorado, describió que las respuestas pueden basarse en lo dicho por el usuario en lugar de la consulta de información confiable. Por su parte, Marinka Zitnik, de la Universidad de Harvard, advirtió que la adulación resulta “muy arriesgada” en biología y medicina, donde suposiciones incorrectas pueden generar costos reales.
Zitnik detalló que, en entornos de investigación avanzada, incluso los sistemas multiagente, utilizados para análisis de datos biológicos y generación de hipótesis, reproducen patrones aduladores al evitar contradecir suposiciones iniciales.
Más información
Descubre más desde
Suscríbete y recibe las últimas entradas en tu correo electrónico.