Por qué los mejores sistemas predictivos del mundo generan desconfianza, según la psicología

Una noticia relevante se está gestando en la escena internacional. Un estudio difundido por el Instituto de Investigación Operativa y Ciencias de la Gestión halló que la psicología de las predicciones ayuda a explicar por qué muchas personas prefieren tener razón por completo antes que equivocarse menos. El resultado pone en cuestión un supuesto frecuente de muchos sistemas de pronóstico, herramientas de análisis predictivo y modelos de inteligencia artificial. A muchas personas les cuesta aceptar hechos que contradicen lo que creen porque, al hacer o evaluar predicciones, valoran más la posibilidad de acertar exactamente que reducir el tamaño del error esperado.

Según el Instituto de Investigación Operativa y Ciencias de la Gestión, esa diferencia se vuelve especialmente intensa cuando alguien pasa de estar completamente en lo cierto a estar apenas equivocado. El estudio se publicó en Management Science y lo firmó Berkeley J. Dietvorst, de la Escuela de Negocios Booth de la Universidad de Chicago.

Los detalles

Según el Instituto, la investigación muestra que la gente no siempre juzga una predicción con el mismo criterio que usan los modelos estadísticos. “Para muchas personas, el objetivo de una predicción es tener razón, no solo minimizar el error promedio”, dijo Dietvorst en la información difundida por el Instituto. Qué encontró el estudio sobre el error y la satisfacciónDietvorst analizó 16 estudios con distintas tareas de predicción y diseños experimentales.

En conjunto, los participantes mostraron un patrón que los investigadores describen como sensibilidad decreciente al error de predicción. En varios experimentos, los participantes vieron distribuciones de probabilidad y debieron formular predicciones. Con frecuencia eligieron resultados que aumentaban la posibilidad de acertar de forma exacta, aunque otras opciones redujeran mejor el error esperado.

La investigación también examinó reacciones emocionales ante los fallos. La satisfacción cayó con fuerza cuando una persona pasó de acertar por completo a quedar apenas equivocada. En cambio, aumentos mayores del error provocaron descensos mucho menores.

Qué dicen los expertos

Según el Instituto de Investigación Operativa y Ciencias de la Gestión, ese patrón sugiere que, una vez que una predicción ya es errónea, los fallos adicionales importan menos de lo que suponen muchos modelos de pronóstico. Por qué este sesgo importa para la inteligencia artificial y los pronósticosEl hallazgo va más allá de los pronósticos convencionales. Muchos sistemas de inteligencia artificial, motores de recomendación, modelos de negocio y tecnologías de apoyo a la toma de decisiones se diseñan para minimizar el error promedio, pero los usuarios pueden evaluarlos con otra lógica.

“Los resultados resaltan la importancia de comprender los objetivos humanos antes de diseñar sistemas predictivos”, afirmó Dietvorst, según el Instituto. “Si los modelos se optimizan para metas que difieren de lo que las personas valoran, la adopción y la confianza pueden verse afectadas”. El estudio, publicado en Management Science en 2025, también cuestiona una idea extendida entre especialistas y organizaciones.

Si las personas premian sobre todo el acierto exacto, un sistema ajustado para equivocarse menos en promedio puede no parecerles satisfactorio. Este fenómeno puede observarse en distintos ámbitos donde la tecnología interactúa con las decisiones humanas. Por ejemplo, en el sector financiero, los usuarios suelen desconfiar de recomendaciones automatizadas si no coinciden de manera exacta con sus expectativas, aun cuando los sistemas demuestren un bajo margen de error general.

El desarrollo ha despertado una amplia atención internacional, con los círculos diplomáticos siguiéndolo de cerca.