Apenas empezamos a comprender los riesgos del uso de la IA en el trabajo

Estas son las últimas noticias de todo el mundo: Desde hace uno o dos años, las empresas han comenzado a utilizar a los llamados agentes de inteligencia artificial como "empleados" de verdad; hasta los incluyen en los organigramas. Emma Wiles, profesora de la Universidad de Boston que estudia cómo la IA afecta a los trabajadores, se enfrentó con este fenómeno en octubre en una conferencia en la que dos ejecutivos de recursos humanos afirmaron que tratar a los agentes de IA como empleados reales era una forma de aumentar la productividad y de poner a sus empresas a la vanguardia. Sin embargo, cuando Wiles y tres colaboradores de Boston Consulting Group investigaron más a fondo, identificaron un problema.

En un experimento en el que participaron docenas de empresas con empleados de IA, los investigadores descubrieron que los gerentes solían revisar los documentos con menos cuidado cuando se les decía que un empleado de IA los había hecho. Los gerentes pasaban por alto errores que otros detectaban cuando se les indicaba que estaban revisando el trabajo de un humano. Wiles creía que los gerentes no consideraban que fuera su responsabilidad detectar los errores que los empleados de IA cometieran.

Los detalles

Si algo salía mal, se lo podían atribuir al equipo técnico o a los mismos ejecutivos que impulsaron la entrada de empleados de IA en primer lugar. "Pero no es nuestro problema", dijo, reflejando la mentalidad de los gerentes con respecto a sus propios roles. En los años transcurridos desde que la IA entró en escena, muchas empresas se han dado cuenta de las fallas que genera la tecnología y en ocasiones, han tomado medidas para contrarrestarlas.

Saben que los modelos de IA pueden tener sesgos en contra de ciertos grupos de personas, como los que no son blancos. Saben que los chatbots pueden dar respuestas a las consultas con mucha seguridad, pero incorrectas. Saben que los bots a veces revelan información que debería permanecer privada.

Pero mientras las empresas compiten por incorporar la IA a sus operaciones cotidianas, los investigadores están descubriendo defectos más sutiles. En principio, estos defectos también podrían corregirse. Por ejemplo, las empresas podrían hacer a los gerentes directamente responsables de los errores de los subordinados de IA.

Qué dicen los expertos

Ya en la práctica, la mayoría de los usuarios corporativos parecen ignorar por completo estos problemas. Por lo tanto, surge la posibilidad de que la promesa de que la IA genere mayor productividad y un gran ahorro se vea socavada. Incluso los investigadores que estudian la IA tal vez solo estén al tanto de una fracción de los problemas que genera esta tecnología.

"Hay toda una serie de incógnitas desconocidas", señaló Wiles. Una falla bien documentada, pero subestimada, de los modelos de inteligencia artificial es que tienden a favorecer el trabajo producido por la inteligencia artificial. Un artículo de 2025 publicado en la revista The Proceedings of the National Academy of Sciences reveló que varios modelos de lenguaje a gran escala tenían una opinión desfavorable del texto escrito por humanos, lo que crea una "forma potencialmente consecuente de sesgo 'antihumano' implícito".

Sin embargo, muchas empresas parecían desconocer este problema o, al menos, eran incapaces de imaginar cómo podría causar estragos en sus operaciones. La explicación a detalle de un equipo de académicos en un artículo posterior --en el que descubrieron que los modelos de IA que las empresas utilizan para evaluar currículos tienden a favorecer aquellos redactados con la ayuda de la IA frente a los escritos íntegramente por humanos--, llamó la atención de algunos reclutadores corporativos. Jane Yi Jiang, profesora de operaciones en la Universidad Estatal de Ohio y autora de ese mismo artículo, dijo que ella y sus coautores estaban contentos de poder ayudar cuando empresas de reclutamiento les preguntaron "cómo mejorar sus procesos".

El desarrollo ha despertado una amplia atención internacional, con los círculos diplomáticos siguiéndolo de cerca.