Por qué los CEOs deberían pensarlo dos veces antes de usar IA para redactar mensajes

Surgen avances clave en el escenario mundial. Si tiene que hacerlo, sea transparente al respecto. Dada la eficacia con la que la IA puede imitar la escritura humana, no debería sorprender que los CEOs estén experimentando con su uso para redactar mensajes personales. Según un estudio de la Harvard Business School realizado en 2018, el 24% de la jornada laboral de un ejecutivo promedio se destina a la comunicación electrónica.

Pero ¿qué pasaría si los CEOs comenzaran a redactar las comunicaciones dirigidas a los empleados utilizando IA generativa? El año pasado, un grupo de investigadores estudió esta cuestión en Zapier, una empresa estadounidense de software con más de 700 empleados. El profesor Prithwiraj Choudhury, de la Harvard Business School, junto con sus colegas Bart Vanneste (University College London), Xi Kang (Vanderbilt) y Amirhossein Zohrehvand (Leiden University), querían determinar si los empleados podían distinguir entre mensajes escritos por IA y aquellos redactados por el CEO de Zapier, Wade Foster.

Los detalles

Utilizando un LLM desarrollado por empleados de la compañía, Choudhury y sus colegas entrenaron un chatbot con mensajes de Slack y correos electrónicos de Foster, declaraciones públicas y otras comunicaciones. El "Wade Bot", como comenzaron a llamarlo los investigadores, fue diseñado específicamente para escribir como Foster. "La IA y la automatización están teniendo un gran impacto en cómo y dónde trabajamos", afirma Choudhury.

"Pero cuando pensamos en la próxima frontera de la IA generativa, una de las posibilidades es que los bots personales se comuniquen, asistan a reuniones, escuchen conversaciones y hablen en nuestro nombre. Queríamos determinar hasta qué punto esto podría ser posible hoy en día". Los investigadores recopilaron preguntas de 105 empleados para que Foster las respondiera.

Tanto el CEO como el Wade Bot dieron sus respuestas, y luego los empleados intentaron identificar cuáles pertenecían a cada uno. Lograron identificar correctamente las respuestas escritas por IA el 59% de las veces. Hubo otro hallazgo sorprendente.

Qué dicen los expertos

Cuando se pidió a los empleados que evaluaran si las respuestas eran útiles, aquellas que creían que habían sido generadas por IA recibieron calificaciones más bajas, incluso cuando en realidad las había escrito Foster. Posteriormente, los investigadores realizaron un segundo estudio para determinar si los resultados serían diferentes cuando los evaluadores no tuvieran familiaridad con quien escribía. Reclutaron a 218 personas en Estados Unidos y les pidieron leer respuestas que los participantes creían que habían dado los CEOs durante las conferencias sobre resultados financieros de sus empresas.

Mientras que algunas respuestas provenían de conferencias reales, otras fueron generadas por una herramienta de IA que imitaba el estilo de esos CEOs. El estudio encontró que, cuando las personas pensaban que una respuesta había sido creada por IA, la calificaban como menos útil, incluso si provenía de un ser humano. Por el contrario, cuando creían que la respuesta había sido dada por un CEO, la consideraban más útil, incluso si había sido generada por una IA.

En pocas palabras, las personas confían más y valoran más las declaraciones que creen que provienen de un ser humano que en aquellas que atribuyen a la tecnología. Esto sugiere que, aunque la IA puede producir información útil, la percepción de las personas desempeña un papel muy importante en cómo se recibe dicha información. Aun así, la mayoría de los líderes utilizarán IA generativa de una forma u otra.

El desarrollo ha despertado una amplia atención internacional, con los círculos diplomáticos siguiéndolo de cerca.