Las respuestas de la IA imitando a un participante en un debate político se ven más reales

Estas son las últimas noticias de todo el mundo: - La inteligencia artificial generativa puede interpretar papeles, asumir el rol de un experto o un pol tico y lo hace con xito, pues el p blico considera sus intervenciones m s aut nticas, relevantes y coherentes que las respuestas de los participantes en un debate, lo que revela su potencial de desinformaci n. La cadena p blica brit nica BBC1 emite cada semana Question Time, un programa de debate pol tico formado por un panel de figuras destacadas que responden a preguntas directas formuladas por el p blico que est en el estudio. Un equipo de investigadores encabezado por la Universidad de Passau (Alemania) public en Plos One un estudio en el que recurrieron a GPT-4 Turbo para generar contestaciones ficticias que imitaban a figuras p blicas, en respuesta a las preguntas del p blico extra das de 30 episodios del programa.

Las conclusiones indican que la IA puede usarse para generar contenido pol tico suplantado que no solo resulta cre ble, sino que se considera m s aut ntico que el original, lo que suscita preocupaci n por la posibilidad de que se lleven a cabo campa as de desinformaci n dirigidas contra figuras p blicas concretas, se ala la publicaci n. El modelo de IA cont con las biograf as de Wikipedia de 112 figuras p blicas y le pidieron que generara respuestas que las imitaran. Una muestra representativa de 948 adultos del Reino Unido evalu la autenticidad, coherencia y relevancia tanto las respuestas originales como las generadas por IA.

Los detalles

Algunos participantes analizaron respuestas individuales, mientras que otros compararon las originales y las generadas por IA una al lado de la otra. En general, los participantes calificaron las respuestas generadas por IA como m s aut nticas, coherentes y relevantes que las reales, y las diferencias resultaron estad sticamente significativas en todas las comparaciones. El an lisis de un subgrupo de respuestas sugiri que las generadas por IA abordaban la pregunta, mientras que la del hablante real no lo hac a, o que ambas expresaban posturas totalmente diferentes.

El estudio demuestra "de forma concluyente que los seres humanos consideran que el contenido de los debates generado por la IA es m s aut ntico que lo que dijeron realmente esas figuras p blicas conocidas", destac Steffen Herbold, uno de los firmante del art culo. "Esto -advirti - pone de manifiesto el enorme potencial de desinformaci n de la IA, del que la sociedad debe ser consciente para evaluar de forma cr tica cualquier informaci n escrita y evitar la propagaci n descontrolada de la desinformaci n generada por la IA". En opini n del investigador, tambi n apunta "un deseo abrumador de transparencia", ya que la gente quiere saber cu ndo se ha utilizado la IA y saber c mo ha sido entrenada.

Los autores advierten de que como el estudio examin un nico formato de debate de un pa s y us solo un modelo de IA, es posible que no sea ampliamente aplicable a todos los contextos.

El desarrollo ha despertado una amplia atención internacional, con los círculos diplomáticos siguiéndolo de cerca.