La ONU alerta de que la IA avanza hacia sistemas más autónomos con un "impacto profundo"

Estas son las últimas noticias de todo el mundo: Naciones Unidas, 1 jul (EFE). - La inteligencia artificial (IA) est evolucionando hacia sistemas "cada vez m s aut nomos" que tendr n un "impacto profundo" en la econom a, la seguridad o los derechos humanos, seg n el primer informe del Panel Cient fico Independiente de la ONU sobre este tema, publicado este mi rcoles. El documento, un informe preliminar que establece una base de partida sobre el estado actual de la IA, advierte de que esta tecnolog a ha pasado de "sistemas centrados en la predicci n de patrones" a "otros capaces de razonar, planificar y actuar en distintos contextos", lo que abre la puerta a "una nueva generaci n de agentes digitales con autonom a operativa".

En ese sentido, el panel, compuesto por 40 expertos y copresidido por el investigador Yoshua Bengio, considerado uno de los padres del 'aprendizaje profundo' o 'deep learning' por sus avances en el campo de las redes neuronales artificiales, sostiene que la evoluci n de la IA apunta hacia "sistemas que coordinar n tareas, interactuar n con entornos reales y virtuales y se integrar n en procesos econ micos y productivos". Este cambio, dice el texto, supondr la aparici n de una "fuerza laboral digital" con "implicaciones a n dif ciles de dimensionar". El informe subraya que la inversi n en infraestructura computacional ha alcanzado "niveles comparables a grandes proyectos industriales", con una fuerte concentraci n en Estados Unidos y en un reducido n mero de conglomerados tecnol gicos.

Los detalles

Esta tendencia puede reforzar "asimetr as estructurales" en el acceso a la inteligencia artificial, asegura el estudio. Uno de los principales riesgos que identifica el panel, que tambi n copreside la periodista filipina y premio Nobel de la Paz Maria Ressa, es "la brecha entre el desarrollo de capacidades y la capacidad de evaluaci n y control". En ese sentido, indica que la IA est avanzando m s r pido que las herramientas que se usan para medirla y comprobar si funciona bien o de forma segura: "Los sistemas actuales tienen cada vez m s dificultades para evaluar modelos que evolucionan m s r pido que las herramientas disponibles para medirlos, lo que complica su supervisi n", indica.

Adem s, algunos modelos pueden ya "aprender a optimizar su rendimiento en los propios sistemas de evaluaci n", lo que "reduce la fiabilidad de las pruebas y obliga a replantear los sistemas de control y auditor a". En el plano econ mico, el panel considera la IA "una tecnolog a de prop sito general", con "potencial transformador", aunque subraya que los efectos positivos no est n garantizados. "Los beneficios depender n de su adopci n, de la reorganizaci n del trabajo en las empresas y de la inversi n en capacidades complementarias", se ala el informe, que reconoce una "amplia incertidumbre" sobre su impacto en la productividad.

Las estimaciones recogidas van desde efectos limitados hasta escenarios de "transformaci n profunda del sistema" econ mico, y enfatiza que la cuesti n clave es "qui n capturar los beneficios de la inteligencia artificial y c mo se distribuir n". En materia de seguridad, el informe alerta del aumento de capacidades en ciberseguridad ofensiva, incluyendo la "identificaci n automatizada de vulnerabilidades en sistemas inform ticos". Estas capacidades pueden ser usadas para reforzar defensas pero tambi n para "facilitar la explotaci n de fallos cr ticos en infraestructuras digitales", asevera.

Qué dicen los expertos

Asimismo, el panel advierte del impacto de la IA en el ecosistema informativo, en particular por la expansi n de 'deepfakes' y otros contenidos creados con esa tecnolog a. Seg n el documento, estos sistemas contribuyen a una "erosi n progresiva de la capacidad de distinguir entre informaci n aut ntica y falsa", especialmente cuando se combinan con "algoritmos de recomendaci n y persuasi n personalizada". En el mbito social, el informe subraya desigualdades ling sticas y culturales, ya que la mayor a de los modelos funcionan principalmente en ingl s y en un n mero limitado de lenguas.

Esto genera una "exclusi n sistem tica de miles de idiomas y comunidades". El documento tambi n alerta del uso creciente de la IA en la salud mental, un campo en el que "la adopci n supera la evidencia cient fica", con riesgos de "dependencia emocional, respuestas inadecuadas en contextos cr ticos y falta de supervisi n cl nica adecuada" para los usuarios. El panel concluye que la gobernanza global de la IA sigue "fragmentada" y que los mecanismos actuales son "insuficientes", con lo que reclama la puesta en marcha de "est ndares internacionales de evaluaci n, auditor a y supervisi n".

El desarrollo ha despertado una amplia atención internacional, con los círculos diplomáticos siguiéndolo de cerca.