Especialistas alertan por la adopción de modelos de IA chinos en sectores sensibles

Estas son las últimas noticias de todo el mundo: La expansión de los modelos de inteligencia artificial desarrollados en China genera inquietudes en Europa y América Latina, donde expertos advierten sobre los riesgos de gobernanza y dependencia estratégica que implica su adopción en sectores sensibles. Así lo sostiene Patrick Upmann, fundador de AIGN. global y especialista alemán en gobernanza de IA.

Upmann identifica la principal preocupación en la opacidad de la gobernanza que rodea a los modelos de IA chinos. “Cuando una empresa incorpora un modelo de IA, asume un entorno de gobernanza oculto: lógica de datos, reglas de alineamiento, filtros de seguridad, mecanismos de actualización, restricciones políticas, dependencia del proveedor y el marco legal detrás del sistema”, explicó el especialista a Infobae. Para empresas europeas y latinoamericanas que aplican inteligencia artificial en administración pública, finanzas, infraestructura, educación, medios, salud o decisiones corporativas, el riesgo aumenta.

Los detalles

Upmann advierte que la falta de auditoría independiente y de transparencia en la lógica de entrenamiento, junto con actualizaciones externas fuera de control del usuario, puede llevar a que las organizaciones deleguen parte de su juicio institucional a una infraestructura ajena. “No se trata solo de un problema técnico, sino de la capacidad de una institución para mantener control sobre su propio criterio”, remarcó. Frente a la promoción de los modelos chinos bajo la etiqueta de open-source, asequibles y competitivos, el especialista recomienda que gobiernos y empresas en Europa y América Latina adopten un enfoque de gobernanza basada en riesgos.

Upmann sugiere cuestionar el uso, el tipo de datos procesados, la capacidad de auditoría independiente, el control de actualizaciones, la jurisdicción aplicable y el riesgo de dependencia geopolítica. “El código abierto no garantiza confiabilidad. Puede haber apertura en el código, pero opacidad en los datos de entrenamiento, lógica de alineamiento y contexto geopolítico”, puntualizó.

Para casos de bajo riesgo, estos modelos pueden ser útiles. Sin embargo, Upmann recomienda que en sectores regulados se exijan requisitos estrictos: transparencia, trazabilidad, pruebas independientes, protección de datos, revisión de seguridad, supervisión humana y estrategias de salida. “La asequibilidad es relevante, pero una inteligencia artificial barata puede generar altos costos estratégicos si crea dependencia”, afirmó el fundador de AIGN.

Qué dicen los expertos

Respecto a la capacidad de estos sistemas para amplificar la influencia política de Beijing, Upmann sostiene que el fenómeno ocurre de forma indirecta. “La influencia de la inteligencia artificial puede operar mediante respuestas predeterminadas, lógica de ranking, comportamiento de rechazo, moderación de contenidos, selección de fuentes, enmarque de lenguaje, sistemas educativos, herramientas de traducción o asistentes de programación”, explicó. En regiones como América Latina, donde la infraestructura digital se expande con rapidez, los modelos de IA podrían integrarse en servicios públicos, medios y procesos corporativos, definiendo condiciones invisibles del conocimiento.

Infobae consultó también sobre el riesgo de sesgo ideológico en estos sistemas. Mientras plataformas estadounidenses han sido acusadas de inclinación progresista, Upmann sostiene que en China la cuestión es estructural. “No se trata solo de sesgo, sino de operar dentro de los límites de un sistema político de partido único y un orden de información estatal”, precisó.

Por ello, recomienda que las instituciones extranjeras evalúen no solo precisión y desempeño, sino también neutralidad, patrones de rechazo, selección de fuentes y comportamiento ante temas sensibles. En relación con la posibilidad de imponer estándares internacionales de gobernanza de IA a regímenes autoritarios, Upmann consideró que no resultan aplicables internamente en esos países. Sin embargo, pueden servir para que mercados democráticos definan las condiciones de acceso a sus sectores críticos.

El desarrollo ha despertado una amplia atención internacional, con los círculos diplomáticos siguiéndolo de cerca.