El Gobierno presentó una guía para evitar el mal uso de la inteligencia artificial en el Estado

Estas son las últimas noticias de todo el mundo: La Sindicatura General de la Nación (SIGEN) publicó una nueva guía para el control de la inteligencia artificial (IA) en el sector público nacional, con el objetivo de establecer un marco de referencia que regule la incorporación de estas tecnologías en los organismos estatales. El documento, titulado “Guía de Controles Inteligencia Artificial - SIGEN”, fue oficializado mediante la Resolución SIGEN 197/2026 y propone un enfoque preventivo basado en riesgos, orientado a garantizar que las iniciativas de IA respondan a los objetivos institucionales y a los principios de integridad y transparencia. Según informó la SIGEN, el desarrollo de esa herramienta partió de un relevamiento sobre el avance de la IA en distintas áreas de la administración estatal.

Los resultados del análisis mostraron una diversidad de proyectos en marcha, pero también la necesidad de reforzar los mecanismos de control para reducir los riesgos asociados a la adopción de inteligencia artificial. El documento destaca que la IA ofrece oportunidades para mejorar la eficiencia y la calidad de la gestión, aunque advierte sobre los desafíos que implica su implementación. La guía establece que los controles internos deben alinearse con el cumplimiento normativo vigente y con una gestión pública responsable.

Los detalles

De acuerdo con la Sindicatura, el marco propuesto busca fortalecer la rendición de cuentas y la transparencia en el uso de IA, promoviendo la adopción de controles proporcionales a los riesgos detectados en cada etapa de la vida útil de esos sistemas. En diálogo con Infobae, Alejandro Díaz, titular del organismo, explicó las dos modalidades principales de uso de la IA en el Estado: “El uso individual de herramientas generativas por parte de agentes públicos, donde la IA actúa como apoyo sin integrarse a sistemas institucionales”, y “el uso de sistemas de inteligencia artificial incorporados a procesos, aplicaciones o decisiones organizacionales, lo que requiere un entrenamiento previo de los algoritmos”. En el primer caso, explicó el auditor general “la mitigación de riesgos pasa por la existencia de políticas institucionales y capacitación para el personal”.

En el segundo: “Se suman controles específicos para el ciclo de vida del desarrollo de los sistemas, desde el análisis de factibilidad hasta las pruebas previas a la puesta en producción”, sostuvo Díaz. Los riesgos que se busca mitigarLa Guía de Controles para Inteligencia Artificial de la SIGEN dedica un apartado específico a la política institucional de uso de herramientas de IA en los organismos públicos. El documento establece que cada entidad debe contar con una política clara que regule el empleo de estas tecnologías por parte de sus agentes, tanto en el uso individual como en la integración a sistemas institucionales.

Entre los riesgos principales que se busca limitar se destacan:Divulgación no autorizada de información confidencial o sensible mediante herramientas de IA, especialmente cuando se utilizan plataformas de acceso público o servicios en la nube. Exposición y tratamiento inadecuado de datos personales o de ciudadanos, lo que podría generar incumplimientos a la normativa vigente sobre protección de datos. Dependencia tecnológica de proveedores externos, con el consiguiente riesgo para la soberanía y continuidad operativa de los servicios públicos.

Qué dicen los expertos

Ausencia de criterios claros para validar la calidad y veracidad de los resultados generados por sistemas de inteligencia artificial, lo que podría afectar la toma de decisiones institucionales. Desconocimiento de los riesgos asociados al uso cotidiano de IA, incluidas posibles vulnerabilidades, sesgos en los resultados y falta de trazabilidad de las acciones automatizadas. La política propuesta por la SIGEN recomienda que las instituciones definan lineamientos sobre los tipos de herramientas de IA autorizadas, los ámbitos y condiciones de uso, los procedimientos de validación y monitoreo, y las responsabilidades de los agentes involucrados.

Se sugiere, además, desarrollar programas de capacitación dirigidos a todo el personal para asegurar un uso responsable y alineado con los principios de integridad y transparencia en la gestión pública. El enfoque preventivo busca que la implementación de inteligencia artificial en el sector público se realice bajo parámetros que resguarden los intereses institucionales, la seguridad de la información y los derechos de los ciudadanos, y que minimicen la exposición a riesgos operativos, legales y reputacionales. Lineamientos principales de la guíaSegún el documento oficial publicado por la SIGEN, los ejes principales de la guía incluyen:Establecimiento de un marco de referencia para identificar, evaluar y mitigar riesgos asociados a la inteligencia artificial en el sector público.

Controles específicos para la gobernanza de datos utilizados en el entrenamiento y operación de sistemas de IA, con garantía de calidad, integridad y seguridad de la información. Exigencia de controles en todas las etapas del desarrollo e implementación de sistemas de IA, desde la definición de objetivos y el análisis de factibilidad hasta la puesta en marcha y operación. Revisiones periódicas para monitorear que los sistemas de IA no degraden su funcionamiento ni generen resultados imprevistos.

El tema se ha convertido en uno de los puntos más destacados de la agenda mundial.