Anthropic plantea que exista un organismo que pueda pausar el desarrollo de la IA en el mundo

Una noticia relevante se está gestando en la escena internacional. Anthropic plantea que exista un organismo que pueda pausar el desarrollo de la IA en el mundoTecnologíaLa compañía considera que hay que prepararse para escenarios en los que los sistemas de inteligencia artificial sean capaces automejorarseFoto de archivo de Dario Amodei, CEO de AnthropicAFP AgenciasBarcleona 05/06/2026 14:23 La estadounidense Anthropic ha abierto un nuevo debate sobre el futuro de la inteligencia artificial. La compañía, una de las más influyentes del sector, ha planteado la necesidad de que exista un mecanismo internacional que permita detener temporalmente el desarrollo de los modelos más avanzados si estos alcanzan capacidades que generen riesgos difíciles de gestionar. La propuesta, recogida en un documento publicado esta semana por la firma en el origen de Claude, analiza algunos de los desafíos que podrían surgir en los próximos años según la tecnología continúe evolucionando.

Y entre ellos figura la posibilidad de que futuros sistemas de inteligencia artificial participen en la creación o mejora de versiones más avanzadas de sí mismos, acelerando el progreso tecnológico a un ritmo desconocido hasta ahora. Anthropic sostiene que este escenario todavía no se ha producido, pero considera necesario empezar a debatir cómo reaccionar en caso de que llegue a materializarse, y defiende que el mundo debería disponer de herramientas para ralentizar o incluso detener el desarrollo de la IA si los riesgos aumentan. Anthropic cree que las medidas unilaterales tendrían una eficacia limitada en un mercado cada vez más globalizadoLa firma estadounidense señala además que una eventual pausa solo tiene sentido si fuera adoptada de manera coordinada por los principales actores del sector.

Los detalles

En caso contrario, advierte, los avances podrían continuar en otros países o en laboratorios sin ningún tipo de limitación. Por ello, apuesta por impulsar acuerdos internacionales acompañados de mecanismos independientes de supervisión y verificación que permitan comprobar su cumplimiento. La velocidad a la que están evolucionando los modelos actuales obliga, según la propia Anthropic, a que gobiernos, compañías tecnológicas y organismos reguladores comiencen a prepararse para situaciones inéditas.

Distintos gobiernos trabajan de hecho en regulaciones destinadas a establecer límites y obligaciones para las compañías que desarrollan este tipo de herramientas. Lee tambiénMeta ha integrado, en secreto, un sistema de reconocimiento facial en las apps de millones de móviles: sirven para sus gafas inteligentesAna Laura PalaciosAnthropic es una compañía fundada por antiguos investigadores de OpenAI y cuenta con el respaldo de algunos de los mayores grupos tecnológicos del mundo, lo que ha convertido sus planteamientos en una referencia en el cada vez más sonoro debate sobre la seguridad de la inteligencia artificial en el mundo.

El desarrollo ha despertado una amplia atención internacional, con los círculos diplomáticos siguiéndolo de cerca.