Regolamentazione AI di Anthropic: governi potranno bloccare i modelli pericolosi

Ecco gli ultimi aggiornamenti dai mercati delle attività digitali: Anthropic ha messo sul tavolo una nuova regolamentazione AI di Anthropic che punta a limitare l’uso di intelligenze artificiali ad alto rischio e, allo stesso tempo, a preparare governi ed economia all’impatto dei modelli di frontiera. Il messaggio è netto: se le capacità dell’AI avanzata crescono così in fretta, servono strumenti normativi in grado di bloccare o scoraggiare implementazioni pericolose prima che producano danni seri. La regolamentazione AI di Anthropic tra sicurezza e impatto economico Anthropic ha presentato due piani integrati nel progetto Policy on the AI Exponential.

Il primo definisce un framework per le AI avanzate, il secondo guarda alle conseguenze economiche per i lavoratori e al riparto dei benefici finanziari generati dall’AI. Al centro c’è una richiesta precisa: dare ai governi poteri per intervenire in modo preventivo sui modelli ritenuti ad alto rischio. Il perimetro della proposta è chiaro.

Dinamiche di mercato

La regolamentazione AI di Anthropic riguarderebbe i sistemi addestrati con un volume di calcolo superiore a 10²⁵ operazioni in virgola mobile. Entrerebbero inoltre nel campo di applicazione le aziende con ricavi annui da AI superiori a 500 milioni di dollari. Anthropic include anche le imprese che spendono più di 1 miliardo di dollari all’anno in ricerca e sviluppo sull’AI.

Normative per AI ad alto rischio: trasparenza, test e sanzioni Tra le misure chiave ci sono verifiche indipendenti dei modelli, documentazione dettagliata sulla sicurezza e report periodici sui rischi da parte degli sviluppatori. Anthropic vuole che valutatori indipendenti, con risorse adeguate e accesso ai modelli, affianchino i produttori per controllare test e report. L’obiettivo è rafforzare la trasparenza senza lasciare tutto all’autovalutazione delle aziende.

La proposta prevede anche sanzioni civili legate al fatturato globale annuo delle aziende, con multe più pesanti in caso di violazioni ripetute. In questo modo, Anthropic punta a costruire un deterrente economico proporzionato alla scala globale del settore. La società chiede inoltre programmi di sicurezza robusti, descritti pubblicamente, e una maggiore trasparenza verso gli enti governativi competenti.

Impatto sui mercati

Metodi di sicurezza per modelli AI avanzati e accesso ai valutatori Un altro punto centrale della policy di Anthropic per l’IA è la protezione dell’intero ambiente di sviluppo. Gli sviluppatori dovranno mantenere standard elevati per difendersi da attacchi esterni e minacce interne. Inoltre, la proposta richiede che i valutatori indipendenti possano accedere ai modelli per svolgere controlli reali e non solo formali.

I quattro rischi indicati da Anthropic per l’AI di frontiera Anthropic individua quattro aree di rischio critiche: biologico, cyber, perdita di controllo dei sistemi e ricerca automatizzata condotta dall’intelligenza artificiale. Le conseguenze potenziali vanno dall’uso malevolo per creare virus pericolosi fino a vulnerabilità per servizi essenziali come ospedali e infrastrutture energetiche. Per il rischio biologico, la proposta insiste su strumenti di screening per la sintesi genetica e sistemi di biosorveglianza per individuare segnali precoci.

Sul fronte cyber, chiede più protezione per le infrastrutture critiche, la sostituzione dei sistemi legacy vulnerabili e funzioni governative dedicate a monitorare le capacità offensive digitali emergenti. Anthropic segnala anche la necessità di sviluppare meglio i controlli contro la perdita di controllo e contro la ricerca automatizzata. In questi casi, la società chiede norme capaci di spegnere o confinare sistemi AI pericolosi prima che causino danni.

I mercati delle criptovalute seguono da vicino questo sviluppo, mentre gli investitori valutano il potenziale impatto sui prezzi.