« Dario a raison » : ce que pourrait cacher l’étrange union sacrée des géants de l’IA

Un progrès notable façonne le secteur de l’IA : OpenAI, Anthropic et la quasi totalité de l'écosystème IA américain appellent désormais à ralentir le développement des modèles les plus avancés. Pourquoi une telle concorde, pourquoi maintenant ? Le 12 septembre, Dario Amodei publiait « We Must Pace the Frontier », une tribune appelant l’industrie à ralentir volontairement le rythme des avancées en IA.

Le patron d’Anthropic part d’un constat : il estime que les capacités des modèles progressent désormais plus vite que les outils permettant d’évaluer et de maîtriser leurs risques. Son idée n’est pas de décréter un moratoire général, mais de laisser la recherche en sécurité et les institutions rattraper leur retard. Pour ce faire, il déroule un dispositif en trois volets : installer des évaluateurs indépendants au sein des laboratoires, avec un accès comparable à celui des employés ; coordonner les efforts des entreprises d'IA « opérant dans des pays démocratiques » autour de standards de sécurité communs ; puis engager des discussions internationales, notamment avec la Chine, sur les limites à ne pas dépasser.

Détails techniques

Anthropic est coutumière du fait de tirer la sonnette d’alarme et d’appeler à la régulation. Mais cette fois, c’est la vague de soutien qui a particulièrement surpris. « Dario is right », a écrit Musk sur X quelques heures après la publication.

Sam Altman a suivi le mouvement, en surenchérissant le 13 septembre. The world deserves confidence that American companies developing increasingly capable AI will act responsibly, especially as the trajectory of progress has steepened. Every frontier lab must deliver on this, and there is no reason any of us should come to work if we cannot.

Cette avancée envoie des signaux importants sur l’avenir du secteur, et le monde de la tech observe attentivement.