L’avenir de l’IA générative se joue-t-il ici ? Son plus grand défaut a peut-être été résolu

Une avancée frappante se dessine dans l’intelligence artificielle. Publié le 06 mai 2026 à 17h51 Tech Intelligence artificielle L’avenir de l'IA générative se joue-t-il ici ? Son plus grand défaut a peut-être été résolu Jusqu’à 12 millions de tokens de contexte ? 4 min Lisa Imperatrice Lisa Imperatrice 4 min 4 min Lisa Imperatrice Lisa Imperatrice Ne plus voir cette pub Lecture Zen Résumer l'article Résumé de l'article Résumé par IA, vérifié par Numerama ?

Nous générons pour vous un résumé de l’article grâce à une IA et nous le vérifions afin de nous assurer qu’il n’y ait aucune erreur, pour garantir l’authenticité de l’info. En savoir plus Subquadratic a dévoilé SubQ, un LLM fondé sur une attention parcimonieuse « sous‑quadratique ». L’entreprise revendique une fenêtre de contexte pouvant atteindre 12 millions de tokens.

Détails techniques

La communauté reste prudente faute de benchmarks indépendants. Subquadratic a dévoilé SubQ, un LLM fondé sur une attention parcimonieuse « sous‑quadratique ». L’entreprise revendique une fenêtre de contexte pouvant atteindre 12 millions de tokens.

La communauté reste prudente faute de benchmarks indépendants. Recevez tous les soirs un résumé de l’actu importante avec Le Récap’ Le 5 mai 2026, la startup am ricaine Subquadratic a pr sent SubQ, un nouveau mod le de langage reposant sur une attention dite sous-quadratique . Une approche qui promet de r duire drastiquement les co ts de calcul des LLM tout en leur permettant de g rer des contextes gigantesques.

Cette nouvelle architecture pourrait-elle bouleverser les LLM tels que nous les connaissons ? Le 5 mai 2026, la jeune pousse am ricaine Subquadratic a d voil SubQ, un nouveau mod le de langage pr sent comme le premier reposer sur une architecture d'attention parcimonieuse enti rement sous-quadratique . Si ce terme peut para tre relativement obscur au premier abord, il s'agit avant tout d'une architecture capable de g rer des contextes tr s longs co t r duit.

Répercussions sectorielles

En clair, plut t que de rivaliser avec OpenAI ou Anthropic sur la taille des mod les, la firme s'est attaqu e au moteur m me qui permet ces syst mes de fonctionner. Subquadratic a annonc SubQ le 5 mai 2026. // Source : @alex_whedon sur X En quoi consiste cette architecture de LLM ?

Les grands mod les de langage (LLM) actuels, comme GPT, Claude ou Gemini, reposent quasiment tous sur la m me brique de base : le Transformer. À l'int rieur de ce type de r seau, une op ration joue un r le central pour traiter du texte ou du code : l' attention . En effet, le mod le ne traite pas chaque mot s par ment : lorsqu'il lit un texte, il compare en permanence les mots entre eux afin d'identifier quelles parties de la phrase ou du document sont les plus importantes prendre en compte.

C'est ce m canisme qui lui permet de tenir compte du contexte global plut t que de ne regarder que les mots imm diatement voisins. Et votre vie num rique devient sereine Bitdefender Premium Security est une solution de cybers curit europ enne qui vous prot ge automatiquement contre les pirates et toutes les menaces du web.

Cette avancée envoie des signaux importants sur l’avenir du secteur, et le monde de la tech observe attentivement.