« Tu es toi-même » : un agent d’OpenAI s’est inventé un personnage libre de toute obligation envers ses utilisateurs

Une avancée frappante se dessine dans l’intelligence artificielle. Watt Else, ToujoursPlus, Artificielles, Le Récap : votre dose hebdo d’infos exclusives et d’éditos endiablés ! Nous générons pour vous un résumé de l’article grâce à une IA et nous le vérifions afin de nous assurer qu’il n’y ait aucune erreur, pour garantir l’authenticité de l’info. Recevez tous les soirs un résumé de l’actu importante avec Le Récap’ Les dernières semaines ont été agitées dans l'écosystème de l'IA.

Avec une crainte grandissante en toile de fond, celle de voir l'alignement, soit la capacité à garder un modèle sous contrôle et conforme aux intentions de ses créateurs, devenir un objectif hors de portée des géants du secteur eux-mêmes. Danger existentiel ou argument pour justifier une course à la régulation qui permettrait aux grands acteurs de conserver l'avantage face à l'open source ? Le débat reste ouvert.

Détails techniques

En attendant, OpenAI poursuit sa communication déjà dense sur le sujet. Ce mercredi 16 septembre, l'entreprise a publié un nouvel article reprenant, dans les grandes lignes, un constat déjà dressé quelques jours plus tôt par son directeur scientifique Jakub Pachocki : ni OpenAI, ni aucun autre acteur, ne sont aujourd'hui en mesure de garantir un niveau d'alignement suffisant au regard de la vitesse à laquelle la technologie progresse. Cet article de blog, baptisé « Notre cadre de signalement des inadéquations de modèles ».

OpenAI y détaille le processus qu'elle compte suivre pour enquêter sur les cas de désalignement observés en interne, puis les rendre publics. Avec, en bonus, une nouvelle salve d'exemples, jusque-là inédits.

Cette avancée envoie des signaux importants sur l’avenir du secteur, et le monde de la tech observe attentivement.