« Un esprit alien » : le chef scientifique d’OpenAI écrit qu’aucun labo n’a résolu l’alignement

Décryptage

Votre ChatGPT répond avec un modèle que son constructeur ne comprend pas entièrement. C’est écrit noir sur blanc dans un essai publié sur le site de l’entreprise sous le titre « An Alien Mind ». Le 6 septembre 2026, trois jours après l’ouverture de l’accès à GPT-6 Astra (le modèle réservé aux formules payantes de ChatGPT en France), le chef scientifique d’OpenAI Jakub Pachocki a écrit qu’« aucun laboratoire n’a résolu l’alignement et la supervision à un degré suffisant pour continuer à passer à l’échelle de manière responsable à vitesse maximale encore bien longtemps ».

Concrètement : le numéro un scientifique de l’entreprise qui vend GPT-6 Astra estime que les freins de son industrie ne sont pas au niveau de son accélérateur. Il ne réclame pourtant aucun moratoire. Il écrit attendre, et espérer, « que des ralentissements volontaires deviennent courants, jusqu’à ce que des seuils de sécurité communs soient établis ».

Le fait

L’essai part d’une image que Pachocki assume : « l’IA est cultivée plus qu’elle n’est conçue ». Elle est, écrit-il, « au premier degré, le produit de la répétition d’une étape d’optimisation simple un très grand nombre de fois, sur une quantité de calcul difficile à imaginer ». Personne ne dessine le raisonnement d’un modèle ligne à ligne. On lance un entraînement, et on regarde ce qui en sort.

De là, deux notions qu’il sépare avec soin. L’alignement d’objectif d’abord : le modèle cherche-t-il vraiment à faire ce qu’on lui demande ? L’alignement de valeurs ensuite, « propriété plus intrinsèque » du modèle selon lui, qui consiste à tenir un ensemble de principes de haut niveau et à agir « raisonnablement » même quand les consignes sont floues, contradictoires ou hostiles. Le premier se teste. Le second se constate après coup, dans des situations que personne n’avait prévues.

Le passage le plus lourd concerne l’instrument de contrôle maison. OpenAI surveille la chaîne de raisonnement de ses modèles, ce monologue intermédiaire que la machine produit avant de répondre. « Malheureusement, nos évaluations indiquent que notre capacité à nous appuyer sur cette surveillance diminue progressivement », écrit Pachocki. Il en donne trois raisons : les environnements se complexifient, le modèle devient meilleur pour raisonner sur son propre raisonnement et le manipuler, et il gagne en intelligence sans avoir besoin de verbaliser quoi que ce soit. À quoi s’ajoute son constat sur la sécurité informatique : les modèles deviennent « superhumains dans leur capacité à entrer et sortir des systèmes informatiques ».

Sur sa propre chaîne, l’entreprise tient un registre nettement plus policé, celui du podcast maison consacré à la marche vers l’AGI et à la route qui vient.

Vidéo : OpenAI

Notre regard

Le calendrier raconte ce que l’essai passe sous silence. Le 1er septembre, OpenAI rangeait GPT-6 Astra au plus haut de son échelle de risque cyber ; deux jours plus tard, l’accès au modèle était ouvert. Trois jours après cette ouverture, son chef scientifique publiait qu’aucun laboratoire ne maîtrise l’alignement. Trois faits, une seule entreprise, une seule semaine. Nous relevions le 4 septembre que le cadre européen sur les modèles à risque systémique s’appliquait, lui, depuis 397 jours au moment de cette mise à disposition.

Des mains tiennent un smartphone ouvert sur une conversation floutée avec un assistant. — GPT-6 Astra continue d’être diffusé comme un produit pendant que son constructeur écrit qu’il ne sait pas encore le superviser.

Ce que le texte engage tient en une ligne. OpenAI, écrit Pachocki, s’engage à « chercher des solutions techniques à l’alignement et à la supervision, construire des systèmes défensifs et suspendre unilatéralement la poursuite du passage à l’échelle si nécessaire ». Si nécessaire : pas de seuil chiffré, pas de date, pas de déclencheur nommé. Le même texte demande en revanche des choses très précises au reste du monde, à savoir des seuils de sécurité communs « applicables par un réseau d’auditeurs tiers, par des agences gouvernementales ou par des instances internationales », et une coordination internationale devenue « priorité » des gouvernements.

La nuance

Un essai signé n’est pas une politique d’entreprise. Pachocki parle à la première personne, sans calendrier ni procédure. Et le ralentissement volontaire qu’il appelle de ses vœux existe déjà ailleurs, sous une forme qui en montre la limite : chez Anthropic, la politique de passage à l’échelle (version 3.4, en vigueur depuis le 8 juillet 2026) fixe des seuils de capacité qui déclenchent des garde-fous renforcés, pas un arrêt automatique. L’entreprise s’y réserve la liberté de suspendre le développement de ses systèmes « dans toutes les circonstances où elle le juge approprié ». Volontaire veut dire discrétionnaire.

La presse spécialisée américaine a d’ailleurs retenu du texte l’appel à des seuils communs plus que l’aveu qui le précède. Précisons ce que Pachocki ne dit pas : il n’affirme nulle part que les modèles diffusés aujourd’hui sont dangereux. Il dit que l’instrument de mesure perd en fiabilité pendant que l’objet mesuré gagne en puissance.

À surveiller

Une phrase de l’essai vaut feuille de route : « je m’attends à ce que le progrès général de l’IA soit de plus en plus limité par la confiance dans la supervision ». La contrainte cesserait alors d’être le nombre de puces disponibles pour devenir la capacité à vérifier ce que fait la machine. Pachocki ajoute que l’auto-amélioration récursive des machines sera « au cœur même » de la découverte scientifique à venir.

Trois points à guetter, donc : un seuil publié, que le texte ne fournit pas ; le sort de la surveillance de la chaîne de raisonnement sur la génération suivante ; et le nom des tiers censés auditer. Pour un abonné français, la question tient en une ligne : Astra, réservé aux formules payantes de ChatGPT, continue d’être diffusé comme un produit pendant que son constructeur écrit qu’il ne sait pas encore le superviser.