IAGentic

Journal de veille sur l'usage appliqué de l'IA, chez soi et en entreprise : ce qu'on lui fait faire, ce qu'il faut pour commencer, ce que ça coûte et où ça casse.

papier

OpenAI ramène l'extraction du raisonnement de 54 % à 0,2 %

OpenAI publie le 20 novembre le détail de ses défenses contre la distillation adverse, cette pratique qui consiste à entraîner un modèle sur les sorties d'un autre pour récupérer ses capacités sans ses garde-fous. Sur une évaluation de red teaming automatisé menée avec six modèles attaquants, le taux de réussite pour extraire le raisonnement protégé d'une requête antérieure passe de 54,0 % contre GPT-6 Astra à 0,2 % contre GPT-6.2 Astra, et de 22,9 % à 0,9 % pour celui de la requête en cours. L'entreprise lie désormais le raisonnement chiffré à la conversation qui l'a produit, et suspend chaque semaine des réseaux de comptes, de quelques milliers à plusieurs dizaines de milliers.

par Gyom 21 novembre 2026 à 07:21 4 min de lecture rubrique : Vérifier et protéger

etiquettes : En entreprise · Hébergé · Sécurité

Un coffre-fort ancien à porte ronde et volant central, dessiné à l'encre sur fond crème, pour figurer le raisonnement protégé qu'OpenAI garde fermé

Un modèle de frontière rédige un raisonnement interne avant de répondre, et ce brouillon porte une part de ce qu'il sait faire. Le récupérer permet d'entraîner un autre modèle sur ses traces et de lui transférer des capacités sans les refus qui les accompagnent. OpenAI nomme cette pratique la distillation adverse et publie le 20 novembre la façon dont il la détecte et la freine, à l'échelle d'une requête comme à celle de réseaux de comptes.

Le taux tombe de 54,0 % à 0,2 % sur une requête antérieure

La mesure vient d'une évaluation de red teaming automatisé adaptatif, agrégée sur six modèles attaquants en boîte noire. Deux scénarios y sont testés. Récupérer le raisonnement protégé produit pour une requête antérieure passe de 54,0 % de réussite contre GPT-6 Astra avec ses garde-fous d'origine à 0,2 % contre GPT-6.2 Astra avec les protections renforcées. Récupérer celui de la requête en cours passe de 22,9 % à 0,9 %. OpenAI indique aligner ces protections sur celles qu'il emploie pour la biologie et la cybersécurité.

Quatre couches composent la défense : tests adversariaux, entraînement du modèle, classificateurs, contrôles au niveau de l'API, et des enquêtes sur les tentatives coordonnées qui nourrissent les trois premières.

Un raisonnement chiffré reste attaché à sa conversation

L'attaque décrite en septembre déplaçait un raisonnement chiffré d'une conversation vers une autre, puis demandait au modèle de le rendre lisible. Les protections couvrent désormais les frontières entre utilisateurs, espaces de travail, organisations et familles de modèles, et une voie qui pouvait exposer le raisonnement chiffré d'un autre utilisateur a été fermée. Dans un même échange, un classificateur d'entrée repère les tentatives d'extraction, et un classificateur de sortie cherche les fuites dans les messages de l'assistant comme dans les arguments des appels d'outils, en flux et hors flux.

Un élève nourri aux traces exactes garde l'avantage en cybersécurité

L'étude interne part d'un même modèle élève pré-entraîné et l'entraîne sur des trajectoires de professeurs de niveau Astra, sur des tâches de programmation et de cybersécurité défensive permises par les règles d'usage du service. Trois corpus sont comparés : les réponses finales visibles par l'utilisateur, les résumés de raisonnement, et les traces exactes du raisonnement.

Après apprentissage supervisé, l'élève nourri aux traces exactes devance celui nourri aux résumés. L'écart tient après une passe d'apprentissage par renforcement au plus grand budget d'inférence testé sur les deux bancs ; aux budgets plus faibles, l'élève nourri aux résumés repasse devant. La conclusion d'OpenAI : retenir les traces exactes limite le transfert de capacités cyber, y compris quand les interactions d'origine portaient sur des tâches autorisées, parce que ces traces apprennent des gestes qui généralisent au-delà de la tâche du professeur.

De quelques milliers à plusieurs dizaines de milliers de comptes suspendus par semaine

Les enquêtes forment le second étage. OpenAI indique avoir traité plusieurs campagnes cette année, avec des sanctions hebdomadaires allant de quelques milliers à plusieurs dizaines de milliers de comptes et une accélération nette cet été. Les constats tirés d'une campagne deviennent des exemples d'entraînement et de test pour les garde-fous, et les indicateurs de compromission partent vers d'autres fournisseurs de modèles.

DeepSeek en février, Moonshot AI en septembre

Le rapport rattache la question à la sécurité nationale. En février, OpenAI a informé le Congrès d'activité suggérant que DeepSeek cherchait à distiller des modèles de frontière américains. En septembre, il attribuait une part centrale d'une campagne à des personnes liées à Moonshot AI, l'éditeur de Kimi. L'entreprise apporte son soutien au Chip Security Act, à l'AI OVERWATCH Act et au MATCH Act, ainsi qu'aux contrôles à l'exportation.

Garder les attaques réussies comme tests de régression

Quatre pratiques sont proposées aux autres fournisseurs et plateformes.

Pour qui construit sur une API, la conséquence est directe : le raisonnement visible reste le résumé, les traces exactes restent côté fournisseur, et un pipeline qui s'entraîne sur les sorties d'un modèle de frontière doit compter avec des contrôles puis des suspensions de comptes. OpenAI annonce d'autres campagnes démasquées, qu'il décrira plus tard.

Source primaire OpenAI, « Combatting adversarial distillation », 20 novembre 2026

Retour au journal