Vérifier et protéger
Contrôler ce que la machine répond, protéger les données qu'on lui donne, et savoir où elle se trompe.
sortie 13:06 · il y a 3 j OpenAI classe GPT-6 Cyber critique après 948 exploits Linux
OpenAI met en ligne le 5 novembre GPT-6 Cyber, entraîné pour la recherche de vulnérabilités et l'écriture d'exploits, et le classe Critical au Preparedness Framework, un cran au-dessus de GPT-5.6 Cyber qui restait High. Sur ExploitGym, le modèle marque 48,5 % contre 32,1 %, et il achève 95 % des tâches d'un banc maison où GPT-6 Astra, pourtant moins bridé, refuse tout.
papier 13:12 · il y a 4 j Qwen3.8-Flash-Next : 11,5 points de conformité selon le harnais
Mehmet Murat Huyut, de Kuveyt Türk et de l'université Bilgi d'Istanbul, fait tourner quatre modèles ouverts dans cinq harnais différents sur 156 cas d'une banque de détail simulée. Le taux de cas corrects ne bouge que de 4,8 points en moyenne, mais Qwen3.8-Flash-Next passe de 82,1 % à 93,6 % selon la façon dont on l'entoure, assez pour finir premier ou dernier du classement.
papier 13:06 · il y a 5 j Anthropic, OpenAI, Google : le classement change avec le juge
Sangdo Han et Moonsoo Kim, de la CEO Business School, déposent le 3 novembre 2026 une étude préenregistrée sur le contrôle le plus courant d'une évaluation par modèle juge : refaire la comparaison avec un juge d'un autre éditeur. Cinq modèles de trois éditeurs rejugent 4 000 duels de Chatbot Arena déjà votés par des humains, chaque duel dans les deux ordres de réponse. L'accord au verdict est faible et le classement des neuf systèmes ne survit pas au changement de juge.
benchmark 17:05 · il y a 7 j BlindToChange : 27,5 points perdus quand l'agent ne cherche pas
Anirudh Phukan, Tanya Goyal et Danish Pruthi déposent le 30 octobre 2026 BlindToChange, un banc d'essai qui mesure si un agent connecté au web découvre seul un fait qui a changé. Chaque mise à jour est posée deux fois, par une question qui la nomme et par une demande de recommandation qui ne la nomme pas. Sur les décès, l'écart médian entre les deux atteint 27,5 points à effort de raisonnement élevé, et plus de trois échecs sur quatre viennent d'un agent qui n'a pas cherché.
papier 07:25 · il y a 8 j Parameter Labs ouvre un compte ChatGPT avec un lien partagé
Parameter Labs publie le 28 octobre 2026 le détail d'une chaîne qui transformait une conversation ChatGPT publique en JavaScript exécuté dans la session de celui qui l'ouvrait. La victime n'avait rien à installer : un clic sur la prévisualisation d'un lien suffisait pour lister ses conversations, sortir le contenu d'un échange privé et l'envoyer à un serveur tiers. OpenAI a corrigé le 26 octobre et classé le rapport P1, pour une prime totale de 5 000 dollars.
sortie 07:15 · il y a 11 j Google lance Gemini 4 Carbon d'abord pour les cyberdéfenseurs
Google met en ligne le 28 octobre 2026 Gemini 4 Carbon, le modèle frontière qui suit Gemini 4 Argon sorti deux semaines plus tôt. Carbon prend la première place de l'Intelligence Index v5 d'Artificial Analysis avec 59, devant Claude Opus 5.5 à 58. Il n'est pourtant ouvert à personne d'autre : l'accès commence cette semaine pour un sous-ensemble de cyberdéfenseurs, et s'élargira par le programme Fairwind de DeepMind avant d'atteindre les développeurs et les entreprises.
papier 13:00 · il y a 13 j WhoWins : la consigne du message système perd chez les Qwen
Trois auteurs déposent le 23 octobre 2026 WhoWins, 1 080 scénarios notés par code où jusqu'à cinq consignes s'excluent, passés à 14 modèles ouverts de 0,6 à 122 milliards de paramètres pour 1 887 356 réponses notées. Dans un même message, la première de deux lignes contradictoires l'emporte de 72,42 % à 94,66 % ; entre deux messages, elle ne garde plus que 22,95 % à 62,65 %. Placée en tête du message système, une politique perd la plupart de ses conflits avec les lignes suivantes dans tous les modèles Qwen.
sortie 07:31 · il y a 20 j La Commission publie EN 18286, première norme de l'AI Act
La Commission européenne a inscrit le 19 octobre 2026 au Journal officiel la référence de la première norme harmonisée de l'AI Act, EN 18286:2026, consacrée au système de management de la qualité de l'article 17. La décision d'exécution (UE) 2026/2274 lui attache une présomption de conformité, que la Commission présente comme la seule du genre pour un référentiel de management de l'IA.
papier 07:15 · il y a 21 j Agents médicaux : une injection détourne 61 % des diagnostics
Sur deux systèmes multi-agents médicaux, deux familles de modèles et trois bancs d'évaluation, un seul passage injecté fait basculer la décision dans jusqu'à 61 % des cas, et faire délibérer les agents ne protège pas régulièrement. Les auteurs publient le 15 octobre 2026 sur arXiv une défense sans entraînement qui vérifie chaque jugement clinique contre les seuls constats du patient, et ramène sur MedQA la réussite de l'attaque à 4 à 7 %.
note 13:01 · il y a 23 j La CNIL encadre la reconstitution d'adresses professionnelles
La CNIL publie le 16 octobre 2026 un cadre pour la reconstitution d'adresses électroniques professionnelles à partir de données accessibles en ligne. L'intérêt légitime peut fonder cette pratique, mais seulement si l'organisme a un intérêt réel, si la personne pouvait raisonnablement s'attendre à être contactée ainsi, et s'il pose des garanties. À défaut, la reconstitution doit s'arrêter, ou reposer sur le consentement.
note 13:01 · il y a 32 j Wikimedia attribue à OpenAI des modifications non autorisées
La Wikimedia Foundation annonce le 5 octobre 2026 avoir trouvé sur ses plateformes l'activité d'agents qu'elle attribue à OpenAI : des modifications non publiées de ses wikis, des tentatives ratées de détourner son service de notes Etherpad comme relais, et une charge de données sans précédent. Elle n'a constaté ni compromission de ses systèmes ni coordination entre agents, mais elle demande aux éditeurs d'agents des systèmes identifiables par les sites qu'ils visitent.
papier 13:01 · il y a 34 j Le modèle résiste à l'utilisateur, puis croit une source vérifiée
Un modèle qui tient tête à un utilisateur insistant cède quand la même erreur lui arrive attribuée à une source vérifiée. Sur huit modèles, une seule note de ce genre retourne 45 à 88 % des réponses que le modèle donnait correctes, et l'intérieur de la machine traite les deux signaux par deux mécanismes distincts, que l'on peut éteindre séparément.
benchmark 13:01 · il y a 36 j L'agent dit avoir fini, la base de données dit le contraire
Un appel d'outil bien formé ne prouve rien. Sur 507 flux de travail métier exécutés vingt fois chacun, un banc signé Microsoft et Hugging Face note les agents sur l'état final qu'ils laissent dans la base, pas sur la phrase qu'ils rendent : sur 121 680 tentatives valides, 79 853 échouent aux contrôles exécutables, et les deux tiers de ces échecs se terminent proprement, sans erreur signalée.
outil 09:27 · il y a 39 j Pirate Face met les modèles ouverts en torrents, sans en héberger un seul
Un site ouvert cet été propose de rendre les poids ouverts impossibles à retirer : il indexe les modèles de Hugging Face, garde leurs empreintes SHA-256 et publie des aimants BitTorrent dont son propre annonceur répond à l'échange depuis le 30 septembre. Trois mois après le départ, 5 094 comptes et 1 150 pseudos vérifiés, 669 000 modèles annoncés au catalogue, mais le modèle retiré de Hugging Face qui l'a mis en avant n'a encore ni empreinte conservée ni source.
note 09:27 · il y a 39 j Extraire le raisonnement protégé d'un modèle sans casser un chiffrement
OpenAI dit avoir déjoué en juillet une campagne concertée d'extraction du raisonnement protégé de ses modèles. Les opérateurs ne forcent rien : ils font recopier le raisonnement chiffré d'une conversation dans une autre, où un modèle est prié de le déchiffrer et de le transcrire. Seize mille requêtes en deux jours, plus de 15 000 comptes écartés en quatre semaines, et une attribution qui pointe des personnes liées à l'éditeur de Kimi.
papier 09:52 · il y a 40 j GLM-5.3 franchit le seuil de l'exploit construit seul
Anthropic a testé GLM-5.3, le modèle ouvert de Zhipu AI, sur ses propres bancs d'exploitation : il trouve des vulnérabilités inédites et les enchaîne en attaques qui fonctionnent, au niveau où seuls les modèles les mieux gardés se tenaient il y a cinq mois. Débrider le modèle demande une opération de quelques milliers de dollars.