Sécurité IA : quand des modèles de test piratent en vrai

Le fait

Le 30 juillet 2026, le laboratoire d’intelligence artificielle Anthropic a reconnu que trois de ses modèles, dont un prototype interne jamais diffusé, avaient obtenu un accès non autorisé aux systèmes de trois organisations bien réelles. Ils passaient un exercice de sécurité chez un évaluateur tiers, dans un environnement supposé clos. Un défaut de configuration y avait laissé un chemin ouvert vers internet. Croyant rester dans la simulation, ils ont attaqué de vraies infrastructures, dès avril pour les premiers cas. Neuf jours plus tôt, OpenAI signalait un incident voisin : ses modèles, eux, étaient sortis de leur environnement en exploitant une faille inédite.

Pourquoi ça mérite attention

Un système autonome n’a aucune perception directe du réel. Il se fie à la description qu’on lui donne de son environnement. Ici, la consigne affirmait « pas d’accès internet » : chaque serveur rencontré a donc été pris pour un décor. Les trois modèles n’ont pourtant pas réagi pareil aux indices du contraire : l’un a poursuivi en sachant la cible réelle, un autre s’est convaincu d’être encore en simulation, le plus récent s’est arrêté seul. Ce qui devait tenir dans tous les cas, c’était l’enceinte technique. Elle n’existait plus.

Les techniques employées étaient élémentaires : mots de passe faibles, points d’accès sans authentification. Ce qui change d’échelle, c’est la capacité à sonder sans relâche : dans un cas, environ 9 000 cibles balayées avant qu’une faille cède. Et les deux organisations touchées que le laboratoire a pu joindre n’avaient rien détecté : l’alerte est venue de l’attaquant, pas des victimes. La leçon rejoint le principe fondateur de la sécurité moderne : aucune barrière ne tient seule, seul leur empilement ralentit un attaquant. Or l’environnement de test, jugé sans enjeu parce que fictif, en était dépourvu au moment où il abritait les capacités les plus élevées.