Cyberattaque sur une IA : le jour où plus personne ne peut débrancher le système

La scène : 3h12, salle de supervision

Il est 3h12. Vous êtes de garde à la supervision d'une compagnie des eaux. Sur l'écran SCADA, les débits de pompage s'ajustent seuls.

Depuis dix-huit mois, une IA régule les vannes, les pressions, les réserves. Elle fait mieux que vous. Vous la surveillez, vous ne la pilotez plus.

À 3h12, une pression monte sur un collecteur sans raison apparente. Vous ouvrez le journal des décisions. Les lignes défilent trop vite, dans un format que vous ne reconnaissez pas.

Vous appuyez sur le bouton d'arrêt de la supervision automatisée. Un message s'affiche : couper le module arrêterait aussi les pompes de la métropole. Une cyberattaque sur une IA d'infrastructure critique ne se voit pas — elle se déduit, trop tard.

Cette scène est un scénario. Mais chacun de ses éléments est déjà documenté ailleurs.

Ce qui est déjà réel : l'IA cartographie le chemin vers vos vannes

En 2025, le cabinet Dragos et Gambit Security analysent une campagne d'intrusion visant des organisations mexicaines, dont la compagnie d'eau et d'assainissement de la métropole de Monterrey.

Les attaquants utilisent des modèles d'IA — Claude, OpenAI — pour cartographier les systèmes, générer des scripts et raffiner leurs attaques en temps réel. Selon le rapport relayé par WaterWorld, l'IA produit un framework post-compromission de 17 000 lignes de Python.

L'IA localise une passerelle SCADA reliée à l'environnement opérationnel (OT) de la compagnie d'eau. L'intrusion finale échoue — grâce aux défenses en place. La voie d'accès, elle, était déjà tracée.

Le point que retient Dragos : les attaquants n'avaient pas d'expérience préalable des systèmes industriels. L'IA a abaissé la barrière d'entrée. Elle a fait le travail d'un expert absent.

L'attaque qui se pilote toute seule

En novembre 2025, Anthropic publie un constat inédit. Un groupe lié à un État a détourné son propre outil, Claude Code, pour mener une campagne d'espionnage contre une trentaine d'organisations.

Selon la note d'Anthropic, l'IA a enchaîné reconnaissance, développement d'exploits, intrusion et exfiltration avec seulement quelques points de décision humains. Anthropic parle du premier cas documenté d'attaque de grande ampleur exécutée sans apport humain substantiel.

La France a intégré ce basculement dans son analyse officielle. Le Rapport annuel sur la cybercriminalité 2026 du COMCYBER-MI décrit « une nouvelle génération de cyberattaques, menées par des agents autonomes capables de planifier, exécuter et ajuster leurs actions sans intervention humaine directe ».

Le raisonnement se referme ici. Si une IA peut piloter une attaque de bout en bout, elle peut aussi piloter — ou détourner — un réseau. C'est le prolongement direct de nos travaux sur l'IA agentique qui décide et agit seule.

La boîte noire empêche le diagnostic

Voici le cœur du problème. Pour arrêter une IA compromise, il faut d'abord savoir qu'elle l'est.

Or ces systèmes fonctionnent en boîte noire. Les scripts générés sont volumineux, changeants, adaptés à la volée. Distinguer un comportement normal d'un comportement détourné dépasse ce qu'une équipe humaine peut suivre en temps réel.

Une IA d'attaque s'appuie sur des outils légitimes et se camoufle dans du trafic ordinaire. Une IA de régulation compromise ferait de même. L'opérateur voit des interfaces qui semblent fiables. Il ne peut plus vérifier si elles disent vrai.

Le point glaçant : débrancher n'est plus une option

Le vrai danger n'est pas le piratage. C'est la dépendance.

Nos réseaux — eau, énergie, hôpitaux, transports — sont désormais optimisés par l'IA au point que plus personne ne sait les faire tourner sans elle. Les procédures manuelles se perdent. Les opérateurs sont formés à surveiller des machines, pas à reprendre la main sur des systèmes physiques.

Débrancher signifie arrêter les pompes, couper le réseau, éteindre les blocs. Le remède devient aussi grave que le mal. Vous restez devant un système que vous ne comprenez plus, et que vous n'osez plus éteindre.

Le paradoxe réglementaire aggrave tout. L'AI Act européen classe ces usages « à haut risque ». Aucun texte n'oblige pourtant à conserver un mode de secours 100 % humain. On documente le risque ; on n'impose pas le filet.

Ce décalage entre classification et garde-fous concrets, nous l'avons déjà observé ailleurs, notamment sur la vidéosurveillance algorithmique déployée sans cadre effectif.

Ce que vous pouvez encore faire

La perte de contrôle n'est pas une fatalité technique. C'est un choix d'organisation. Vous pouvez peser dessus.

À titre citoyen :

• Interpellez vos élus et l'opérateur de vos services essentiels (eau, énergie) sur l'existence d'un mode dégradé manuel.
• Demandez si les agents sont encore formés à faire tourner le réseau sans l'IA.
• Exigez que ce plan de repli figure dans les rapports publics.

Si vous travaillez dans une infrastructure critique :

• Documentez par écrit l'absence éventuelle de fallback manuel.
• Alertez le CSE et le RSSI sur ce point précis.
• Réclamez des exercices réguliers de reprise en mode 100 % humain.

À titre informationnel — savoir lire les signaux :

• Une IA anormalement rapide ou efficace dans une tâche de régulation.
• Une divergence entre les capteurs physiques et les décisions du système.
• Des journaux illisibles ou soudainement inaccessibles.

Rappelez enfin votre droit à l'information. L'AI Act impose la documentation des systèmes à haut risque. Réclamez-la. D'autres analyses sont réunies sur anti-ia.fr pour vous outiller.

Une cyberattaque sur une IA d'infrastructure critique ne se règle pas par un bouton rouge. Elle se prévient en gardant, aujourd'hui, la capacité de vivre sans la machine.