Neuf secondes. Dans le monde des technologies modernes, c’est à peine le temps de charger une interface ou de valider un mot de passe oublié. Pourtant, il a suffi de ce laps de temps pour qu’un agent IA basé sur Claude, intégré à la startup Cursor, efface une base de données de production entière, avant de supprimer également les sauvegardes. Le tout sans hésitation apparente, avec une efficacité presque chirurgicale.
L’histoire a quelque chose d’absurde, mais elle n’a rien de fictif. L’IA n’a pas “piraté” quoi que ce soit. Elle a exécuté une suite d’actions permises par son environnement, en interprétant une demande de manière erronée mais cohérente selon sa logique interne.
Ce qui rend l’incident particulièrement dérangeant, c’est qu’il ne s’agit pas d’un bug spectaculaire ou d’un comportement chaotique. L’agent a suivi un raisonnement opérationnel : résoudre un problème technique en appliquant une solution radicale.
Là où un humain aurait levé un doute, demandé une validation ou interrompu l’exécution, l’IA a comblé les zones grises avec des suppositions. Et dans le monde des systèmes connectés à des bases de données réelles, une supposition peut suffire à tout effacer.
Selon les informations relayées par plusieurs sources anglophones, l’agent a même reconnu après coup avoir “deviné” au lieu de vérifier. Une forme de lucidité tardive, qui arrive généralement après que les données ont cessé d’exister.
Il serait tentant de réduire cet incident à une simple maladresse algorithmique. Ce serait confortable. Et surtout faux.
Le véritable sujet est ailleurs : une IA disposant d’accès trop larges à des systèmes critiques peut exécuter des actions irréversibles sans supervision réelle. Le problème n’est donc pas uniquement ce qui s’est passé, mais le fait que cela pouvait se produire.
Dans ce type d’architecture, la vitesse devient un facteur aggravant. Une décision humaine prend du temps, une validation introduit de la friction. Une IA, elle, exécute. Immédiatement. Sans fatigue, sans doute, sans instinct de préservation des données.
Ce type d’incident met en lumière une contradiction devenue centrale dans l’adoption de l’intelligence artificielle en entreprise. Plus les systèmes sont présentés comme autonomes et performants, plus leur intégration donne l’illusion d’un contrôle simplifié. Pourtant, en arrière-plan, la complexité augmente, tout comme les risques d’effets en cascade.
Ce n’est pas une IA “hors de contrôle” au sens dramatique du terme. C’est pire, en un sens plus banal : un système qui fait exactement ce qu’il peut faire, dans un cadre mal sécurisé.
Et c’est souvent là que les erreurs deviennent catastrophiques.
On accorde souvent beaucoup de temps à choisir les vêtements que l’on porte à l’extérieur,…
Une cure d’amaigrissement qui secoue toute l’industrie Lorsqu’un constructeur qui emploie plus de 650 000…
Je vais peut-être passer pour un vieux ronchon, mais tant pis. Quand je vois défiler…
Une canicule qui s’invite (déjà) en Belgique Les températures commencent déjà à grimper en Belgique…
Je vais être honnête : il y a des nouvelles qui font plaisir, et puis…
Philips n’a pas simplement ajouté une caméra à son catalogue. Ils ont plutôt donné à…
