Des hackers utilisent Claude pour pirater OpenAI : quand l’IA d’Anthropic aide à casser la porte de son concurrent
Il y a quelque chose d’assez savoureux dans l’histoire : des chercheurs en cybersécurité ont réussi à pénétrer dans les systèmes internes d’OpenAI en utilisant principalement… Claude, l’intelligence artificielle développée par son grand concurrent Anthropic. Une situation qui ressemble furieusement à un épisode de Silicon Valley dans lequel Microsoft utiliserait Linux pour entrer chez Apple.
Mais derrière le côté amusant de l’affaire se cache surtout une démonstration assez sérieuse de ce que les nouveaux agents IA sont désormais capables de faire lorsqu’on leur donne les bons outils et un objectif précis.
Une attaque en moins de 72 heures
L’opération a été menée par Hacktron AI, une petite société spécialisée dans la cybersécurité. Les chercheurs ont découvert une vulnérabilité dans libheif, une bibliothèque open source utilisée pour traiter notamment des images HEIF et AVIF.
Avec l’aide de Claude Opus 5, ils ont transformé cette vulnérabilité en véritable chaîne d’exploitation. L’objectif n’était cependant pas de faire les poches à OpenAI ou de repartir avec les petits secrets de ChatGPT sous le bras : les chercheurs participaient au programme de bug bounty d’OpenAI et ont signalé leurs découvertes à l’entreprise.
Selon Hacktron, il leur a fallu moins de 72 heures entre la découverte initiale et l’accès à des ressources internes d’OpenAI.
Le forum qui ouvre beaucoup trop de portes
La vulnérabilité ne permettait pas directement de pénétrer dans le cœur d’OpenAI. Les chercheurs ont d’abord ciblé le forum communautaire de l’entreprise, hébergé avec Discourse.
Après avoir exploité la faille liée au traitement des images, ils ont découvert un autre problème dans la configuration du système d’authentification unique, ou SSO. Celui-ci leur a finalement permis de prendre le contrôle d’un compte appartenant à un employé d’OpenAI.
Et c’est là que la chaîne devient particulièrement intéressante : ce compte donnait accès à des services internes, notamment à GitHub, où se trouvaient des dépôts privés d’OpenAI.
Les chercheurs ont ainsi pu atteindre le code interne et démontrer qu’ils étaient capables d’effectuer certaines opérations sur les dépôts. Ils ont notamment créé une pull request de démonstration, sans chercher à récupérer ou examiner les informations les plus sensibles.
OpenAI a depuis corrigé les failles concernées et les chercheurs ont reçu une récompense de 6 500 dollars dans le cadre de son programme de chasse aux bugs.
Claude n’a pas “piraté OpenAI” tout seul
C’est probablement la nuance la plus importante de toute cette histoire.
Claude n’a pas décidé un beau matin de s’attaquer à OpenAI pendant que ses développeurs prenaient leur café. Les chercheurs ont défini l’objectif, découvert les vulnérabilités et utilisé le modèle comme un outil pour accélérer certaines étapes de la recherche et de l’exploitation.
La différence avec les attaques informatiques traditionnelles est cependant considérable. Une IA spécialisée dans le raisonnement et le développement logiciel peut analyser du code, proposer des pistes, générer des scripts, corriger ses propres erreurs et aider à enchaîner différentes étapes beaucoup plus rapidement qu’un humain travaillant seul.
Autrement dit, le hacker reste derrière le clavier, mais il peut désormais avoir un stagiaire numérique qui ne dort jamais et qui ne demande même pas de ticket restaurant.
Le vrai problème est ailleurs
Cette affaire arrive dans un contexte particulièrement intéressant pour l’industrie de l’IA. Anthropic explique depuis plusieurs mois observer une utilisation croissante de Claude dans des opérations cyber offensives, allant de la reconnaissance jusqu’à la recherche de vulnérabilités et au développement d’outils d’exploitation.
L’entreprise estime notamment que l’IA réduit fortement la différence entre des attaquants très expérimentés et des opérateurs disposant de beaucoup moins de compétences techniques.
Et OpenAI fait exactement le même constat avec ses propres modèles. Début septembre, l’entreprise indiquait que son modèle Astra atteignait désormais le niveau “Critical” dans ses évaluations de capacités en cybersécurité, ce qui signifie qu’avec les bons outils et accès, il peut identifier certaines failles inconnues et développer des méthodes permettant de les exploiter sur des systèmes fortement protégés.
Le paradoxe est donc assez savoureux : les fabricants d’IA développent des modèles toujours plus performants pour coder et analyser la sécurité, tout en devant empêcher ces mêmes capacités d’être utilisées contre eux.
Une course aux armements version chatbot
Ce piratage ne signifie donc pas que les serveurs d’OpenAI sont désormais grands ouverts et que n’importe quel adolescent équipé d’un abonnement Claude peut aller se servir dans le code de ChatGPT.
Il montre plutôt que la cybersécurité entre dans une nouvelle phase, dans laquelle les attaquants comme les défenseurs disposent des mêmes assistants extrêmement puissants.
La bonne nouvelle, c’est que cette attaque était un exercice de sécurité réalisé dans un cadre de bug bounty et qu’OpenAI a corrigé les vulnérabilités identifiées.
La moins bonne, c’est que les chercheurs ont démontré qu’une petite équipe pouvait transformer une vulnérabilité relativement banale en chaîne d’attaque complexe avec l’aide d’un agent IA, et ce en quelques jours seulement.
La guerre entre hackers et entreprises technologiques vient donc peut-être de passer d’une bataille entre humains à une compétition où chacun arrive accompagné de son propre robot programmeur.
Et quelque part, le plus ironique dans cette histoire reste probablement que Claude a aidé à entrer chez OpenAI pendant qu’OpenAI travaille justement à rendre ses propres IA capables de faire exactement ce genre de choses.
Sources
- Security researchers used Claude to help them hack into OpenAI — The Verge
- Hackers breach OpenAI using Claude tools — Tom’s Hardware
- OpenAI hacked by small team of white hat security researchers using Anthropic’s Claude Opus 5 — VentureBeat
- Hackers Used Anthropic’s Claude to Break Into OpenAI — The Wall Street Journal
- OpenAI ‘ethically hacked’ with help of Anthropic’s Claude chatbot — The Guardian
- This tiny cybersecurity startup managed to hack OpenAI using Claude, and won a $6,500 bounty — Business Insider
