Google ouvre SynthID Detector à tous : l’IA va désormais laisser des traces

Je ne sais pas pour vous, mais plus les intelligences artificielles deviennent douées pour fabriquer des images, des vidéos ou de l’audio crédibles, plus j’ai parfois envie de demander une pièce d’identité à ce que je regarde sur Internet.

Une photo d’un événement qui n’a jamais eu lieu, une vidéo parfaitement réaliste d’une personne qui n’a jamais prononcé ces mots, une voix qui ressemble à s’y méprendre à celle d’un proche… Nous entrons doucement dans une époque où nos yeux et nos oreilles ne suffisent plus toujours à distinguer le vrai du fabriqué. Google vient donc de rendre accessible à tout le monde son SynthID Detector, un outil conçu pour repérer les traces laissées par certaines intelligences artificielles dans les contenus qu’elles génèrent ou modifient.

Et cette fois, Google ne garde pas son détecteur dans un petit laboratoire avec trois chercheurs et une plante verte qu’on a oublié d’arroser.

Une sorte de détecteur de mensonges pour les images

SynthID repose sur une idée assez élégante : plutôt que d’essayer de deviner après coup si une image ou une vidéo « ressemble » à quelque chose produit par une IA, pourquoi ne pas y laisser discrètement une marque dès sa création ? C’est précisément le principe de SynthID.

Google intègre une sorte de signature invisible dans les images et les vidéos générées par ses outils d’intelligence artificielle, ainsi que dans les contenus audio. Cette marque n’est pas visible à l’œil nu et ne modifie donc pas l’apparence ou le son du contenu.

Le détecteur peut ensuite rechercher cette signature. Et Google affirme que sa technologie est déjà utilisée à une échelle assez impressionnante. Depuis son lancement en 2023, SynthID aurait servi à marquer plus de 180 milliards d’images et de vidéos, ainsi qu’une quantité d’audio correspondant à environ 240 000 années d’enregistrement. Oui, 240 000 ans.

Et ce n’est plus seulement une histoire de Google

C’est probablement la partie la plus intéressante de cette nouvelle version. À l’origine, SynthID était surtout destiné aux contenus produits avec les technologies de Google. Le détecteur était notamment testé auprès de journalistes, de professionnels des médias et de chercheurs.

Désormais, Google ouvre le service au grand public et élargit également sa capacité de détection aux technologies de plusieurs partenaires. Le système prend notamment en charge les signatures associées à OpenAI, NVIDIA et Kakao. Apple devrait également rejoindre le dispositif prochainement.

Autrement dit, Google tente de transformer SynthID en une sorte de point de contrôle commun permettant de vérifier plusieurs familles de contenus générés par IA au même endroit.

C’est plutôt logique : si chaque entreprise invente son propre système de marquage et son propre détecteur, nous allons rapidement avoir besoin d’un tableau Excel simplement pour savoir quel détecteur utiliser avant de regarder une photo de chat.

Comment ça fonctionne concrètement ?

Le principe est plutôt simple pour l’utilisateur. On fournit une image, une vidéo ou un fichier audio au détecteur (https://deepmind.google/models/synthid/) et celui-ci recherche une éventuelle signature SynthID compatible. Le résultat indique ensuite si une marque correspondant à l’un des systèmes pris en charge a été détectée.

Mais attention à un détail particulièrement important : SynthID n’est pas un détecteur universel de contenus générés par IA. Et ça change beaucoup de choses !

En effet, si le système trouve une signature, cela constitue un indice solide qu’un outil compatible avec SynthID a participé à la création ou à la modification du contenu. En revanche, si aucune signature n’est trouvée, cela ne signifie absolument pas que le contenu est authentique. Une IA qui n’utilise pas SynthID peut parfaitement produire une image sans laisser cette trace.

Autrement dit, un résultat négatif ne veut pas dire “humain certifié conforme”. Non.

L’IA n’est donc pas encore obligée de porter un bracelet électronique

C’est là que je trouve cette initiative intéressante, mais qu’il faut éviter de lui demander plus qu’elle ne peut réellement offrir. SynthID permet surtout d’apporter une information supplémentaire sur l’origine potentielle d’un contenu. Il ne permet pas de déterminer si ce que montre une image est vrai.

Une photo peut être authentiquement générée par une IA et représenter quelque chose de totalement fictif. À l’inverse, une véritable photo peut être retouchée ou manipulée sans que SynthID puisse nécessairement le signaler. Et si quelqu’un génère une image avec un outil qui ne possède pas de système de marquage compatible, le détecteur n’aura tout simplement rien à trouver.

C’est donc davantage un outil de traçabilité qu’un détecteur magique capable de regarder une image dans les yeux et de lui lancer : ” Avoue, tu as été faite par Gemini”.

Une arme intéressante contre les fausses images

Je trouve malgré tout l’initiative plutôt bienvenue. Nous allons devoir apprendre à vivre avec des contenus synthétiques de plus en plus nombreux et de plus en plus difficiles à distinguer des contenus réels. Dans ce contexte, disposer d’informations sur l’origine d’un fichier peut devenir particulièrement utile pour les journalistes, les chercheurs, les plateformes, les entreprises, mais aussi pour monsieur et madame Tout-le-Monde.

Google indique d’ailleurs que ses systèmes de vérification intégrés à Search, Gemini et Chrome traitent déjà plus d’un million de demandes par jour. Le lancement du détecteur public constitue donc une étape supplémentaire vers une forme de traçabilité des contenus générés par IA.

Parce que demain, même une photo aura besoin d’un CV

Je trouve finalement assez ironique que l’intelligence artificielle nous oblige à développer de nouveaux outils pour vérifier ce qu’elle vient elle-même de fabriquer. Pendant des décennies, une photographie était généralement considérée comme une preuve assez convaincante qu’un événement avait réellement eu lieu. Aujourd’hui, une photo peut être créée en quelques secondes avec une description de deux lignes.

Nous allons donc progressivement devoir apprendre à ne plus seulement demander « est-ce que cette image semble vraie ? », mais aussi “d’où vient-elle ?”.

SynthID ne va évidemment pas régler à lui seul le problème des deepfakes, des fausses informations et des contenus générés par IA. Mais c’est un outil supplémentaire pour remettre un peu de contexte dans un Internet qui commence sérieusement à partir en sucette.

Et quelque chose me dit que, dans quelques années, demander à une photo son certificat d’authenticité ne fera même plus rire personne.

Sources

• Google DeepMind : présentation officielle de SynthID, la technologie de filigrane numérique permettant d’identifier les contenus générés ou modifiés par l’intelligence artificielle.
• Google DeepMind : explications techniques sur le fonctionnement du filigranage des textes et des vidéos générés par l’IA, ainsi que sur ses limites.
• Google AI for Developers : documentation technique sur SynthID Text, son fonctionnement, la détection probabiliste et les possibilités offertes aux développeurs.
• Google DeepMind : présentation de la technologie SynthID appliquée aux images générées par l’intelligence artificielle et de sa résistance à certaines modifications.