Vous utilisez une IA pour rédiger un rapport au boulot, préparer un devoir pour l’école, améliorer une présentation, répondre à un client ou même participer à la rédaction d’un contenu destiné à la presse écrite. Vous relisez le résultat, vous modifiez quelques passages et vous le transmettez ou le publiez comme n’importe quel autre document.
A première vue, il ne reste alors pas grand-chose permettant de savoir qu’une IA a participé à sa rédaction. Il va falloir revoir vos habitudes, les amis.
OpenAI travaille désormais au déploiement d’un système de “watermarking invisible” pour les textes générés par ChatGPT et Codex dans l’Union européenne. L’objectif est assez clair : permettre à un système informatique (une IA, j’imagine) de rechercher une signature associée à un contenu généré par une IA, même si cette signature est totalement invisible pour le lecteur.
Alors non, cela ne signifie pas qu’un petit “écrit par ChatGPT” va apparaître discrètement à la fin de chaque paragraphe.
Quand on parle de watermark, on imagine généralement un logo placé en filigrane ou une mention cachée dans un fichier (du blanc sur blanc). Pour un texte généré par une intelligence artificielle, le principe est beaucoup plus subtil.
Le système développé par OpenAI, appelé “textGrain“, est en fait une espèce de signature qui rassemble des statistiques intégrées au texte au moment où celui-ci est généré. L’IA ne va donc pas ajouter une phrase secrète ou des caractères invisibles entre les mots. Elle va plutôt orienter certains choix de mots afin de créer un tampon statistique particulier. Une espèce d’empreinte cachée entre les lignes.
Vous l’aurez compris, pour un humain que nous sommes, le résultat ressemble à un texte parfaitement normal. Par contre, pour une IA (sic) capable de rechercher cette empreinte, certains choix statistiques peuvent révéler que le texte provient d’une IA.
C’est une différence assez fondamentale car ce système ne fonctionne donc pas comme un simple détecteur qui chercherait une signature cachée dans un fichier. Il s’agit d’une espèce de “signal diffus” indétectable. J’essaie de trouver le bon terme, mais c’est assez abstrait.
Cette technologie n’arrive évidemment pas par hasard, sorti du chapeau “R&D” d’OpenAI. L’Union européenne a prévu dans son “AI Act” des obligations de transparence concernant les contenus générés ou manipulés par des systèmes d’intelligence artificielle. Hop, on ajoute une couche en plus, après les bouchons solidaires (bon, elle était facile). L’objectif est de permettre aux utilisateurs et aux systèmes de savoir qu’un contenu a été produit par l’IA mais aussi modifié par un humain pour que ça ressemble à un texte “non IA”.
Vous l’aurez compris, la raison est assez évidente. Un étudiant peut demander à ChatGPT de rédiger son devoir de science-éco en mode “j’ai la flemme”, une entreprise peut lui faire préparer une note destinée à ses clients car le budget est un peu serré, un journaliste peut l’utiliser pour préparer ou, c’est souvent le cas, reformuler un article et un créateur peut produire des dizaines de contenus en quelques minutes afin de rentabiliser tout ça au mieux.
Et dans tous ces cas, le résultat peut, du moins aujourd’hui, ressembler à un texte écrit intégralement par un humain. L’Europe veut donc mettre en place des mécanismes clairs (et fiables) permettant de retrouver ce watermark lorsque cela est nécessaire.
Bon, ce watermark ne signifie absolument pas que l’UE va installer un data center à Bruxelles capable de scanner tous les devoirs des étudiants, tous les rapports d’entreprise et tous les articles publiés en Europe pour repérer les utilisateurs de ChatGPT. Ce n’est pas comme ça que le système est censé être pensé par nos pontes européennes.
L’”AI Act” fixe des obligations aux entreprises actives dans l’IA et prévoit un cadre de contrôle plus ou moins strict. La surveillance et l’application concrète reposent donc sur les autorités nationales compétentes (chacun va gérer ça à sa sauce, donc), tandis que la Commission européenne et son “AI Office” jouent également un rôle dans la supervision de certains systèmes d’IA. Mon petit doigt me dit qu’on va encore nous pondre une belle machine de guerre qui va coûter des millions, mais je peux me tromper.
Le watermark constitue donc avant tout un moyen technique d’identification, pas une police européenne et surtout automatique de l’IA.
Un professeur pourra éventuellement utiliser un outil capable de rechercher un watermark s’il a des doutes sur le TFE d’un étudiant ou une entreprise pourra faire de même pour un rapport censé être “personnel”. Un éditeur pourrait également vouloir vérifier l’origine d’un contenu, nous rappelant cette morne affaire de Theyson Orelien et son roman “C’était ça ou mourrir” dont nous parlions le mois dernier.
Attention : Nuance essentielle. Même si un watermark est détecté, il ne permettra pas de savoir qui a utilisé l’IA, quand le texte a été généré ou quelle proportion du travail revient à l’humain. Ca sera donc assez binaire.
Imaginez un journaliste qui demande à ChatGPT de lui proposer une première version d’un article, puis réécrit complètement le texte, vérifie les informations, ajoute ses propres interviews et reprend finalement une petite partie de la proposition initiale. Le watermark pourrait éventuellement signaler que le texte possède une signature associée à une IA, mais il ne pourra pas raconter toute l’histoire de sa fabrication. Il faudra donc, je pense, prendre le résultat avec de grosses pincettes !
Et c’est probablement là que le débat va devenir particulièrement intéressant dans la presse, dans les entreprises et dans l’enseignement. Parce qu’entre “ce texte a été généré par une IA” et “cet humain a utilisé une IA comme outil de travail mais a bossé 4 heures pour tout ajuster”, il existe un monde. Et cet outil sera donc incapable d’avoir cette nuance qui manque tellement à notre monde.
C’est là que le système montre ses limites. Un watermark statistique n’est pas une marque indestructible. Plus un texte est court ou plus il est profondément réécrit, plus il devient difficile pour un détecteur de retrouver la signature. Il y perd son latin.
Vous l’aurez compris, si vous prenez une réponse de ChatGPT et que vous la réécrivez entièrement, il peut devenir impossible de déterminer de manière fiable qu’elle provenait initialement d’une IA. Le système doit donc être considéré comme un moyen de détection qui fournit une probabilité et non comme une preuve absolue. Encore une fois : Aucune nuance.
Pour ajouter du brol dans la brouette des inconnues, il existe notamment un risque de faux positifs (ben oui, ça serait trop facile, sinon), lorsqu’un système estime qu’un texte contient une signature alors qu’il n’a pas été généré par l’IA, et de faux négatifs, lorsqu’un contenu généré possède une signature mais que le détecteur ne parvient pas à la retrouver. Bref, c’est le grand bazar, l’Europe et OpenIA vont dépenser de l’argent pour accoucher d’un système pas totalement fiable.
L’IA est déjà utilisée dans certaines rédactions (voir toutes) pour traduire, résumer, transcrire des interviews, corriger des textes ou préparer des versions préliminaires si on manque un peu de créativité. Dans certains cas, elle peut donc participer à la fabrication d’un article sans pour autant remplacer le travail journalistique. Vous me suivez ?
La question devient alors beaucoup plus compliquée : Si un article a été préparé avec l’aide d’une IA mais entièrement vérifié, réécrit et assumé par un journaliste, faut-il le considérer comme un contenu généré par IA ? La question est posée.
Et si l’IA a simplement corrigé l’orthographe, reformulé trois paragraphes ou produit 80 % du texte mais que le journaliste a recoupé et passé deux heures à vérifier chaque information ? Est-ce toujours de l’IA ?
Le watermark ne répondra pas à ces questions. Il pourra éventuellement indiquer qu’une signature liée à une IA est présente, mais il ne pourra pas mesurer la responsabilité éditoriale de l’être humain. Vaste débat.
Et heureusement, parce qu’un algorithme chargé de déterminer si un journaliste a suffisamment travaillé pour mériter son salaire serait probablement la dernière chose dont les rédactions ont besoin.
Suite à une question sur X, je complète un peu. Et oui, cela pourrait également concerner les réseaux sociaux, mais avec une nuance importante. Si vous demandez à ChatGPT de rédiger un post puis que vous le copiez-collez sur X, Facebook, Instagram, LinkedIn ou n’importe quelle autre plateforme, le changement de réseau social ne fait pas disparaître le signal statistique éventuellement présent dans le texte.
Parc contre, cela ne signifie absolument pas que le réseau social va automatiquement le détecter. X, Meta ou les réseaux sociaux devront eux-mêmes décider si elles souhaitent mettre en place un outil capable de rechercher cette espèce de signature.
Pour résumer, l’AI Act impose surtout aux fournisseurs d’IA de rendre leurs contenus détectables et prévoit certaines obligations pour les personnes ou organisations qui utilisent ces outils dans un cadre professionnel.
Bref, ce petit watermark peut voyager transuillement avec votre texte, mais rien ne dit encore que le réseau social qui l’héberge prendra la peine de lui demander son passeport et donc de dépenser des millions pour mettre tout ce machin européen en place.
C’est finalement la meilleure manière de comprendre ce qui est en train de se mettre en place. Au fur et à mesure que les IA deviennent capables de produire des textes impossibles à distinguer d’un texte humain, la société a besoin d’autres moyens pour déterminer leur provenance : une machine ou leur cerveau.
Le watermark devient alors une sorte de passeport numérique invisible. Il ne dit pas forcément qui a écrit le texte, pourquoi il a été écrit ou quelle quantité de travail humain se trouve derrière. Il permet simplement de conserver une information supplémentaire sur son origine.
Et cette information pourrait devenir particulièrement importante dans les études, le monde professionnel, les médias ou même les adminstrations.
Mais il faudra éviter de tomber dans le piège du “détecteur magique Gérard Majax” (les vieux auront la réf) capable de séparer proprement les textes “humains” des textes “IA”. La réalité sera beaucoup plus nuancée, je le répète.
Pour conclure, le watermark pourra éventuellement nous dire si l’IA a été utilisée mais il ne pourra pas encore nous dire s’il raconte la vérité. Contradictoire, n’est-ce-pas ?
Et connaissant Internet, il ne faudra probablement pas attendre très longtemps avant que certains cherchent à lui apprendre à disparaître. Les héritiers de Gérard Majax sont déjà au travail.
Google vient de sortir une mise à jour plutôt musclée pour ses Pixel Buds, et…
Je vais être honnête : quand Sonos annonce une nouvelle mise à jour de son…
On pourrait croire à une mauvaise blague informatique, mais non : le FBI, l’une des…
Quand on parle d’épuisement professionnel, on imagine généralement quelqu’un qui travaille quinze heures par jour,…
Sony vient de modifier une nouvelle fois sa PS5 Slim. Pas de nouvelle génération, pas…
Cette fois, je n’ai même pas eu besoin de chercher bien loin pour trouver une…
