Google lance un système d’identification d’images générées par IA

La génération d’images par IA connaît aujourd’hui une évolution exceptionnelle ! Plusieurs nouveaux acteurs surgissent cette année dans ce secteur et proposent des modèles text-to-image aussi performants les uns que les autres (cf. 10 générateurs d’images par IA les plus performants (septembre 2024). Face à cet engouement, Google Images essaie d’encadrer tout cela en mettant en place un nouvel outil pour détecter les images générées par IA…

Pourquoi Google identifie-t-il les images créées par IA ?

Les générateurs d’images générées par IA montent en puissance. Difficile donc de distinguer les créations authentiques de celles créées par les robots.

Dans ce contexte, Google craint une aggravation du nouveau problème actuel : les visuels synthétiques envahissent le Web ! C’est pourquoi il a décidé de mener un combat d’un tout nouveau genre :

• Pour la transparence et l’authenticité : depuis longtemps, tous les services de Google favorisent cette transparence et cette authenticité. Raison pour laquelle, l’identification des images générées par IA fait actuellement partie de ses priorités ;
• Pour la responsabilité sociale : en lançant ces outils de vérification d’images, il veut sensibiliser les internautes aux enjeux éthiques liés à l’IA générative. En d’autres termes, il vise à promouvoir une utilisation responsable de l’IA ;
• Contre la désinformation et la manipulation des images : grâce à ce combat, ceux qui ont l’habitude d’utiliser les visuels disponibles en ligne auront moins de doutes sur la véracité de ces contenus.

Comment fonctionne ce système d’identification d’images générées par IA ?

Ce nouveau système de vérification a été intégré à Google Images, dédié à la recherche des contenus visuels en ligne, en affichant les résultats de recherche sous forme de vignettes. Chaque visuel apparaît ainsi avec plusieurs informations, dont sa taille, son format et son site d’origine, ainsi qu’un extrait du texte associé aux mots-clés tapés.

Ce vérificateur d’images générées par IA est basé sur l’analyse des métadonnées spécifiques présentes dans les fichiers d’images.

Mais de quelles métadonnées parlons-nous ? Ce sont les informations supplémentaires sur chaque image. Grâce à elles, Google Images peut détecter et signaler automatiquement les visuels produits par les algorithmes.

Outre cela, la propriété « Digital Source Type » (avec la valeur « algorithmicMedia ») permet de voir immédiatement si une image est générée ou non par une intelligence artificielle.

Les métadonnées sont donc prises en compte par les algorithmes de Google Images lors de l’indexation des images, ce qui simplifie la recherche des contenus visuels et assure une grande transparence sur leur origine.

Parallèlement, Google Images propose des options de recherche avancées capables de filtrer par type d’image les résultats.

Quels sont les types d’images affectés par ce changement ?

Avec l’essor des outils IA text-to-image, les créateurs ont différentes manières de produire des contenus visuels. Ainsi, lorsqu’on parle d’images générées par IA, cela ne se limite pas aux créations 100 % synthétiques. Celles-ci incluent aussi les images modifiées par des algorithmes ou celles issues de la méthode d’outpainting ou d’inpainting.

Outpainting… ? Cette technique consiste à étendre une image au-delà de ses bords initiaux. L’inpainting en revanche fait référence au remplissage des zones manquantes d’une image avec des éléments créés par IA.

Ces différents types d’images générées par IA sont ainsi concernés par le mécanisme d’identification imposé par Google. L’objectif ? Augmenter la transparence dans l’utilisation de ces outils technologiques.

Soulignons qu’en plus de ce nouveau système, le géant du Web utilise déjà le SynthID qui permet d’ajouter un filigrane invisible aux visuels. De ce fait, même si les images ont été décontextualisées ou modifiées, leur origine est toujours traçable. Impossible donc de modifier ce filigrane !

Le partenariat de Google avec Midjourney et Shutterstock

Pour renforcer le contrôle des images générées par l’IA, Google a effectivement collaboré avec Midjourney et Shutterstock. Le partenariat entre ces trois entreprises permettra d’établir une cohérence dans ce projet pour avant tout lutter contre l’expansion de faux contenus sur Internet.

Ensemble, elles souhaitent également mettre en place des normes d’identification acceptées par tous les acteurs du numérique afin d’augmenter la fiabilité des contenus visuels générés par IA, tout en facilitant l’accès à des images authentiques créées par les humains.