Le nouvel outil de Google détecte les images générées IA : ce n'est pas si simple

L'outil peut détecter les images générées par l'IA même après qu'elles aient été modifiées, avec un changement de couleurs et de filtres. Google DeepMind

Les images générées par les outils d'intelligence artificielle sont de plus en plus difficiles à distinguer de celles créées par les humains. Et elles peuvent alimenter des messages de désinformation, ce qui est une des utilisations irresponsable de l'IA. À cette fin, Google a dévoilé un nouvel outil - SynthID - qui permet de différencier les images générées par l'IA de celles créées par l'homme.

Cet outil, créé par l'équipe DeepMind, ajoute un filigrane numérique imperceptible aux images générées par l'IA, comme une signature. Le même outil peut ensuite détecter ce filigrane pour indiquer quelles images ont été créées par l'IA, même après des modifications telles que l'ajout de filtres, la compression, la modification des couleurs, etc.

SynthID combine deux modèles d'apprentissage profond en un seul outil

SynthID combine deux modèles d'apprentissage profond en un seul outil. L'un ajoute visuellement le filigrane au contenu original de manière imperceptible à l'œil nu et l'autre identifie les images filigranées.

Actuellement, SynthID ne peut pas détecter toutes les images générées par l'IA, car il est limité à celles créées avec l'outil de conversion de texte en image de Google, Imagen. Mais c'est le signe d'un avenir prometteur pour l'IA responsable, surtout si d'autres entreprises adoptent SynthID dans leurs outils d'IA générative.

L'outil sera progressivement déployé auprès des clients de Vertex AI utilisant Imagen et n'est disponible que sur cette plateforme. Toutefois, Google DeepMind espère le rendre bientôt disponible dans d'autres produits Google et pour des tiers.

Source : "ZDNet.com"