Google vient d’annoncer que Google Photos commencera à utiliser SynthID pour identifier les images modifiées via la fonctionnalité Réinventer de Retouche magique.
Cette mise à jour, déployée cette semaine, vise à faciliter l’identification des photos altérées par l’IA générative, une préoccupation croissante face à la manipulation des images numériques.
Qu’est-ce que SynthID ?
SynthID est une technologie de filigrane numérique invisible développée par Google DeepMind. Elle intègre un identifiant numérique directement dans les métadonnées des images, vidéos, fichiers audio et textes générés ou modifiés par l’intelligence artificielle.
Déjà utilisée sur les images entièrement créées avec le modèle Imagen de Google, SynthID fonctionne même après recadrage, modification des couleurs ou compression. Ce système s’apparente aux Content Credentials d’Adobe, qui appliquent des identifiants similaires aux fichiers modifiés avec les outils Creative Cloud.
Pourquoi cette mise à jour est essentielle
La fonction Réinventer de Retouche magique, disponible sur les derniers Google Pixel 9, permet d’éditer des photos simplement en décrivant les modifications souhaitées. Certains journalistes ont démontré que cette IA pouvait générer des scènes fictives, telles que des hélicoptères écrasés, des objets illégaux, voire des cadavres, sans qu’il soit immédiatement évident que ces modifications aient été réalisées par une IA.
Si Google a commencé à étiqueter les images modifiées par l’IA dans les descriptions de fichiers Google Photos dès octobre dernier, SynthID apporte une solution plus robuste en intégrant un marquage directement dans l’image.
Les limites de SynthID
Bien que cette technologie améliore la transparence des images modifiées par IA, elle n’est pas infaillible.
- SynthID ne modifie pas visiblement l’image, contrairement aux filigranes classiques. Son identification nécessite un outil de détection d’IA intégré à la fonction « À propos de cette image » dans Google Recherche et Chrome.
- Certaines modifications trop légères effectuées avec Retouche magique peuvent ne pas être détectées ni marquées.
- Des experts en cybersécurité soulignent que les filigranes numériques seuls ne suffiront pas à garantir une authentification fiable des contenus générés par IA à grande échelle. Un ensemble de solutions complémentaires sera nécessaire.
Comment vérifier si une image a été modifiée par IA ?
Grâce à la fonction « À propos de cette image », les utilisateurs peuvent :
- Voir où l’image est apparue en ligne, avec des descriptions contextuelles.
- Consulter les métadonnées, bien que celles-ci puissent être modifiées.
- Vérifier la présence du filigrane SynthID.
Cette fonctionnalité, disponible en 40 langues, est intégrée dans Entourer pour chercher (pour certains appareils Android) et Google Lens sur Android et iOS.
L’ajout de SynthID à Google Photos et Retouche magique marque une avancée majeure vers une meilleure transparence des images modifiées par IA. Cependant, ce n’est qu’un premier pas : le combat contre la désinformation visuelle nécessitera une combinaison d’outils pour garantir une authentification fiable des contenus numériques.
