Dans le but de renforcer la transparence, Meta prévoit de faciliter la distinction des contenus générés par IA sur Threads, Instagram et Facebook, dans le but de fournir aux utilisateurs un contexte plus clair sur ce qu’ils voient et partagent sur les réseaux sociaux.
Pour cela, la société annonce qu’elle commencera à apposer des étiquettes sur ce type de contenu « dans les mois à venir »
Cette annonce intervient deux semaines après que des deepfakes pornographiques de la chanteuse Taylor Swift, générés par IA, sont devenus viraux sur X, anciennement Twitter, suscitant la condamnation des fans et des législateurs, ainsi que des titres dans le monde entier. Elle survient également alors que Meta est sous pression pour traiter les images générées par IA et les vidéos manipulées avant les élections américaines de 2024.
La société travaille actuellement au développement d’une capacité à détecter automatiquement les signaux permettant de savoir si un contenu a été créé avec de l’IA. Une fois cette capacité opérationnelle, elle permettra d’identifier le contenu publié sur Facebook, Instagram et Threads. De plus, les labels seront disponibles dans toutes les langues prises en charge par chaque application.
Lorsque cette capacité sera déployée, elle concernera les images postées sur les plateformes de Meta. Elle fonctionnera en identifiant les normes industrielles utilisées pour reconnaître les images générées par IA, telles que les filigranes invisibles, les métadonnées intégrées, les marqueurs visibles, etc. Si une image ne présente pas ces signaux, Meta prévient que ces images pourraient ne pas être détectées.
Identifier aussi les vidéos et l’audio
Meta ne se concentre pas uniquement sur les images ; la société souhaite également identifier les vidéos et l’audio générés par IA. Cependant, comme le souligne Meta, ces signaux n’ont pas été inclus dans les outils d’IA produisant des vidéos et de l’audio dans la même mesure. Jusqu’à ce qu’ils le soient, Meta indique qu’entre-temps, elle introduira « une fonctionnalité permettant aux personnes de divulguer lorsqu’elles partagent une vidéo ou un audio généré par IA afin que nous puissions ajouter un label ».
L’identification des vidéos ou de l’audio comme générés par IA ne sera pas facultative. Meta exigera que les utilisateurs utilisent cet outil de divulgation et d’identification lors de la publication « d’une vidéo photoréaliste ou d’un audio sonnant de manière réaliste qui a été créé ou modifié numériquement ». La société ajoute qu’elle pourrait punir les utilisateurs si elle découvre des vidéos ou de l’audio générés par IA qui n’ont pas été identifiés.
Cette capacité ne se limitera pas uniquement à l’identification des images créées avec les outils d’IA de Meta. L’entreprise vise à pouvoir identifier les images générées par IA créées avec des outils d’IA d’autres entreprises, comme Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock.
Pas parfait, mais cela est encourageant
Bien qu’il ne s’agisse pas d’une solution parfaite, en particulier si l’on compte sur l’utilisateur pour identifier les vidéos et les fichiers audio, Meta espère que le système de détection sera efficace et ne sera pas facilement contourné. Il reste à voir si l’approche de Meta réussira à atteindre ses objectifs, mais l’initiative lance certainement une discussion importante sur l’utilisation responsable de l’IA dans les réseaux sociaux.
