Dans un contexte de montée en puissance de l’identification et de la labellisation du contenu généré par IA, OpenAI a récemment annoncé une mise à jour majeure pour ChatGPT et son modèle générateur d’images intégré, DALL-E 3.
Cette mise à jour introduit un nouveau système de filigranes des métadonnées permettant à l’entreprise, ainsi qu’à tout utilisateur ou organisation sur le Web, d’identifier les images comme ayant été créées à l’aide d’outils d’IA. OpenAI assure que l’ajout de ces métadonnées de filigrane aura un « effet négligeable sur la latence » et ne compromettra pas la qualité de la génération d’image, bien que cela puisse légèrement augmenter la taille des fichiers pour certaines tâches.
Cette initiative d’OpenAI survient quelques heures seulement après que Meta a annoncé une mesure analogue pour identifier les images générées par IA via son propre générateur d’images, Imagine, accessible sur Instagram, Facebook et Threads, et également entraîné sur des images soumises par les utilisateurs de ces plateformes.
Les images générées dans ChatGPT et depuis l’API d’OpenAI incluront désormais des métadonnées conformes aux spécifications de la Coalition for Content Provenance and Authenticity (C2PA), permettant ainsi à quiconque, y compris les plateformes sociales et les distributeurs de contenu, de vérifier que l’image a été produite par les produits d’OpenAI. Cette modification est déjà effective sur le Web et sera implémentée pour tous les utilisateurs mobiles de ChatGPT d’ici le 12 février.
La C2PA est un effort relativement récent, issu de la Joint Development Foundation, une organisation à but non lucratif soutenue par des entreprises telles qu’Adobe, ARM, Intel, Microsoft (investisseur et partenaire commercial d’OpenAI), The New York Times, la BBC, la CBC et plusieurs autres entreprises de médias et de technologie. Fondée en février 2021, avant même le lancement de ChatGPT, la C2PA vise à développer des normes techniques pour certifier la source et l’historique ou la provenance du contenu du média, dans le but de lutter contre la désinformation, la mésinformation et la fraude de contenu en ligne.
Un réel enjeu
L’intégration de C2PA par OpenAI diffère de l’approche de Meta, qui prévoit une identification publique incluant un émoji d’étoiles pour signaler immédiatement aux spectateurs qu’une image a été créée avec des outils d’IA. En revanche, OpenAI admet que les métadonnées comme celles de C2PA ne sont pas une solution infaillible pour aborder les questions de provenance, car elles peuvent facilement être supprimées, soit accidentellement, soit intentionnellement. Par exemple, la plupart des plateformes de réseaux sociaux suppriment aujourd’hui les métadonnées des images téléchargées, et des actions comme la prise d’une capture d’écran peuvent également les éliminer.
Cette évolution marque un pas important dans la quête d’OpenAI pour combattre la désinformation, notamment en prévision des élections mondiales de 2024, et démontre l’engagement de l’entreprise à rendre la provenance du contenu numérique plus transparente et vérifiable.
