Google s’attaque aux « deepfakes ». Le géant de la recherche a annoncé son intention de faciliter la suppression à grande échelle des contenus sexuellement explicites non consensuels.
Dans cette annonce, publiée sur le blog de Google, Emma Higham, chef de produit, explique que des changements ont été apportés pour lutter contre cette nouvelle forme d’abus. On parle de « deepfakes » lorsque le visage ou le corps d’une personne a été modifié numériquement dans une photo ou une vidéo. Ces images sont généralement sexuellement explicites et sont utilisées à des fins malveillantes ou pour diffuser de fausses informations.
Si les internautes ont depuis longtemps la possibilité de demander le retrait d’images de Google Recherche, de nouveaux systèmes ont été mis au point pour faciliter la procédure.
Higham explique : « Lorsqu’une personne demande avec succès la suppression d’un faux contenu explicite et non consensuel la mettant en scène, les systèmes de Google visent également à filtrer tous les résultats explicites obtenus dans le cadre de recherches similaires portant sur cette personne ». « En outre, lorsque quelqu’un réussit à retirer une image de la recherche conformément à nos règles, nos systèmes recherchent et suppriment tous les doublons de cette image que nous trouvons ». Cela signifie que les copies de l’image peuvent être traitées en même temps, ce qui permet d’arrêter le deepfake dans son élan.
Selon Higham, cette méthode a été testée et « s’est déjà avérée efficace pour lutter contre d’autres types d’images non consensuelles ». « Ces efforts sont destinés à rassurer les internautes, surtout s’ils craignent que des contenus similaires à leur sujet n’apparaissent à l’avenir ».
Google Recherche va réduire le classement des sites Web signalés pour deepfakes
Google rend plus difficile l’apparition des images dans les résultats de recherche, car ces faux contenus seront rétrogradés dans les classements.
« Tout d’abord, nous déployons des mises à jour de classement qui réduiront le contenu explicite truqué pour de nombreuses recherches ». « Pour les requêtes qui recherchent spécifiquement ce contenu et incluent le nom de personnes, nous viserons à faire apparaître du contenu non explicite de haute qualité — comme des articles d’actualité pertinents — lorsqu’il est disponible ». « Les mises à jour que nous avons effectuées cette année ont permis de réduire de plus de 70 % l’exposition aux résultats d’images explicites pour ce type de requêtes. Grâce à ces changements, les internautes peuvent lire des articles sur l’impact des deepfakes sur la société, plutôt que de voir des pages contenant de vraies images truquées non consensuelles ».
Google rétrogradera les sites qui font l’objet d’un grand nombre de suppressions pour des images explicites truquées, ce qui les empêchera d’être affichés lors des recherches.
Bien que ces nouvelles fonctionnalités constituent un changement majeur, Higham estime qu’« il reste encore du travail à faire pour résoudre ce problème » et que d’autres solutions seront élaborées à l’avenir.
