La Commission européenne s’intéresse de près aux systèmes de recommandation de YouTube, Snapchat et TikTok. Elle a envoyé une demande d’informations à ces plateformes concernant la conception et le fonctionnement de leurs algorithmes, soulignant les potentiels risques pour les utilisateurs, notamment en matière de santé mentale et de diffusion de contenus préjudiciables.
Selon la Commission, les systèmes de recommandation, qui utilisent des algorithmes d’apprentissage automatique pour suggérer du contenu aux utilisateurs, sont au cœur des risques systémiques que présentent les plateformes en ligne.
We requested information from YouTube, Snapchat, and TikTok about the design of their recommender systems under the Digital Services Act.
YouTube and Snapchat must detail their algorithms’ parameters and risk amplification.
TikTok must explain measures against manipulation and… pic.twitter.com/usQkKHfPH4
— European Commission (@EU_Commission) October 2, 2024
En vertu du Digital Services Act (DSA), la nouvelle réglementation européenne sur la modération des contenus, les plateformes sont tenues d’évaluer et d’atténuer les risques liés à leurs systèmes de recommandation, notamment les risques pour la santé mentale des utilisateurs et la diffusion de contenus préjudiciables résultant de la conception de ces algorithmes, axée sur l’engagement.
Lutte contre les contenus illégaux et la manipulation
La Commission a également demandé des informations sur les mesures prises par les plateformes pour lutter contre la diffusion de contenus illégaux, tels que la promotion de drogues et les discours haineux.
TikTok a été spécifiquement interrogé sur les mesures mises en place pour empêcher les acteurs malveillants de manipuler la plateforme et pour atténuer les risques liés aux élections et au discours civique.
YouTube et Snapchat devront répondre à des questions concernant les paramètres de leurs algorithmes de recommandation et leur rôle potentiel dans l’amplification des risques systémiques, notamment en matière de protection des mineurs.
Un délai de réponse et des sanctions potentielles
Les trois plateformes ont jusqu’au 15 novembre pour fournir les données demandées. Leurs réponses guideront les prochaines étapes de la Commission, qui pourraient inclure l’ouverture d’enquêtes formelles et des sanctions financières en cas de non-conformité.
L’UE a déjà engagé des procédures pour non-conformité au DSA contre Meta (Facebook et Instagram), AliExpress et TikTok, les obligeant à prendre des mesures plus strictes contre les contenus illégaux et préjudiciables sur leurs plateformes.
La Commission ne s’adresse pas à Meta, la société mère de Facebook et Instagram, car les mêmes questions ont été abordées lors des procédures formelles ouvertes contre l’entreprise en mai dernier.
Préoccupations concernant les effets addictifs et les « trous noirs »
La Commission s’inquiète notamment des potentiels effets addictifs des systèmes de recommandation de Facebook et Instagram sur les enfants, ainsi que de la création de « trous noirs » qui enferment les utilisateurs dans des boucles de contenu sans fin.
Cette enquête de la Commission européenne souligne l’importance croissante de la régulation des algorithmes et des systèmes de recommandation, afin de protéger les utilisateurs et de garantir un environnement en ligne plus sûr et plus transparent.
