Les premières lois globales au monde visant à réglementer l’intelligence artificielle ont fait l’objet d’un accord historique à l’issue d’une négociation marathon de 37 heures entre le Parlement européen et les États membres de l’UE.
L’accord a été qualifié « d’historique » par Thierry Breton, le commissaire européen responsable d’une série de lois en Europe qui régiront également les réseaux sociaux et les moteurs de recherche, couvrant des géants tels que X, TikTok et Google.
Historic!
The EU becomes the very first continent to set clear rules for the use of AI 🇪🇺
The #AIAct is much more than a rulebook—it’s a launchpad for EU startups and researchers to lead the global AI race.
The best is yet to come! 👍 pic.twitter.com/W9rths31MU
—Thierry Breton (@ThierryBreton) December 8, 2023
Breton a déclaré que 100 personnes étaient restées dans une salle pendant près de trois jours pour sceller l’accord. Il a ajouté que cela valait la peine de dormir quelques heures pour conclure cet accord « historique ».
Carme Artigas, secrétaire d’État espagnole à l’intelligence artificielle, qui a facilité les négociations, a déclaré que la France et l’Allemagne soutenaient le texte, alors que les entreprises technologiques de ces pays se battaient pour une approche plus légère afin de favoriser l’innovation au sein des petites entreprises.
L’accord place l’UE devant les États-Unis, la Chine et le Royaume-Uni dans la course à la réglementation de l’intelligence artificielle et à la protection du public contre les risques, notamment la potentielle menace pour la vie que beaucoup craignent que cette technologie en développement rapide comporte.
Les fonctionnaires ont fourni peu de détails sur ce qui figurera exactement dans la future loi, qui n’entrera pas en vigueur avant 2025 au plus tôt.
L’accord politique entre le Parlement européen et les États membres de l’UE sur les nouvelles lois visant à réglementer l’IA a été âprement disputé, avec des affrontements sur les modèles de fondation conçus à des fins générales plutôt que spécifiques.
Une réglementation sur la surveillance en temps réel
Mais, il y a eu aussi de longues négociations sur la surveillance par l’IA, qui pourrait être utilisée par la police, les employeurs ou les détaillants pour filmer les membres du public en temps réel et reconnaître le stress émotionnel.
Le Parlement européen a obtenu l’interdiction de l’utilisation de la surveillance en temps réel et des technologies biométriques, y compris la reconnaissance émotionnelle, mais avec trois exceptions, selon Breton. Cela signifie que la police ne pourrait utiliser ces technologies invasives qu’en cas de menace inattendue d’attaque terroriste, de recherche de victimes et dans le cadre de poursuites judiciaires pour des crimes graves.
Le débuté européen Brando Benefei, qui a codirigé l’équipe de négociation du Parlement avec Dragoș Tudorache, le débuté européen roumain qui a mené pendant 4 ans la bataille du Parlement européen pour réglementer l’IA, a déclaré qu’ils avaient également obtenu la garantie que des « autorités indépendantes » devraient donner leur autorisation à la « police prédictive » afin de se prémunir contre les abus de la police et la présomption d’innocence dans les crimes.
« Nous avions un objectif : élaborer une législation qui garantirait que l’écosystème de l’IA en Europe se développe avec une approche centrée sur l’homme, en respectant les droits fondamentaux, les valeurs humaines, la confiance, la conscience de la manière dont nous pouvons tirer le meilleur parti de cette révolution de l’IA qui se déroule sous nos yeux », a-t-il déclaré lors d’une conférence de presse tenue après minuit à Bruxelles.
Le fondement de l’accord est un système à plusieurs niveaux basé sur le risque, dans lequel le niveau de réglementation le plus élevé s’applique aux machines qui présentent le plus grand risque pour la santé, la sécurité et les droits de l’homme. Dans le texte original, il était envisagé d’inclure tous les systèmes comptant plus de 10 000 utilisateurs professionnels.
La catégorie de risque la plus élevée est désormais définie par le nombre de transactions informatiques nécessaires pour entraîner la machine, connu sous le nom « d’opérations en virgule flottante par seconde » (Flops). Selon certaines sources, il n’existe qu’un seul modèle, GPT-4, qui correspondrait à cette nouvelle définition.
Le niveau inférieur de la réglementation impose toujours des obligations majeures aux services d’IA, notamment des règles de base concernant la divulgation des données utilisées pour apprendre à la machine à faire n’importe quoi, de la rédaction d’un article de journal au diagnostic d’un cancer.
Tudorache a déclaré : « Nous sommes les premiers au monde à mettre en place une véritable réglementation pour l’#AI, et pour le futur monde numérique piloté par l’IA, en guidant le développement et l’évolution de cette technologie dans une direction centrée sur l’humain ».
Auparavant, il a déclaré que l’UE était déterminée à ne pas commettre les erreurs du passé, lorsque des géants de la technologie tels que Facebook ont été autorisés à devenir des sociétés multimilliardaires sans obligation de réglementer le contenu de leurs plateformes, y compris l’ingérence dans les élections, les abus sexuels sur les enfants et les discours haineux.
Une réglementation forte et complète de la part de l’UE pourrait « servir d’exemple à de nombreux gouvernements qui envisagent de réglementer », a déclaré Anu Bradford, professeur à la Columbia Law School et expert de l’UE et de la réglementation numérique. D’autres pays « ne copieront peut-être pas toutes les dispositions, mais s’inspireront probablement de nombreux aspects ».
Les entreprises d’IA qui devront se conformer aux règles de l’UE étendront probablement certaines de ces obligations aux marchés situés en dehors du continent, a déclaré Bradford à l’AP. « Après tout, il n’est pas efficace de reformer des modèles distincts pour différents marchés », a-t-elle déclaré.
