Arvind Krishna, PDG d’IBM, a déclaré le lundi 8 juin que la société ne développera plus et ne proposera plus de logiciels de reconnaissance ou d’analyse faciale à usage général. Dans une lettre adressée au Congrès, rédigée en soutien à la loi de 2020 sur la justice dans les services de police, Krishna a plaidé en faveur de nouvelles réformes pour une utilisation responsable de la technologie et pour combattre l’injustice raciale systématique et les fautes de la police.
« IBM s’oppose fermement et ne tolérera pas l’utilisation de toute technologie, y compris la technologie de reconnaissance faciale proposée par d’autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits de l’homme et des libertés fondamentales, ou tout autre objectif qui ne serait pas conforme à nos valeurs et à nos principes de confiance et de transparence », a écrit Krishna dans la lettre.
Krishna, qui a pris ses fonctions de directeur général en avril dernier, a ajouté qu’il était temps que le Congrès entame un dialogue national sur les implications de la technologie de reconnaissance faciale et sur la manière dont « elle devrait être utilisée par les services de police nationaux ».
Le PDG a également fait part de ses préoccupations concernant les préjugés raciaux que l’on retrouve souvent dans les systèmes d’intelligence artificielle aujourd’hui. Krishna a également souligné la nécessité de renforcer la surveillance des outils d’intelligence artificielle, en particulier lorsqu’ils sont utilisés par les forces de l’ordre et les politiques nationales qui « apportent une plus grande transparence et une plus grande responsabilité dans le maintien de l’ordre, comme les caméras corporelles et les techniques modernes d’analyse des données ».
Des personnes connaissant bien le sujet ont déclaré à CNBC que la mort de George Floyd et le changement d’orientation qui en a découlé sur les thèmes de la réforme de la police et de l’inégalité raciale ont convaincu IBM de fermer ses produits de reconnaissance faciale.
Une utilisation controversée
Au cours des dernières années, les systèmes de reconnaissance faciale ont considérablement progressé grâce aux développements dans des domaines tels que l’apprentissage automatique. Cependant, sans aucune surveillance officielle, ils ont été largement autorisés à fonctionner sans réglementation et à violer la vie privée des utilisateurs. En effet, si la technologie de reconnaissance faciale a évolué de manière spectaculaire ces dernières années et peut aider certaines enquêtes policières, son application a toujours été controversée.
Krishna n’a pas dit si la société allait reconsidérer sa décision si et quand le Congrès introduirait de nouvelles lois pour soumettre à un examen plus approfondi des technologies telles que la reconnaissance faciale.
