En avril dernier, plus de 4 000 employés de Google ont signé une lettre ouverte au PDG, Sundar Pichai, pour faire valoir ce qu’ils ont qualifié « d’affaire de guerre. » Les ingénieurs de Google ont été parmi des milliers de membres du personnel Google qui ont signé la lettre, selon le New York Times. La lettre demandait l’annulation immédiate d’un projet militaire spécifique, et une déclaration de politique plus générale sur la technologie développée pour l’armée.
Un mois plus tard, une douzaine d’employés de Google ont décidé de démissionner pour protester contre la participation continue de Google au projet militaire « Project Maven ». Ceux qui démissionnent invoquent des préoccupations éthiques pour tirer parti de l’IA dans la guerre des drones, ainsi que des préoccupations plus générales concernant les décisions de Google sur la scène politique. Beaucoup des employés qui ont choisi de mettre fin à leur contrat chez Google ont partagé leurs justifications dans un document qui a été diffusé en interne chez Google.
Comme le rapporte Gizmodo, « les employés qui démissionnent pour protester… indiquent que les cadres sont devenus moins transparents avec leurs employés à propos de controversées décisions commerciales et semblent moins intéressés par les objections des employés que par le passé ». Et la culture de Google a souvent été décrite comme ouverte et honnête, ce qui semble être en train de changer. Comme l’a déclaré un employé démissionnaire : « Au cours des derniers mois, j’ai été de moins en moins impressionné par la réaction et la façon dont les préoccupations des gens sont traitées et écoutées ».
Il faut quitter le projet Maven
La lettre ouverte, qui a apparemment été ignorée par la direction, a demandé que Google annule immédiatement son rôle dans la mise en œuvre du projet Maven. Le nom de code d’une équipe interfonctionnelle de guerre algorithmique (AWCFT) du Département de la Défense (DoD), le Projet Maven est un programme d’intelligence artificielle (IA) en cours de développement. Le but de Maven est d’évaluer les séquences vidéo de drones, a rapporté Gizmodo.
Le projet Maven a été créé par le département américain de la Défense pour le Pentagone en avril 2017. Selon une lettre datée du 26 avril 2017 du secrétaire adjoint à la Défense, le DoD doit « intégrer plus efficacement l’intelligence artificielle et l’apprentissage automatique dans les opérations afin de maintenir des avantages sur des adversaires et des concurrents de plus en plus compétents ».
Le secrétaire adjoint de la Défense indique que l’utilisation initiale prévue de Maven est de fournir « des algorithmes de vision par ordinateur pour la détection d’objets, la classification et des alertes » pour un système aérien tactique sans pilote (UAS), ou drones.
Google doit spécifier qu’elle se tient à l’écart de toute technologie de guerre
La deuxième requête dans la lettre adressée à Google, plus générale, était que Pichai « rédige, publie et applique une politique claire stipulant que ni Google ni ses sous-traitants ne construiront jamais de technologie de guerre ». Participer au projet Maven « va irrémédiablement endommager la marque de Google et sa capacité à rivaliser pour attirer les talents », indique la lettre. Google « se bat pour garder la confiance du public », poursuit la lettre, alors que beaucoup craignent « une IA biaisée et armée ».
La lettre fait référence à une déclaration de valeur fondamentale de Google : « Chacun de nos utilisateurs nous fait confiance. Ne compromettez jamais cela. Jamais ». Les signataires de la lettre affirment que le contrat avec le DoD s’oppose directement à cette valeur fondamentale et met en péril la réputation de l’entreprise.
