Les dernières semaines ont été remplies de nouvelles au sujet d’assistants connectés qui écoutent non seulement accidentellement des conversations, mais aussi des propos entendus par de parfaits inconnus. Cependant, il s’avère qu’il ne s’agissait pas seulement de Google Assistant ou d’Amazon Alexa. Même les utilisateurs de Microsoft Skype ont été soumis au même traitement, de sorte qu’il n’est pas surprenant que même la console Xbox One ait enregistré des conversations à l’insu du propriétaire à des oreilles humaines.
En effet, Microsoft a embauché des personnes (humaines) pour écouter les joueurs Xbox à travers Cortana, selon une nouvelle révélation. Ce qui est triste, c’est qu’il ne s’agit en aucun cas d’un événement unique, pour Microsoft et d’autres sociétés de technologie. Elon Musk s’efforce d’avertir les gens du danger imminent que représentent les systèmes d’intelligence artificielle (IA), mais la vérité est que ces systèmes d’IA sont loin de devenir une menace. Les entreprises comptent encore sur les gens pour les former, et même avec cette méthode, leur taux de réussite n’est pas très élevé.
J’adore utiliser Alexa ou Google Assistant pour diverses tâches, sans oublier qu’ils sont pratiques dans les situations où il est impossible ou déconseillé d’utiliser les mains. Mais, cet usage a un prix.
Un rapport de Vice a révélé que des extraits enregistrés sur Xbox à l’aide de Cortana étaient gérés par des prestataires tiers. Pas plus tard que la semaine dernière, il a été découvert que Microsoft avait fait appel à des entrepreneurs indépendants pour écouter des extraits du moteur Skype Translator et de Cortana. L’objectif était le même, non pas pour violer la vie privée, bien sûr, mais pour améliorer les performances de l’apprentissage machine du service en marquant les erreurs et les phrases mal interprétées. Naturellement, il n’y a rien à faire pour que ces auditeurs aient accès à un son privé et personnel.
Des données anonymisées
Pour empirer les choses, il s’avère que Microsoft a également recueilli des données de Kinect avant que Cortana ne soit disponible. Il est également vrai que Microsoft a précisé qu’elle avait clairement annoncé à l’avance qu’elle recueillait des données vocales et qu’elles allaient être examinées par des gens et non des robots. L’employé qui a parlé avec Vice a précisé que les données Xbox n’étaient qu’une petite partie de leur activité, mais avec le temps, c’est tout ce qu’ils faisaient. Il vaut la peine de mentionner que les données ont été rendues anonymes, mais c’est quand même un fait ennuyeux.
Toutes les entreprises de technologie qui utilisaient ce type de service ont abandonné leurs pratiques en 2019, y compris Apple, Microsoft, Facebook et Amazon. Ou du moins, ils ont laissé tomber ceux qu’on connaît. Ils ont encore besoin d’un moyen de former leurs IA, et nous ne sommes pas à l’abri de connaître d’autres pratiques plus ou moins farfelues dans un proche avenir.
