Microsoft a beau miser sur la technologie OpenAI et ChatGPT, cela ne signifie pas que l’entreprise souhaite que des informations sensibles soient partagées avec elle.
Microsoft déploie ChatGPT sur plusieurs produits et n’a aucune objection à ce que ses propres employés utilisent cette technologie. Cependant, l’entreprise veut s’assurer qu’aucune information sensible n’est partagée avec l’IA.
« Veuillez ne pas envoyer de données sensibles à un endpoint OpenAI, car il pourrait les utiliser pour former de futurs modèles », a écrit un ingénieur principal dans un message interne examiné par Business Insider.
Le mémo démontre l’un des plus grands défis à relever pour aller de l’avant avec les IA de modèles linguistiques de grande taille, à savoir le contrôle des informations auxquelles il a accès, et la façon dont ces informations seront utilisées si elles sont partagées.
ChatGPT est une IA conversationnelle qui apprend de ses interactions et de ce que les gens lui tapent. En tant que tel, il n’est pas surprenant que Microsoft veuille s’assurer qu’aucune information sensible n’est partagée avec elle, puisque l’IA pourrait alors finir par utiliser ces informations dans ses réponses aux utilisateurs.
Faire preuve de prudence
« Les êtres humains signent des accords de confidentialité et sont donc incités à faire attention à la manière dont ils partagent les informations. Mais les grands modèles linguistiques tels que ChatGPT n’ont pas la capacité de raisonner sur ces questions, du moins par défaut », a déclaré à Insider Vincent Conitzer, professeur d’informatique à l’université Carnegie Mellon et directeur de son laboratoire d’IA.
Les autres entreprises feraient bien d’imiter la prudence de Microsoft.
