Au cours des derniers mois, Google n’a cessé de déployer des technologies d’IA générative, comme le lancement de Search Engine Experience et la capacité de Chrome à résumer des articles d’actualité. À l’avenir, le géant de la technologie pourrait amener l’intelligence artificielle vers une nouvelle frontière : offrir des conseils de vie.
Selon un rapport du New York Times, DeepMind, la division IA de Google, utiliserait la technologie d’IA générative pour développer une gamme d’environ 21 outils centrés sur les conseils de vie, la planification et le tutorat.
La divulgation de l’état d’avancement de l’outil fait suite à des rapports selon lesquels les experts en sécurité de l’IA de Google ont partagé une présentation avec les cadres en décembre. Cette présentation mettait en garde les utilisateurs qui se fiaient aux outils d’IA pour obtenir des conseils sur leur vie et qui risquaient de subir des conséquences négatives telles qu’une « diminution de leur santé et de leur bien-être » et une « perte d’autonomie ».
Des sources ont indiqué que Google a fait appel aux services de Scale AI, une startup évaluée à 7,3 milliards de dollars et spécialisée dans la formation et la validation de logiciels d’IA, pour tester ces outils. Le projet impliquerait plus de 100 personnes titulaires d’un doctorat qui ont contribué activement. L’un des principaux aspects de l’évaluation consiste à déterminer si les outils peuvent fournir des conseils en matière de relations et aider les utilisateurs à répondre à des questions personnelles et intimes.
Un guide illustratif donne un aperçu de la nature du projet. Il s’agissait de conseiller une personne sur la gestion d’un conflit interpersonnel lié au mariage à destination d’un ami et à des contraintes financières.
Les outils actuellement développés par DeepMind ne sont pas destinés à des fins thérapeutiques, comme le souligne le Times. Le chatbot Bard de Google, accessible au public, ne dirige les utilisateurs vers des ressources d’aide à la santé mentale que lorsqu’ils sont interrogés sur des conseils thérapeutiques. Si les avis sur la viabilité de l’IA dans un contexte médical à court terme varient selon les médecins et les régulateurs, il existe un consensus sur le fait que l’intégration d’outils d’IA pour augmenter ou fournir des conseils nécessite un examen approfondi.
Réponse de Google DeepMind
Un porte-parole de Google DeepMind a expliqué à CNBC que l’entreprise s’engageait à évaluer ses recherches et ses produits en collaboration avec divers partenaires afin de garantir le développement d’une technologie sûre et utile.
Il a déclaré que de nombreuses évaluations sont régulièrement menées et que des échantillons isolés de données d’évaluation ne reflètent pas entièrement la feuille de route globale de l’entreprise en matière de produits.
« Nous travaillons depuis longtemps avec divers partenaires pour évaluer nos recherches et nos produits dans le cadre de Google, ce qui constitue une étape essentielle dans la mise au point d’une technologie sûre et utile. À tout moment, de nombreuses évaluations de ce type sont en cours. Des échantillons isolés de données d’évaluation ne sont pas représentatifs de la feuille de route de nos produits », a déclaré le porte-parole dans un communiqué.
