Sundar Pichai, PDG de Google, a envoyé une note interne au personnel, soulignant que les erreurs de Gemini sont « totalement inacceptables » après que l’application d’intelligence artificielle (IA) a entraîné l’entreprise dans une controverse.
Ces derniers jours, le géant de la technologie a suspendu sa fonction de création d’images sur Gemini après qu’elle a généré des résultats offensants et historiquement inexacts.
Dans certains cas, la technologie représentait des pères fondateurs des États-Unis qui n’étaient pas blancs, des soldats allemands métis de l’époque nazie, ainsi que des représentations inexactes des cofondateurs de Google. La réticence du chatbot à dire si Elon Musk tweetant des mèmes est pire qu’Adolf Hitler tuant des millions de personnes aurait été particulièrement préoccupante.
1/ Google has halted its Gemini AI image generator due to historical and racial inaccuracies.
The AI was “missing the mark,” per a company statement, after users came forward citing results like Nazi-era German soldiers being depicted as people of color.
Let’s get into it. pic.twitter.com/X4Knqt7OZm
—Morning Brew ☕️ (@MorningBrew) February 23, 2024
Pichai a pris la parole pour présenter une position sévère, étant donné la gravité de l’incident, en levant la main sur les résultats de la technologie d’IA.
Il n’y a pas eu d’intransigeance ou de déviation sur l’incident, au contraire, le cadre de 51 ans a promis d’aller au fond des problèmes avec Gemini, après avoir déployé des spécialistes pour concentrer leur attention sur le Large Language Model (LLM).
« Je sais que certaines de ses réponses ont offensé nos utilisateurs et fait preuve de partialité — pour être clair, c’est totalement inacceptable et nous nous sommes trompés », a déclaré Pichai. « Nos équipes ont travaillé 24 heures sur 24 pour résoudre ces problèmes. Nous constatons déjà une amélioration substantielle sur un large éventail de prompts », a-t-il poursuivi.
Google a été la cible de nombreuses critiques, qui l’ont notamment accusé d’avoir un parti pris contre les Blancs.
Comment Google réagit-il à la controverse sur Gemini ?
L’IA est construite avec des garde-fous et des prompts censés atténuer les abus et les préjugés, mais cet exemple opportun montre les dangers d’une technologie qui émerge rapidement et pourquoi il est si important de mettre en place des garde-fous efficaces pour garantir la confiance et l’autorité.
Auparavant, OpenAI avait été critiquée pour avoir montré des images de personnes blanches occupant des postes professionnels, tandis que les personnes noires étaient représentées dans des rôles typiquement subalternes.
Pichai a indiqué que Google s’efforcerait de corriger la génération d’images de Gemini dans les semaines à venir, sans préciser le temps qu’il consacrerait à ce problème en constante évolution.
Il a déclaré que l’entreprise « travaillait sans relâche » sur cette problématique, tout en soulignant « qu’aucun Al n’est parfait, en particulier à ce stade émergent du développement de l’industrie, mais nous savons que la barre est haute pour nous et nous continuerons à travailler aussi longtemps qu’il le faudra ».
