Lors de sa conférence GTC aujourd’hui, NVIDIA a dévoilé NIM, une plateforme logicielle révolutionnaire conçue pour intégrer de manière transparente des modèles d’IA personnalisés et pré-entraînés dans des environnements de production.
Outre un certain nombre d’annonces faites aujourd’hui lors de la conférence GTC de NVIDIA, NIM exploite l’expertise de NVIDIA en matière d’inférence et d’optimisation des modèles d’IA, offrant ainsi une approche simplifiée aux développeurs. En fusionnant les modèles d’IA avec un moteur d’inférence optimisé et en les encapsulant dans des conteneurs accessibles en tant que microservices, NIM réduit considérablement le temps de déploiement.
Ce qui aurait traditionnellement pris des mois peut désormais être accompli rapidement, sans qu’il soit nécessaire de disposer d’une grande expertise interne en matière d’IA.
Cette plateforme innovante prend en charge les modèles d’entités notables telles que NVIDIA, A121 et Getty Images, ainsi que les modèles ouverts de géants de la technologie tels que Google et Meta. La collaboration de NVIDIA avec Amazon, Google et Microsoft vise à intégrer les microservices de NIM dans les principaux services de cloud, améliorant ainsi l’accessibilité pour les développeurs.
L’épine dorsale de NIM : Les moteurs d’inférence de NVIDIA
Au cœur de NIM se trouve le serveur d’inférence Triton, ainsi que TensorRT et TensorRT-LLM, soulignant l’engagement de NVIDIA à fournir une base solide pour les applications d’IA. La plateforme comprend également des microservices spécialisés, tels que Riva pour les ajustements de la parole et de la traduction, cuOpt pour les optimisations de routage, et le modèle Earth-2 pour les simulations météorologiques et climatiques.
Manuvir Das, responsable de l’informatique d’entreprise chez NVIDIA, a souligné l’efficacité et la qualité de niveau entreprise qu’apporte NIM, permettant aux développeurs de se concentrer sur la création d’applications d’entreprise sans avoir à se préoccuper de la gestion des modèles.
NIM témoigne de la vision de NVIDIA qui consiste à transformer les entreprises en entités pilotées par l’IA, équipées d’une suite de microservices d’IA conteneurisés. Avec le soutien de géants de l’industrie et d’un écosystème de partenaires, le NIM de NVIDIA est prêt à révolutionner la façon dont les modèles d’IA sont déployés et utilisés dans divers secteurs.
Jensen Huang, PDG de NVIDIA, a souligné le potentiel de transformation du NIM, imaginant un avenir où chaque entreprise tirera parti de l’IA pour améliorer ses opérations et sa capacité d’innovation.
