L’application « Chat With RTX » marque une avancée notable dans l’univers des assistants personnels dotés d’intelligence artificielle, en permettant aux utilisateurs possédant le matériel compatible de transformer leurs fichiers locaux en une base de données consultable par l’IA.
Conçue comme une démonstration technique par NVIDIA, cette application se révèle efficace pour récupérer, résumer et synthétiser les informations contenues dans des fichiers textuels, offrant ainsi une aide précieuse pour naviguer dans des documents techniques ou répondre à des questions personnelles du quotidien.
Au cœur de cette innovation, « Chat With RTX » fonctionne comme un assistant personnel capable d’explorer vos documents et notes, évitant ainsi la nécessité de rechercher manuellement dans les fichiers écrits, téléchargés ou reçus. Cette capacité s’étend même à la récupération de transcriptions de vidéos YouTube, permettant par exemple de convertir un tutoriel en instructions imprimables étape par étape.
L’aspect remarquable de « Chat With RTX » réside dans son fonctionnement en local, garantissant une réponse rapide tout en préservant la confidentialité des données personnelles, puisque l’IA n’analyse que les fichiers ou dossiers sélectionnés par l’utilisateur.
Bien que d’autres Large Language Model (LLM), y compris ceux proposés par HuggingFace et OpenAI, puissent également fonctionner en local, « Chat With RTX » se distingue par sa facilité d’utilisation et la démonstration des capacités du projet open source TensorRT-LLM RAG de NVIDIA, destiné aux développeurs souhaitant créer leurs propres applications IA.
Nécessite un GPU NVIDIA
Notre expérience avec « Chat With RTX » lors du CES 2024 souligne le potentiel de cette technologie, bien qu’elle soit présentée comme une simple démo technique. Au-delà de ses fonctionnalités de récupération d’informations et de résumé de documents, l’application ouvre également la porte à des usages créatifs, comme la rédaction d’histoires à partir de transcriptions de playlists YouTube.
Disponible au téléchargement sur le site de NVIDIA, « Chat With RTX » nécessite une carte graphique RTX Series 30 ou 40 avec au moins 8 Go de VRAM. NVIDIA propose également le projet de référence open source TensorRT-LLM RAG pour ceux intéressés à développer des applications similaires à « Chat With RTX ».
