Qualcomm vient d’annoncer deux nouveaux processeurs puissants qui excellent dans l’IA générative, l’un pour les ordinateurs portables et l’autre pour les smartphones. Alors que les potentielles applications de l’intelligence artificielle continuent de s’étendre du texte aux images, à la vidéo et au-delà, un traitement plus rapide sur votre propre appareil devient de plus en plus important.
Le Snapdragon X Elite est le nouveau processeur pour ordinateur portable de Qualcomm. Il offre les meilleures performances CPU de sa catégorie pour les ordinateurs portables Windows et une vitesse impressionnante du GPU. Pour les smartphones, le Snapdragon 8 Gen 3 surpasse la génération précédente avec une vitesse supérieure de 30 % tout en consommant 20 % d’énergie en moins.
Les spécifications du CPU et du GPU sont importantes, mais avec sa dernière version de puces, Qualcomm a mis l’accent sur la puissance de traitement de l’IA de ses dernières puces. Grâce à ces performances accrues, Qualcomm a optimisé plusieurs modèles d’IA générative pour les faire tourner localement sur les ordinateurs portables et les smartphones dotés d’une puce Snapdragon, et les résultats obtenus face à Intel, AMD et Apple sont impressionnants.
Quelle est sa rapidité en matière d’IA ? Selon Qualcomm, les nouvelles puces Snapdragon X Elite offrent 45 TOPS (trillions d’opérations par seconde) sur les tests de référence INT4 AI et 30 tokens par seconde sur le modèle d’IA avancé Llama 2 de Meta. Qualcomm affirme que c’est 4.5x plus rapide que ses concurrents. Le Snapdragon 8 Gen 3 est censé traiter 20 jetons par seconde, fournir une segmentation en temps réel pour séparer les objets d’une image en vue d’un traitement photo avancé, et exécuter une diffusion stable pour la génération d’images en moins d’une seconde.
Le Snapdragon X Elite est également capable d’exécuter des modèles d’IA générative de 13 milliards de paramètres sur l’appareil. Pour les smartphones, des modèles à 10 milliards de paramètres peuvent être exécutés sur le Snapdragon 8 Gen 3. Durga Malladi, vice-président senior et directeur général de la planification technologique et des solutions de pointe chez Qualcomm, explique que le Snapdragon 8 Gen 3 est le premier à prendre en charge le multimodal (images, texte, etc.) sur les téléphones.
L’IA multimodal pris en charge
Au-delà des performances brutes, Qualcomm affirme que l’intelligence artificielle intégrée à l’appareil permet de sécuriser les requêtes et les résultats, garantissant ainsi la protection de la vie privée des utilisateurs. Étant donné que vos selfies, vos photos et vidéos personnelles, votre voix et votre texte sont tous utilisés avec les nouvelles applications d’IA multimodal, vos données biométriques et personnelles sont potentiellement en danger si vous les téléchargez vers l’IA basée sur le cloud.
Alors que l’IA basée sur l’informatique dématérialisée connaît les difficultés d’une adoption rapide, ainsi que les difficultés d’une mise à l’échelle suffisamment rapide, le traitement local de l’IA peut offrir une latence plus faible, une consommation d’énergie plus faible et un coût plus faible.
Qualcomm explique que tout cela est possible grâce à la synergie des technologies. Plusieurs des modèles d’IA les plus populaires ont été optimisés pour les processeurs Snapdragon et utilisent le CPU, le GPU, le NPU (processeur neuronal) et le centre de détection qui travaillent ensemble pour fournir des résultats beaucoup plus rapides que la précédente génération. Les nouvelles puces prennent également en charge la mémoire LPDDR5X ultrarapide afin d’éliminer les goulets d’étranglement au niveau du traitement.
Alors que la demande d’IA augmente, le Snapdragon X Elite de Qualcomm pour les ordinateurs portables et le Snapdragon 8 Gen 3 pour les smartphones sont prêts à rendre la génération d’images plus rapide, le traitement de texte plus rapide et les deux plus sûrs en permettant le traitement sur l’appareil. Il sera intéressant de voir ce que les premiers ordinateurs portables et smartphones commercialisés avec les nouvelles puces de Qualcomm pourront faire avec ces capacités améliorées.
