Le lancement de l’API de xAI marque une nouvelle étape dans la course effrénée pour attirer les développeurs dans le domaine de l’IA générative. La startup xAI ouvre désormais son API Grok au public avec une incitation de 25 dollars en crédits API gratuits par mois, valable jusqu’à la fin de l’année, soit 50dollars de crédits gratuits en tout.
L’API Grok de xAI d’Elon Musk permet aux développeurs d’utiliser des Large Language Model (LLM) pour construire des applications en se basant sur les modèles de la famille Grok. Ce service est une alternative aux API bien établies comme celles d’OpenAI et d’Anthropic, mais xAI mise sur une approche différente avec des crédits gratuits pour attirer les utilisateurs.
Avec un prix de 5 dollars par million de tokens en entrée et de 15 dollars par million de tokens en sortie, l’API de xAI se situe dans la fourchette haute comparée aux 2,50 dollars/10 dollars pour le modèle GPT-4o d’OpenAI et aux 3 dollars/15 dollars pour le Claude 3,5 Sonnet d’Anthropic. Les crédits gratuits offerts ne permettent donc que de tester les fonctionnalités sur une petite échelle, soit environ 2 millions de tokens en entrée et 1 million en sortie, ce qui équivaut à quelques dizaines de milliers de mots.
xAI’s API is live! – try it out @ https://t.co/BZD8ZyOTTY
* 128k token context
* Function calling support
* Custom system prompt support
* Compatible with OpenAI & Anthropic SDKs
* $25/mo in free credits till EOYhttps://t.co/CCQAry6d5w https://t.co/MEEU2wkstS— xAI (@xai) November 4, 2024
Avantages et limitations de l’API Grok
L’API Grok a un contexte limite de 128 000 tokens, ce qui la place en compétition directe avec le GPT-4o d’OpenAI mais en dessous des 200 000 tokens d’Anthropic et bien loin des 1 million de tokens que permet le modèle Flash Gemini 1.5 de Google. Actuellement, le test de l’API Grok se limite au modèle texte (grok-beta), sans génération d’images, bien que xAI ait promis un modèle de vision (dédié aux images) dans la semaine prochaine.
L’API de xAI inclut également la possibilité de faire des appels de fonctions (« function calling »), ce qui permet aux utilisateurs d’interagir avec des fonctions d’autres applications connectées, offrant un contrôle plus approfondi sur l’exécution des commandes. De plus, xAI a conçu son API pour qu’elle soit compatible avec les SDK d’OpenAI et d’Anthropic, ce qui facilite la migration ou l’intégration pour les développeurs utilisant déjà ces plateformes.
La récente activation de la super-infrastructure « Colossus » de xAI — un centre de calcul regroupant 100 000 GPU Nvidia H100 à Memphis, Tennessee — montre l’ambition de Musk dans ce domaine. Colossus représente l’une des plus grandes infrastructures de calcul IA au monde, spécialement dédiée à l’entraînement des modèles Grok.
Une incitation suffisante ?
L’offre de crédits gratuits, bien que limitée, pourrait attirer certains développeurs curieux de tester les capacités de xAI par rapport aux modèles leaders du marché. Cependant, étant donné les tarifs de l’API et les fonctionnalités encore en phase de développement, il reste à voir si cette stratégie suffira pour rivaliser avec OpenAI et Anthropic, dont les offres sont bien établies et disposent d’une base d’utilisateurs solide.
L’API Grok de xAI se présente comme une alternative intéressante dans l’univers de l’IA générative, bien que son positionnement tarifaire et ses fonctionnalités limitées laissent encore des interrogations quant à sa compétitivité. La capacité de xAI à attirer les développeurs dépendra de l’évolution rapide de ses fonctionnalités et de la valeur ajoutée offerte par ses modèles d’IA, ainsi que de la réponse du marché à son programme de crédits gratuits.
