Microsoft se prépare à dévoiler MAI-1, un Large Language Model (LLM) développé en interne, signe de son ambition de s’aligner, voire de surpasser, les géants technologiques tels que Google, Anthropic et OpenAI.
Le modèle MAI-1, selon Reuters, vise à égaler la complexité et l’ampleur des modèles d’IA les plus avancés actuellement disponibles sur le marché.
C’est la première fois que Microsoft développe un modèle d’IA interne de cette ampleur depuis qu’elle a investi plus de 10 milliards de dollars dans OpenAI pour obtenir les droits de réutilisation des modèles d’IA de la startup. GPT-4 d’OpenAI alimente non seulement ChatGPT, mais aussi Microsoft Copilot.
La supervision du développement de MAI-1 est confiée à Mustafa Suleyman, une figure emblématique dans la communauté de l’IA, qui a précédemment travaillé chez Google DeepMind et était le PDG de la startup Inflection. Microsoft, ayant acquis Inflection pour 650 millions de dollars, utilise cette expertise bien que MAI-1 soit un projet indépendant.
MAI-1, un objectif encore flou
Avec environ 500 milliards de paramètres, MAI-1 sera nettement plus grand que les précédents modèles open source de Microsoft (tels que Phi-3), ce qui nécessitera plus de puissance de calcul et de données d’entraînement. Cela place MAI-1 dans une ligue similaire à GPT-4 d’OpenAI, qui aurait plus de 1 000 milliards de paramètres (dans une configuration de mélange d’experts) et bien au-dessus de modèles plus petits comme Meta et les modèles de 70 milliards de paramètres de Mistral.
Il semblerait que l’objectif exact de MAI-1 n’ait pas été déterminé (même au sein de Microsoft), et que son utilisation la plus idéale dépendra de ses performances. Pour entraîner le modèle, Microsoft a alloué une grande grappe de serveurs équipés de GPU Nvidia et a compilé des données d’entraînement provenant de diverses sources, notamment du texte généré par GPT-4 d’OpenAI et des données publiques d’Internet.
En fonction des progrès réalisés dans les semaines à venir, la source rapporte que Microsoft pourrait présenter MAI-1 en avant-première dès sa conférence Build pour les développeurs, à la fin du mois.
Augmentation des dépenses IA de Microsoft
Microsoft montre un engagement accru envers l’IA, comme le souligne CNBC, avec une hausse de 79 % de ses dépenses en capital atteignant 14 milliards de dollars, en grande partie destinés à l’infrastructure IA. Cependant, l’entreprise est confrontée à des défis, notamment une pénurie d’infrastructures de datacenters, ce qui pourrait ralentir le déploiement de ses capacités.
Les services d’IA sont devenus un élément central de la plateforme de cloud computing Azure de Microsoft, qui a vu ses revenus augmenter de 31 %. Cette croissance est significativement alimentée par l’IA, bien que les contraintes d’approvisionnement, notamment de fournisseurs de matériel comme Nvidia, représentent un obstacle.
Plans d’expansion future
Face à une demande croissante, Microsoft prévoit d’intensifier ses investissements dans l’infrastructure cloud et IA. Azure et ses services IA sont au cœur de la concurrence avec Amazon Web Services, Microsoft planifiant d’accroître les dépenses en capital pour renforcer ses capacités.
En conclusion, Microsoft, avec MAI-1, se positionne non seulement comme un concurrent sérieux dans le domaine de l’IA, mais cherche aussi à définir les futures directions technologiques de l’industrie.
