De nos jours, l’intelligence artificielle abrégée IA est la technologie la plus utilisée par les géants de la technologie, allant du Web aux foyers en passant par les appareils mobiles. Cependant, une grande partie de l’IA commerciale réside dans le cloud, ce qui a des répercussions sur la sécurité, la confidentialité et les performances.
Dans le secteur de la téléphonie mobile, il y a une tendance à relocaliser une partie de ce traitement de l’IA dans les smartphones et Samsung est l’un de ceux qui surfent sur cette tendance. Les derniers efforts de Samsung portent sur la mise à disposition d’une IA intégrée au dispositif avec une empreinte énergétique réduite, paradoxalement en réduisant le regroupement des données par rapport aux modèles d’apprentissage en profondeur classiques.
À l’instar des modèles informatiques traditionnels, Samsung indique que les données d’apprentissage en profondeur sont regroupées sur 32 bits. Cela nécessite naturellement davantage de transistors qui, à leur tour, consomment plus de puissance.
Ce n’est pas un problème pour les puissants smartphones dotés d’énormes batteries, mais non seulement il laisse de côté les autres smartphones, mais il ajoute également une consommation inutile d’énergie qui pourrait autrement être utilisée pour des activités plus importantes.
Une puce dédiée à l’IA
Les recherches de Samsung l’ont amené à conclure qu’en groupant simplement les données en 4 bits tout en conservant la précision des données, ils peuvent réduire les besoins en matériel et en puissance pour un apprentissage en profondeur. Cet « apprentissage par intervalles de quantification » peut parfois même être plus précis que le transfert de données à partir de serveurs. Tout en réduire nombre de transistors de 1/40 à 1/120 selon Samsung.
Cela signifie que l’IA peut être exécutée sur le smartphone lui-même plutôt que de faire appel à un serveur distant. Non seulement cela réduit la latence des réponses puisque tout est fait sur le périphérique, mais cela réduit également les problèmes de vie privée. Pour le moment, Samsung a uniquement annoncé la technologie derrière le NPU, mais pas le NPU lui-même.
