Le coût de calcul de l'intelligence artificielle (IA) constitue aujourd'hui le principal frein budgétaire des projets d'IA à l'échelle. Selon McKinsey, les dépenses d'infrastructure IA peuvent représenter jusqu'à 35 % du budget IT des grandes entreprises. Heureusement, la concurrence féroce entre fabricants de semi-conducteurs est en train de redessiner radicalement la courbe des prix.
Fin du monopole : trois acteurs à surveiller
La domination historique d'un seul acteur sur le marché des accélérateurs IA touche à sa fin. L'arrivée de nouveaux compétiteurs avec des stratégies tarifaires agressives et des innovations ciblées promet de rendre le calcul IA plus accessible.
Apple prépare la puce M5 (prévue fin 2025) dotée d'un module Neural Engine estimé à 48 TOPS, doublant ainsi la performance par Watt de la puce M3. En déplaçant l'inférence en local (edge computing), Apple promet une réduction allant jusqu'à 30 % des coûts cloud associés.
Huawei produit déjà l'Ascend 910B (gravure 7 nm) en Chine, offrant 256 TFLOPS en FP16. À prix équivalent, cette puce consomme 20 % de moins que le modèle A100 de la concurrence, abaissant significativement le coût par heure d'entraînement.
Intel mise sur sa gamme Gaudi 3 (5 nm) avec un prix de 7 500 $ par accélérateur, soit environ la moitié du tarif actuel d'une carte H100. Cette agressivité tarifaire a déjà un impact visible, entraînant une baisse de 15 % des prix spot sur les plateformes cloud majeures comme AWS et Azure.
Efficacité énergétique : la clé de la démocratisation
La miniaturisation des puces (gravures 3 nm et 5 nm) permet d'atteindre des performances de 20 TOPS/W, contre seulement 5 TOPS/W pour les GPU 12 nm de 2020.
Concrètement, une voiture connectée pourra consommer moins de 5 W pour exécuter un modèle complexe de détection de fatigue, rendant l'IA embarquée (edge AI) économiquement viable à grande échelle.
Cette baisse du coût marginal change fondamentalement le calcul coûts/bénéfices des projets IA, autorisant des déploiements jusque-là réservés uniquement aux hyperscalers.
Actions concrètes pour les décideurs
La chute des coûts de calcul nécessite une révision immédiate des stratégies d'implémentation de l'IA.
Développeurs : Concevez des architectures hybrides (combinant edge et cloud) et optimisez vos modèles (via la quantification 8 bits ou le pruning) pour tirer pleinement parti des Neural Engines grand public.
Stratèges : Réévaluez la rentabilité des cas d'usage classés « trop chers » l'an dernier. Avec un coût d'inférence en chute de 50 % prévu sur les 24 prochains mois, des projets de scoring, de vision industrielle ou de chatbots peuvent désormais passer du statut « pilote » à « production » sans nécessiter de surcoût en capital (capex).
En résumé, la guerre des puces spécialisées est le moteur principal de la baisse du coût de calcul IA. Les entreprises qui anticipent cette tendance et ajustent leurs stratégies pourront lancer des initiatives profitables plus tôt, établissant ainsi une longueur d'avance significative sur des concurrents encore freinés par l'ancienne donne tarifaire.
