Pourquoi l'IA passe du cloud au matériel local

L'IA dans le cloud n'est pas près de disparaître. Les modèles les plus volumineux nécessitent toujours d'énormes centres de données, des accélérateurs spécialisés, de la mémoire à large bande passante, de l'énergie, des systèmes de refroidissement et le type d'infrastructure technique que seules quelques entreprises peuvent se permettre. Pour l'entraînement des modèles de pointe, le cloud reste incontournable.

Le changement s'opère ailleurs : au niveau de l'inférence. Une fois qu'un modèle a été entraîné, la question est de savoir où il doit être exécuté. Faut-il envoyer chaque instruction, document, image, requête client ou flux de travail interne vers un serveur distant ? Ou bien une plus grande partie de ce traitement devrait-elle s'effectuer sur l'appareil, au bureau, au sein d'un centre de données privé ou à la périphérie du réseau ?

C'est là que la stratégie d'AMD en matière de matériel d'IA locale et distribuée devient plus intéressante. AMD a positionné des produits tels que les processeurs Ryzen AI, les plateformes Ryzen AI Max et les accélérateurs Instinct autour d'une idée plus large : les charges de travail d'IA ne seront pas toutes concentrées au même endroit. Certaines resteront dans des environnements cloud hyperscale. D’autres seront transférées vers l’infrastructure d’entreprise. D’autres encore s’exécuteront directement sur des PC, des stations de travail et des périphériques en périphérie.

Il ne s'agit pas d'une opposition manichéenne entre l'IA dans le cloud et l'IA locale, mais plutôt d'un rééquilibrage plus pragmatique de l'infrastructure.

Le cloud a résolu le premier problème lié à l'IA

La première vague d'adoption de l'IA générative s'est faite principalement via le cloud, et ce n'est pas un hasard. Les entreprises souhaitaient avoir accès à des modèles puissants sans avoir à acheter de matériel, à recruter des équipes spécialisées dans l'infrastructure ou à gérer des déploiements complexes. Les plateformes cloud ont permis de rendre l'IA immédiatement accessible. Une entreprise pouvait ainsi tester des chatbots, l'automatisation de documents, des assistants de codage, la génération d'images ou des outils d'analyse grâce à des API et à des plateformes hébergées.

Ce modèle présente toujours des avantages évidents. Il est évolutif, flexible et plus facile à mettre en œuvre. Il permet aux entreprises d'accéder aux modèles les plus récents sans les obliger à gérer le matériel sous-jacent. Pour les petites équipes, le cloud reste le moyen le plus rapide de mener des expérimentations.

Mais le cloud implique également des compromis. Chaque requête doit être transmise. Chaque document sensible risque de quitter l'environnement de l'entreprise. Chaque requête alourdit les coûts d'utilisation. Chaque dépendance vis-à-vis d'un prestataire externe soulève des questions quant à la disponibilité, à la tarification et au contrôle. Ces enjeux deviennent plus évidents à mesure que l'IA passe du stade expérimental à celui des opérations quotidiennes.

Une entreprise peut accepter de dépendre du cloud pour une utilisation ponctuelle de l'IA. La situation se complique lorsque l'IA est intégrée au service client, à l'analyse juridique, au développement logiciel, à la surveillance des risques, aux systèmes industriels ou aux flux de travail internes liés à la gestion des connaissances. À ce stade, la latence, la confidentialité, la prévisibilité des coûts et la gouvernance prennent autant d'importance que les capacités des modèles.

L'inférence obéit à des lois économiques différentes

L'entraînement d'un modèle avancé nécessite d'importants investissements financiers et une grande puissance de calcul. Il requiert de vastes clusters et une infrastructure hautement spécialisée. L'inférence, quant à elle, est différente. L'inférence consiste à utiliser le modèle de manière répétée : poser des questions, générer des réponses, résumer des documents, classer des images, assister les employés ou faire fonctionner des agents.

À mesure que l'utilisation augmente, l'inférence peut s'avérer coûteuse de manière plus insidieuse. Une requête isolée peut ne pas coûter grand-chose, mais des millions de requêtes provenant des employés, des clients, des flux de travail et des applications peuvent modifier la donne financière. Pour les entreprises qui utilisent l'IA à grande échelle, la question est de savoir si chaque interaction doit être facturée via un service cloud distant.

C'est l'une des raisons pour lesquelles le matériel local suscite de plus en plus d'intérêt. L'exécution locale de modèles plus petits ou optimisés peut permettre de réduire les coûts récurrents liés au cloud pour certaines charges de travail. Elle peut également répondre à des cas d'utilisation où la réactivité est essentielle, tels que les outils destinés aux clients, la surveillance industrielle, les appareils médicaux, la robotique, les centres d'appels, les systèmes de cybersécurité ou les assistants IA personnels.

Les ressources destinées aux développeurs d’AMD concernant les processeurs Ryzen AI vont dans ce sens, avec des exemples d’implémentations hybrides de LLM locaux conçues pour améliorer des indicateurs tels que le temps de génération du premier token et le nombre de tokens par seconde, grâce à l’utilisation conjointe de la NPU et du GPU. AMD a également décrit GAIA comme une application d’IA générative open source conçue pour exécuter des LLM locaux et privés sur des PC Windows optimisés pour le matériel Ryzen AI.

L'essentiel n'est pas que chaque entreprise se mette soudainement à exploiter ses propres grands modèles linguistiques en local. La plupart ne le feront pas. Ce qui importe, c'est qu'il est désormais possible de répartir de manière intelligente un plus grand nombre de cas d'utilisation de l'IA entre le cloud et l'infrastructure locale.

La protection de la vie privée est un argument plus convaincant que la vitesse

La latence est importante, mais la protection de la vie privée pourrait constituer l'argument le plus convaincant en faveur de l'IA locale.

De nombreux processus d'IA impliquent des données sensibles : contrats, documents financiers, communications avec les clients, code source, stratégie interne, informations médicales, documents soumis à une réglementation ou données à caractère personnel. Même lorsque les fournisseurs de services cloud offrent un niveau de sécurité élevé, certaines organisations préfèrent conserver certains traitements au plus près de leur propre environnement.

Cela s'avère particulièrement pertinent dans les secteurs réglementés, le secteur public, la défense, la santé, la finance et toute organisation soumise à des obligations strictes en matière de confidentialité. Un système d'IA local permet de réduire le volume de données transmises à l'extérieur. Il facilite également la gouvernance, car l'organisation dispose d'un contrôle plus précis sur l'emplacement des données, les personnes autorisées à y accéder et la durée de leur conservation.

Cela ne signifie pas pour autant que l'IA locale soit automatiquement plus sûre. Les déploiements locaux nécessitent toujours des mesures de sécurité, une surveillance, des contrôles d'accès, l'application de correctifs et une gouvernance des modèles. Un système local mal géré peut générer ses propres risques. Mais pour certains cas d'utilisation, la possibilité de traiter les données directement sur l'appareil ou au sein d'une infrastructure contrôlée constitue un avantage considérable.

C'est là que le modèle d'IA axé sur le cloud peut sembler moins adapté. Plus le flux de travail est confidentiel, plus une infrastructure locale ou privée devient intéressante.

Les opportunités d'AMD ne se limitent pas aux centres de données

AMD est souvent évoqué dans le contexte des accélérateurs d'IA destinés aux infrastructures à grande échelle. Ses séries Instinct MI300 et MI350 s'inscrivent dans ce débat sur les centres de données, l'entreprise présentant la série MI350 comme spécialement conçue pour l'IA générative, le calcul haute performance, l'entraînement et l'inférence à haute vitesse. AMD précise que la série MI350 utilise son architecture CDNA 4 et cible les infrastructures d'IA modernes.

Mais la situation est différente en matière d’IA locale. Il s’agit ici d’intégrer des capacités d’IA utiles dans les PC, les stations de travail et les appareils en périphérie, et pas uniquement dans les grands clusters de serveurs. AMD a mis en avant les plateformes « Ryzen AI Halo » et « Ryzen AI Max PRO » destinées aux PC et stations de travail équipés d’IA locale de type « agentic », en les positionnant pour les flux de travail d’entreprise où le matériel et les logiciels d’IA sont combinés.

C'est important, car l'adoption de l'IA devient de moins en moins centralisée. Les employés peuvent souhaiter disposer d’assistants IA capables de travailler avec des fichiers locaux. Les développeurs peuvent souhaiter bénéficier d’une aide au codage sans avoir à envoyer de dépôts de code sensibles à l’extérieur de l’entreprise. Les concepteurs, analystes et ingénieurs peuvent souhaiter bénéficier de performances IA au niveau de leur poste de travail. Les opérateurs industriels peuvent avoir besoin d’une IA proche des machines et des capteurs. Les équipes de terrain peuvent avoir besoin de systèmes fonctionnant même lorsque la connectivité est limitée.

Dans ces situations, le matériel local ne constitue pas un recul par rapport au cloud. Il est simplement mieux adapté à l'environnement d'exploitation.

Les modèles plus petits bouleversent les calculs

Il y a quelques années, l'idée d'exploiter localement une IA générative utile semblait irréaliste pour la plupart des entreprises. Les grands modèles étaient trop lourds, le matériel trop limité et l'expérience utilisateur n'était pas assez convaincante.

La situation a changé. Les modèles de plus petite taille se sont améliorés. La quantification a permis de réduire les besoins en mémoire. Les accélérateurs matériels sont désormais plus accessibles. Les développeurs apprennent à combiner les modèles locaux et ceux du cloud dans des flux de travail concrets. Des recherches récentes sur le déploiement des LLM en périphérie ont également mis en évidence les raisons pour lesquelles l'inférence locale devient de plus en plus envisageable dans les environnements où la confidentialité, la latence et la connectivité sont des enjeux importants.

Cela ne signifie pas pour autant que les modèles locaux soient toujours aussi performants que les meilleurs modèles hébergés. C'est souvent le contraire. Les modèles hébergés les plus puissants peuvent encore surpasser les petits systèmes locaux dans des domaines tels que le raisonnement complexe, les connaissances générales, le codage et les tâches multimodales. Cependant, de nombreux cas d'utilisation en entreprise ne nécessitent pas le modèle le plus puissant qui soit. Ils requièrent simplement un modèle suffisamment performant, qui soit rapide, confidentiel, abordable et fiable.

Cette distinction est importante. Le marché de l’IA a passé des années à rechercher la puissance des modèles. La prochaine étape sera davantage axée sur l’adéquation. Une équipe juridique chargée de synthétiser les politiques internes n’aura peut-être pas besoin d’un modèle de pointe pour chaque tâche. Une usine de fabrication chargée de surveiller ses équipements aura peut-être davantage besoin d’une faible latence que d’une intelligence générale étendue. Un processus de service client pourra nécessiter rapidité, maîtrise des coûts et protection des données. Un appareil sur le terrain peut devoir fonctionner hors ligne.

Le matériel local devient intéressant lorsque le meilleur modèle n'est pas nécessairement le plus puissant, mais celui qui est le mieux adapté.

Le cloud conserve l'avantage pour les charges de travail intensives

Il ne faut pas surestimer l'intérêt de l'IA locale. De nombreuses tâches d'IA resteront hébergées dans le cloud, car celui-ci reste l'environnement le plus pratique pour l'entraînement à grande échelle, l'inférence complexe, la mise à l'échelle rapide et l'accès aux modèles de pointe.

Les entreprises doivent également tenir compte de la charge opérationnelle. L'achat de matériel informatique sur place n'est qu'un premier pas. Elles ont besoin de personnel capable de le gérer, de mettre à jour les modèles, d'assurer la sécurité, d'évaluer les performances et d'intégrer les systèmes dans les flux de travail existants. Les fournisseurs de services cloud allègent considérablement cette charge.

Il y a également la question de la flexibilité. Le matériel dédié à l'IA vieillit rapidement. Les modèles évoluent. Les charges de travail changent. Une entreprise qui investit massivement dans une infrastructure sur site doit avoir l'assurance que ce matériel restera utile suffisamment longtemps pour justifier cette dépense d'investissement. Les services cloud offrent davantage de flexibilité, même s'ils peuvent s'avérer coûteux à grande échelle.

C'est pourquoi la meilleure solution est une approche hybride. Le cloud continuera à prendre en charge les charges de travail les plus exigeantes et les plus évolutives. Le matériel local se verra confier une part croissante des flux de travail pour lesquels la confidentialité, la latence, les coûts récurrents ou la connectivité rendent un déploiement exclusivement sur le cloud moins intéressant.

La question qui se pose pour l'entreprise est de savoir où chaque charge de travail doit être hébergée

Pour les entreprises, le choix ne doit pas se faire en fonction d'AMD, de Nvidia, de Microsoft, d'Amazon, de Google ou de tout autre fournisseur. Il doit d'abord tenir compte de la charge de travail.

Une entreprise doit se demander quelles sont les fonctions du système d'IA, quelles données il traitera, quelle doit être sa vitesse de réponse, à quelle fréquence il fonctionnera, quel niveau de qualité du modèle est requis et quels risques sont liés au fait que le système dépende d'un service externe.

Une ébauche marketing à faible risque peut parfaitement convenir à un outil cloud. Une analyse juridique sensible peut nécessiter une infrastructure privée. Un bot d'assistance client peut être réparti entre une récupération locale et une génération dans le cloud. Un système de surveillance d'usine peut nécessiter un traitement en périphérie, car tout retard ou perte de connectivité est inacceptable. Une équipe de développement logiciel peut souhaiter bénéficier d'une aide à la programmation locale pour ses dépôts de code propriétaires.

Une fois que l'on a bien cerné la charge de travail, le choix de l'infrastructure s'impose de lui-même.

C'est également là que la diversité de l'offre d'AMD pourrait jouer un rôle déterminant. L'entreprise ne se contente pas de commercialiser un seul type de puce d'IA. Elle cherche à répondre aux besoins de plusieurs segments du marché : accélérateurs pour centres de données, processeurs, calcul adaptatif, PC dotés d'IA, stations de travail et déploiements en périphérie. AMD décrit elle-même son portefeuille de solutions d'IA comme couvrant à la fois les processeurs, les cartes graphiques et les solutions de calcul adaptatif, afin de répondre à différents besoins de déploiement.

Cette diversité est utile, car l'infrastructure de l'IA est de plus en plus fragmentée. Il n'y aura pas de modèle de déploiement universel.

Ce que cela implique pour la stratégie en matière d'IA

L'essor du matériel d'IA local modifie la manière dont les entreprises doivent aborder la planification en matière d'IA. Au lieu de partir du principe que chaque outil d'IA correspond à un abonnement cloud, elles ont besoin d'une cartographie de leur infrastructure.

Quels workflows peuvent utiliser l'IA dans le cloud public en toute sécurité ? Lesquels nécessitent un cloud privé ? Lesquels devraient être exécutés sur des serveurs locaux ? Lesquels peuvent être exécutés sur les appareils des employés ? Lesquels nécessitent du matériel en périphérie ? Quels modèles sont suffisamment performants en local, et lesquels nécessitent véritablement des capacités de pointe ?

Il ne s'agit pas seulement d'une décision informatique. Elle a des répercussions sur la conformité, les achats, la cybersécurité, les finances, les opérations et l'expérience utilisateur. Une entreprise qui opte pour l'IA dans le cloud pour tout peut gagner en rapidité, mais perdre le contrôle des coûts. Une entreprise qui opte pour l'IA sur site pour tout peut gagner en contrôle, mais créer de la complexité. La meilleure stratégie consiste à prendre une décision mûrement réfléchie.

Il en va de même pour les investisseurs qui suivent le marché du matériel dédié à l'IA. L'opportunité ne réside pas simplement dans le fait que l'IA dans le cloud perd du terrain au profit du matériel local. Elle tient plutôt au fait que les charges de travail liées à l'IA se multiplient et que chacune d'entre elles nécessite une infrastructure spécifique. Cela ouvre des perspectives pour les entreprises capables de fournir du matériel performant adapté à plusieurs environnements.

Le rôle d'AMD dans cette évolution dépendra non seulement des tests de performances, mais aussi de la prise en charge logicielle, de l'adoption par les développeurs, de la confiance des entreprises, de la capacité d'approvisionnement et de l'adéquation de son matériel aux flux de travail réels en matière d'IA. Dans le domaine des infrastructures d'IA, les performances brutes sont importantes. La facilité d'utilisation et l'écosystème comptent également.

La tendance, c'est l'hybride

L'avenir le plus probable n'est pas celui où l'IA dans le cloud serait reléguée au second plan au profit de l'IA locale. C'est celui où l'IA deviendra davantage distribuée.

Grand modèles seront toujours entraînés et hébergés dans les grands centres de données. Les entreprises exploiteront des infrastructures privées pour les flux de travail sensibles ou à haut volume. Les PC et les postes de travail prendront en charge davantage de tâches d’IA en local. Les appareils en périphérie traiteront les données à proximité des capteurs, des machines et des utilisateurs. Les services cloud continueront d’offrir une évolutivité et un accès aux modèles de pointe, mais ils ne constitueront plus la solution par défaut pour toutes les tâches d’IA.

C'est pourquoi l'offensive d'AMD en matière de matériel sur le marché local revêt une importance particulière. Elle reflète une évolution concrète du marché. Les entreprises ne souhaitent plus disposer de capacités d'IA uniquement sous forme de service à distance. Elles souhaitent en contrôler une partie, à proximité de leurs propres données et intégrées à leurs propres flux de travail.

L'IA dans le cloud ne perd pas de terrain au sens où elle deviendrait obsolète. Elle perd son caractère exclusif. Lors de la première phase de l'IA générative, le cloud constituait naturellement le centre de gravité. Pour la phase suivante, ce centre sera davantage réparti.

Les entreprises qui en prendront conscience rapidement ne se demanderont pas si l'IA dans le cloud ou sur site est globalement la meilleure solution. Elles se demanderont quel environnement est le plus adapté à chaque tâche. C'est là que réside le véritable avantage en matière d'infrastructure.