L'infrastructure : des giga-datacenters au silicium dans votre poche

Quand on parle d'IA, on imagine souvent un concept abstrait, une sorte de « nuage magique » qui flotte dans le web et répond à nos questions. En réalité, l'IA est d'une matérialité brutale. C'est de l'acier, du béton, du cuivre, du silicium ultra-pur, des mégawatts d'électricité et des millions de litres d'eau.

Dans ce chapitre, on va plonger dans les sous-sols de l'IA : là où la physique, la géopolitique et le droit s'entrechoquent.

Le paradoxe des cloud providers : la géographie ne fait pas le droit

Quand vous stockez vos données ou faites tourner vos modèles chez un géant du cloud, la première question que pose votre directeur de la sécurité (RSSI) est souvent : « Les serveurs sont où ? » Si on vous répond « À Paris ou à Francfort ! », vous vous dites sûrement : « Ouf, c'est en Europe, mes données sont protégées par le RGPD. »

Et c'est là qu'arrive le piège.

C'est ce qu'on appelle le paradoxe de la souveraineté numérique : la localisation physique d'un serveur ne suffit pas à protéger vos données, car la nationalité de l'entreprise qui possède le datacenter s'impose à la géographie.

• ▸Si vous utilisez AWS (Amazon), Azure (Microsoft) ou Google Cloud, même si votre serveur physique est posé à Marseille ou à Paris, ces entreprises sont américaines.
• ▸Elles sont donc soumises aux lois extraterritoriales des États-Unis, notamment le CLOUD Act et la section 702 du FISA.
• ▸En clair : l'injonction d'un juge ou d'une agence de renseignement américaine peut théoriquement contraindre Microsoft ou Amazon à fournir l'accès aux données hébergées sur leurs serveurs, peu importe que le serveur soit en France.

C'est pour cela que la bataille des « clouds souverains » fait rage. D'un côté, les acteurs français et européens (Scaleway, OVHcloud, Outscale...) garantissent une protection juridique totale contre le droit américain, mais se battent pour aligner la puissance de calcul nécessaire. De l'autre, les géants américains déploient des milliards pour rassurer le marché avec des offres « souveraines » ou « de confiance ».

Le coût monstrueux d'un datacenter IA

Construire un datacenter pour de l'IA générative n'a rien à voir avec la construction d'un datacenter classique destiné à héberger des sites web. Un serveur traditionnel consomme quelques kilowatts par baie. Une ferme de GPU dernier cri conçue pour l'IA consomme des mégawatts à l'échelle d'un seul bâtiment.

⚡ L'énergie : la guerre des gigawatts

Les besoins en électricité sont devenus tellement colossaux que l'Agence internationale de l'énergie estime que la consommation des datacenters pourrait doubler d'ici 2030. Pour alimenter ces usines à calcul, les géants du cloud signent aujourd'hui des contrats directs avec des centrales nucléaires, ou rachètent des fermes solaires entières. L'accès à une énergie abondante, stable et décarbonée est devenu le facteur numéro 1 qui décide de l'endroit où un datacenter sera construit.

Et c'est pour cela que, cocorico, la France est un pays assez sérieux sur ces sujets : le nucléaire nous fournit une énergie stable et décarbonée, ce qui en fait un terrain très intéressant pour la création de datacenters.

Et en France, on n'est vraiment pas mauvais : plus de 95 % de notre électricité vient de sources bas carbone, dont environ deux tiers de nucléaire. Ce qui fait de nous un exportateur net d'électricité, aidant nos voisins à réduire leurs propres émissions. Comparons, sur la même période :

Deux choses à lire dans ce graphique. D'abord, la Suède fait encore mieux que nous, mais sur une production totale bien plus modeste et surtout très dépendante de l'hydraulique. Ensuite, et c'est le point qui compte pour un datacenter : l'Allemagne et le Royaume-Uni ont massivement investi dans l'éolien et le solaire, mais restent à 19,9 % de charbon pour l'une et 26,4 % de gaz pour l'autre. Une électricité décarbonée et pilotable, disponible la nuit sans vent, reste une denrée rare.

C'est l'une des raisons pour lesquelles Mistral a signé un si gros contrat avec Microsoft en matière de puissance de calcul. Il y avait un manque de puissance de calcul du côté de Microsoft, et donc une opportunité pour une entreprise comme Mistral de devenir plus qu'un créateur de modèles : un fournisseur de service. Certains y verront une position stratégique très maligne, d'autres une « trahison » de la souveraineté, en ajoutant des implications américaines sur le territoire. Que se passe-t-il quand ton client monopolistique te demande quelque chose ?

La réalité est plus complexe que cela. Qui était prêt à investir autant en France ou en Europe ? Comment refuser une opportunité de garder la main, ne serait-ce que partiellement, sur ce marché ? Je pense vous écrire un article sur ces sujets stratégiques et mon point de vue personnel sur ce qu'il faudrait faire. N'hésitez pas à me le rappeler si le sujet vous intéresse :)

💧 L'eau : le casse-tête du refroidissement

Autre problème : ces puces chauffent. Énormément. Le refroidissement à air classique, les gros ventilateurs, ne suffit plus pour les puces haute densité. Les datacenters basculent massivement vers le refroidissement liquide (liquid cooling), où des fluides circulent directement au contact des processeurs.

Mais cela demande des infrastructures complexes, et parfois des volumes d'eau impressionnants pour les tours de refroidissement. Gérer l'impact environnemental de cette eau est devenu un enjeu politique majeur pour les collectivités qui accueillent ces centres.

Tous ces sujets font que les cloud providers cherchent aussi à améliorer leur rendement énergétique et leurs systèmes de refroidissement, comme l'usage du refroidissement adiabatique au datacenter Paris 2 de Scaleway. Certains vont même jusqu'à fournir des outils de calcul d'impact environnemental à leurs clients. Car oui, l'IA est fortement consommatrice d'énergie, et aujourd'hui au centre des attentions : les entreprises ont besoin d'un maximum de monitoring et d'outils de pilotage pour leur stratégie RSE, mais aussi, tout simplement, pour leurs dépenses.

Tout n'est pas qu'une question de tokens ;)

La taxe du silicium : où passe vraiment l'argent ?

Quand un cloud provider dépense des milliards pour construire un datacenter IA, à votre avis, qu'est-ce qui coûte le plus cher ? Les murs ? L'électricité ? Le réseau ?

Non. Ce sont les puces.

Dans un datacenter optimisé pour l'IA à très grande échelle, le matériel informatique (les cartes graphiques) coûte environ deux fois plus cher que le bâtiment lui-même. Pour un projet de campus de 1 gigawatt, comptez environ 10 milliards de dollars pour la structure et l'infrastructure, et 20 milliards de dollars uniquement pour remplir les baies avec des puces.

Pourquoi un tel déséquilibre ? Tout simplement parce que le marché est dominé par un quasi-monopole : NVIDIA. L'entreprise ne se contente pas de vendre une puce à des dizaines de milliers de dollars pièce, elle vend l'architecture complète : le système d'interconnexion ultra-rapide (NVLink) et la couche logicielle (CUDA) sur laquelle reposent presque tous les modèles d'IA de la planète.

Cette situation a même donné naissance à une nouvelle catégorie d'acteurs : les neoclouds (CoreWeave, Nebius, Lambda). Ce ne sont pas des cloud providers généralistes, mais des spécialistes qui font une seule chose : acheter des dizaines de milliers de GPU NVIDIA, et les louer à l'heure aux entreprises d'IA.

Pour le détail sur les puces, je vous en parle au prochain chapitre. Un peu de mystère, c'est toujours bien pour vous garder attentif ;)

La grande tendance : l'IA hybride

Face à des coûts d'infrastructure démentiels, à des problèmes de latence réseau et aux enjeux de confidentialité, une question s'impose : est-on condamné à tout faire tourner dans d'immenses datacenters distants ? La réponse est non. Nous assistons à une bascule vers l'IA locale (on-device).

Le règne des Small Language Models

L'ère du « toujours plus gros » touche à ses limites économiques. On s'est rendu compte qu'il n'y avait pas besoin d'un modèle géant de 700 milliards de paramètres hébergé aux États-Unis pour corriger une faute de frappe ou résumer un e-mail professionnel.

Grâce à des modèles ultra-optimisés et compacts (les SLM, Small Language Models, comme les versions légères de Mistral, Llama ou Phi) et à l'apparition de puces dédiées dans nos appareils (les NPU, Neural Processing Units), l'IA s'installe directement dans nos smartphones et nos ordinateurs : Copilot+ PC, Apple Intelligence.

Le problème, c'est que l'usage de SLM demande une bien plus grande maîtrise d'œuvre que de tout balancer sur un gros modèle. Ce qui fait que la pratique n'est pas encore très répandue.

Le modèle hybride : le bon compromis

Certains pensent que le futur de l'infrastructure ne sera ni 100 % cloud, ni 100 % local, mais hybride :

• ▸En local, sur votre téléphone ou votre PC : pour 80 % des tâches quotidiennes (saisie semi-automatique, retouche d'image, recherche dans vos documents). C'est instantané, gratuit en coûts d'API, ça fonctionne hors-ligne, et vos données ne quittent jamais votre appareil.
• ▸Dans le cloud : pour les 20 % de tâches complexes qui exigent du grand raisonnement, de l'analyse de téraoctets de données ou de la génération vidéo lourde.

Aujourd'hui, le marché semble tendre vers cette approche, avec un pourcentage moins élevé pour le local. Et nous voyons de plus en plus un troisième pan prendre de l'importance : le cloud privé / on-premise, l'hébergement sur des serveurs au sein même de l'entreprise, pour les traitements trop sensibles. C'est généralement sur ce type de sujet que des technologies comme Socle AI deviennent plus qu'un accélérateur : un passage obligé, car toute l'infrastructure IA est alors à monter en interne et à articuler pour délivrer de la valeur.

Le cloud provider : une expertise qui n'est pas que dans la pierre

Depuis le début, nous parlons des murs, des puces, de l'énergie. Mais faire fonctionner des serveurs entre eux, les maintenir avec toutes les couches logicielles propres à ce matériel, n'est en rien une sinécure. C'est une expertise précise, à ne pas sous-estimer : les bons devops, ces ingénieurs râleurs dans des salles sombres, sont en fait ceux sans qui rien ne fonctionnerait.

« Un pilote de Rafale, c'est classe. Mais ça le devient tout de suite moins si son avion ne décolle pas, parce que personne n'a installé ni maintenu son réacteur. »

C'est aussi ça, le travail de cloud provider : fournir les outils, les services, et donc la capacité d'interagir avec ces ressources matérielles. Et chacun a son positionnement, cela va d'Outscale, le cloud provider de Dassault à la réputation institutionnelle, à Scaleway, ce cloud provider tendance qui a rapidement pris le pas sur les sujets IA.

En résumé

L'infrastructure est la frontière physique de l'IA. Elle nous rappelle qu'un simple clic sur « Générer » déclenche une chaîne logistique mondiale : des puces gravées à Taïwan, vendues par une entreprise américaine, installées dans un datacenter refroidi à l'eau en Europe, et alimenté par une centrale électrique locale.

Comprendre cette couche, c'est comprendre les vrais coûts, les vraies limites écologiques et les véritables enjeux de souveraineté de l'intelligence artificielle. Et puisque tout revient toujours aux puces, allons voir de plus près qui sait les fabriquer.