A infraestrutura: dos giga-datacenters ao silício no seu bolso

Quando falamos de IA, imaginamos muitas vezes um conceito abstrato, uma espécie de « nuvem mágica » que flutua na web e responde às nossas perguntas. Na realidade, a IA tem uma materialidade brutal. É aço, betão, cobre, silício ultrapuro, megawatts de eletricidade e milhões de litros de água.

Neste capítulo, vamos descer às caves da IA: ali onde a física, a geopolítica e o direito se chocam.

O paradoxo dos cloud providers: a geografia não faz o direito

Quando armazena os seus dados ou executa os seus modelos num dos gigantes da cloud, a primeira pergunta do seu responsável de segurança costuma ser: « Onde estão os servidores? » Se lhe responderem « Em Paris ou em Frankfurt! », provavelmente pensa: « Ainda bem, é na Europa, os meus dados estão protegidos pelo RGPD. »

E é aí que está a armadilha.

É aquilo a que se chama o paradoxo da soberania digital: a localização física de um servidor não basta para proteger os seus dados, porque a nacionalidade da empresa que possui o datacenter sobrepõe-se à geografia.

• ▸Se usa AWS (Amazon), Azure (Microsoft) ou Google Cloud, mesmo que o servidor físico esteja em Marselha ou em Paris, essas empresas são americanas.
• ▸Estão, portanto, sujeitas às leis extraterritoriais dos Estados Unidos, nomeadamente o CLOUD Act e a secção 702 do FISA.
• ▸Em bom português: a ordem de um juiz ou de uma agência de informações americana pode teoricamente obrigar a Microsoft ou a Amazon a facultar o acesso aos dados alojados nos seus servidores, independentemente de o servidor estar em França.

É por isso que a batalha das « clouds soberanas » está ao rubro. De um lado, os atores franceses e europeus (Scaleway, OVHcloud, Outscale, Hetzner) garantem proteção jurídica total face ao direito americano, mas lutam para reunir a capacidade de cálculo necessária. Do outro, os gigantes americanos investem milhares de milhões para tranquilizar o mercado com ofertas « soberanas » ou « de confiança ».

O custo monstruoso de um datacenter de IA

Construir um datacenter para IA generativa nada tem a ver com construir um datacenter clássico destinado a alojar sites. Um servidor tradicional consome alguns quilowatts por bastidor. Uma quinta de GPU de última geração concebida para IA consome megawatts à escala de um único edifício.

⚡ A energia: a guerra dos gigawatts

As necessidades de eletricidade tornaram-se tão colossais que a Agência Internacional de Energia estima que o consumo dos datacenters possa duplicar até 2030. Para alimentar estas fábricas de cálculo, os gigantes da cloud assinam hoje contratos diretos com centrais nucleares, ou compram parques solares inteiros. O acesso a uma energia abundante, estável e descarbonizada tornou-se o fator número 1 que decide onde será construído um datacenter.

E é por isso que a França é um país bastante sério nestas matérias: o nuclear fornece-nos uma energia estável e descarbonizada, o que faz dela um terreno muito interessante para a criação de datacenters.

E a França não está nada mal: mais de 95 % da nossa eletricidade vem de fontes de baixo carbono, das quais cerca de dois terços de nuclear. O que faz de nós um exportador líquido de eletricidade, ajudando os vizinhos a reduzir as suas próprias emissões. Comparemos, no mesmo período:

Há duas coisas a ler neste gráfico. Primeiro, a Suécia faz ainda melhor do que nós, mas com uma produção total bem mais modesta e sobretudo muito dependente da energia hídrica. Depois, e é este o ponto que conta para um datacenter: a Alemanha e o Reino Unido investiram maciçamente na eólica e no solar, mas continuam com 19,9 % de carvão numa e 26,4 % de gás no outro. Uma eletricidade descarbonizada e despachável, disponível de noite e sem vento, continua a ser um bem raro.

É uma das razões pelas quais a Mistral assinou um contrato tão grande com a Microsoft em matéria de capacidade de cálculo. Faltava capacidade do lado da Microsoft e, portanto, havia uma oportunidade para uma empresa como a Mistral se tornar mais do que um criador de modelos: um fornecedor de serviço. Uns verão nisso uma posição estratégica muito hábil, outros uma « traição » à soberania, por acrescentar implicações americanas no nosso território. O que acontece quando o seu cliente monopolista lhe pede alguma coisa?

A realidade é mais complexa do que isso. Quem estava disposto a investir tanto em França ou na Europa? Como recusar a oportunidade de manter a mão, ainda que parcialmente, neste mercado? Estou a pensar escrever um artigo sobre estes temas estratégicos e o meu ponto de vista pessoal sobre o que seria preciso fazer. Não hesite em lembrar-mo se o assunto lhe interessar :)

💧 A água: o quebra-cabeças do arrefecimento

Outro problema: estes chips aquecem. Imenso. O arrefecimento a ar clássico, as grandes ventoinhas, já não chega para os chips de alta densidade. Os datacenters estão a mudar maciçamente para o arrefecimento líquido (liquid cooling), em que os fluidos circulam diretamente em contacto com os processadores.

Mas isso exige infraestruturas complexas e, por vezes, volumes de água impressionantes para as torres de arrefecimento. Gerir o impacto ambiental dessa água tornou-se uma questão política de primeira ordem para as autarquias que acolhem estes centros.

Tudo isto leva os cloud providers a melhorar o seu rendimento energético e os seus sistemas de arrefecimento, como o arrefecimento adiabático no datacenter Paris 2 da Scaleway. Alguns chegam a fornecer aos clientes ferramentas de cálculo do impacto ambiental. Porque sim, a IA consome muita energia e está hoje no centro das atenções: as empresas precisam do máximo de monitorização e de instrumentos de pilotagem para a sua estratégia de sustentabilidade, mas também, simplesmente, para as suas despesas.

Nem tudo é uma questão de tokens ;)

O imposto do silício: para onde vai realmente o dinheiro?

Quando um cloud provider gasta milhares de milhões a construir um datacenter de IA, na sua opinião, o que custa mais caro? As paredes? A eletricidade? A rede?

Não. São os chips.

Num datacenter otimizado para IA em muito grande escala, o material informático (as placas gráficas) custa cerca de duas vezes mais do que o próprio edifício. Para um projeto de campus de 1 gigawatt, conte cerca de 10 mil milhões de dólares para a estrutura e a infraestrutura, e 20 mil milhões de dólares apenas para encher os bastidores com chips.

Porquê tamanho desequilíbrio? Simplesmente porque o mercado é dominado por um quase-monopólio: a NVIDIA. A empresa não se limita a vender um chip a dezenas de milhares de dólares cada, vende a arquitetura completa: o sistema de interligação ultrarrápido (NVLink) e a camada de software (CUDA) sobre a qual assentam quase todos os modelos de IA do planeta.

Esta situação deu até origem a uma nova categoria de atores: as neoclouds (CoreWeave, Nebius, Lambda). Não são cloud providers generalistas, mas especialistas que fazem uma única coisa: comprar dezenas de milhares de GPU NVIDIA e alugá-las à hora às empresas de IA.

Quanto ao detalhe dos chips, falo disso no próximo capítulo. Um pouco de mistério é sempre bom para o manter atento ;)

A grande tendência: a IA híbrida

Perante custos de infraestrutura demenciais, problemas de latência de rede e questões de confidencialidade, impõe-se uma pergunta: estamos condenados a executar tudo em imensos datacenters distantes? A resposta é não. Assistimos a uma viragem para a IA local (on-device).

O reinado dos Small Language Models

A era do « cada vez maior » está a atingir os seus limites económicos. Percebeu-se que não era preciso um modelo gigante de 700 mil milhões de parâmetros alojado nos EUA para corrigir uma gralha ou resumir um e-mail profissional.

Graças a modelos ultraotimizados e compactos (os SLM, Small Language Models, como as versões leves do Mistral, do Llama ou do Phi) e ao aparecimento de chips dedicados nos nossos aparelhos (as NPU, Neural Processing Units), a IA instala-se diretamente nos nossos smartphones e computadores: Copilot+ PCs, Apple Intelligence.

O problema é que usar SLM exige muito mais trabalho de engenharia do que atirar tudo para um modelo grande. Daí a prática ainda não estar muito difundida.

O modelo híbrido: o bom compromisso

Há quem pense que o futuro da infraestrutura não será nem 100 % cloud nem 100 % local, mas híbrido:

• ▸Em local, no seu telemóvel ou PC: para 80 % das tarefas do dia a dia (preenchimento automático, retoque de imagem, pesquisa nos seus documentos). É instantâneo, gratuito em custos de API, funciona offline, e os seus dados nunca saem do aparelho.
• ▸Na cloud: para os 20 % de tarefas complexas que exigem raciocínio profundo, análise de terabytes de dados ou geração de vídeo pesada.

Hoje, o mercado parece de facto tender para esta abordagem, com uma percentagem menor do lado local. E vemos cada vez mais uma terceira via ganhar importância: a cloud privada / on-premise, o alojamento em servidores dentro da própria empresa, para as operações demasiado sensíveis. É geralmente neste tipo de tema que tecnologias como o Socle AI se tornam mais do que um acelerador: uma passagem obrigatória, porque toda a infraestrutura de IA tem então de ser montada internamente e articulada para entregar valor.

O cloud provider: uma especialidade que não está só no betão

Desde o início falamos de paredes, de chips, de energia. Mas fazer servidores funcionarem entre si, mantê-los com todas as camadas de software próprias desse material, não é nada fácil. É uma especialidade precisa, a não subestimar: os bons devops, esses engenheiros resmungões em salas escuras, são de facto aqueles sem os quais nada funcionaria.

« Um piloto de Rafale é impressionante. Mas deixa de o ser assim que o avião não descola, porque ninguém instalou nem manteve o reator. »

Isso também é o trabalho de um cloud provider: fornecer as ferramentas, os serviços e, portanto, a capacidade de interagir com esses recursos materiais. E cada um tem o seu posicionamento, da Outscale, o cloud provider da Dassault com reputação institucional, à Scaleway, o provider da moda que rapidamente ganhou dianteira nos temas de IA.

Em resumo

A infraestrutura é a fronteira física da IA. Lembra-nos que um simples clique em « Gerar » desencadeia uma cadeia logística mundial: chips gravados em Taiwan, vendidos por uma empresa americana, instalados num datacenter arrefecido a água na Europa e alimentados por uma central elétrica local.

Compreender esta camada é compreender os verdadeiros custos, os verdadeiros limites ecológicos e os reais desafios de soberania da inteligência artificial. E como tudo acaba sempre por voltar aos chips, vamos ver de mais perto quem os sabe fabricar.