IA, concretamente, o que é?

Eu estava começando a escrever um artigo sobre a minha metodologia para implementar IA nos projetos de uma empresa, quando ecoava na minha cabeça uma conversa que tive não faz muito tempo em um evento em Paris:

« Sabe, Benjamin, entender tudo o que permite fazer inteligência artificial, ou até mesmo o que é a própria inteligência artificial, já é um problema. Imagine então falar de estratégia… »

E aí está o meu erro: eu estava escrevendo para vocês um artigo metodológico sobre um conceito que talvez ainda não estivesse claro para o leitor, ou pior, um conceito para o qual você e eu não tínhamos exatamente a mesma definição! Então, por que não retomar tudo desde o começo?

Vamos falar do que é a IA. Este artigo pretende ser acessível a todos:

• ▸não é um livro teórico para pesquisadores (que já conhecem o assunto),
• ▸nem um tutorial de programação.

É um artigo de divulgação, mas que também pode ser útil para desenvolvedores ;), que vai lhe dar uma boa base para entender o que está em jogo neste tema, os atores e as tendências, para que você possa tomar as suas próprias decisões.

Dito isso, vamos começar a falar de IA!

A IA é feita de camadas

O seu Gemini no celular, ou o seu Citymapper que encontra o melhor trajeto, são na verdade compostos de vários elementos que, juntos, formam os aplicativos que você conhece. Cada pedaço terá um capítulo dedicado para entrar um pouco no detalhe. Aqui, vou apenas explicar de modo geral o que eles representam. Para quem não suporta leituras longas ou o meu estilo de escrita, você já vai ficar com uma boa visão de conjunto! 😉

Aqui estão os diferentes componentes de que você dispõe para desenvolver e fazer funcionar as suas aplicações de IA. Cada grande parte tem os seus próprios desafios comerciais, de autonomia ou ainda industriais.

Vamos descrever rapidamente o que temos aqui com um exemplo simples. Segure-se, vamos passar bem rápido por conceitos que aprofundaremos nos próximos capítulos!

Segure-se, Chewie: velocidade da luz!

O nosso fio condutor

Você está na sua empresa, que tem uma política rígida de proteção de dados. O seu chefe pede um resumo da estratégia comercial que você acabou de receber de outra área. O documento é grande e você não tem muito tempo. A sua empresa não disponibilizou nenhuma IA (ou disponibilizou uma IA nada eficiente). Então, como a maioria dos funcionários neste momento, você vai usar uma ferramenta que conhece: o ChatGPT.

Cartão vermelho! Você acabou de fazer Shadow AI: ou seja, usar uma IA externa entregando dados da sua empresa (que fazem parte do patrimônio dela) à OpenAI, que poderá usá-los para treinar os próprios modelos.

Bom, voltemos à nossa historinha. Você abre o navegador e entra no site do ChatGPT para conversar com a sua IA.

1. A camada de aplicação

Aqui você está na camada de aplicação: o site que contém a interface de chat, as ferramentas que verificam que é mesmo você, que liberam os acessos (e que cobram a sua assinatura). Fora a IA em si, foi essa aplicação que mudou tudo com a chegada dos LLMs. Quanto mais simples de usar, melhor para os usuários. É por isso que você precisa pensar bem no que o seu usuário vai ver: a armadilha do "100% chat" já é bastante evidente nas diferentes empresas que encontro.

Você carrega o seu arquivo e diz: "Faça um resumo em 5 bullet points."

2. A camada de software

Aí você pensa: "Pronto, agora é a IA trabalhando!" Mas na verdade… ainda não! Primeiro, o seu arquivo é tratado pela camada de software (código clássico) antes mesmo de cruzar com um modelo de IA. O texto é extraído e depois cortado em pedacinhos (o que se chama de chunking).

Por quê? Porque cada modelo de IA tem um limite de tamanho para o que consegue ler de uma só vez: a sua janela de contexto (mais ou menos como a memória de trabalho do seu cérebro quando você lê uma página). Se o seu documento ultrapassa essa capacidade, ou se a aplicação quer economizar tempo e tokens, o software vai primeiro orquestrar o trabalho: cortar o blocão, resumir cada pedaço, ou buscar apenas os trechos-chave (com uma técnica chamada RAG) para transmitir ao modelo somente o essencial. É um verdadeiro trabalho em equipe entre código tradicional e IA!

3. O modelo de IA

Agora o texto chega ao modelo (LLM) que você escolheu na interface.

É aqui que falamos realmente de IA. Aliás, existem vários tipos! Falo de LLM porque é o tipo de IA mais conhecido, mas saiba que existem outros algoritmos muito eficientes nos seus respectivos domínios. E dentro de uma mesma família há modelos diferentes: é aqui que aparecem GPT, Claude, Mistral, Qwen, Kimi etc.

4. A infraestrutura: onde tudo isso roda?

Enquanto os nossos modelos trabalham, vamos fazer a pergunta: onde eles funcionam? Pois é, o seu documento não ficou no navegador! Ele foi enviado para algum lugar para ser analisado: para um cloud provider, em um data center.

Agora, você precisa saber de uma coisa: mesmo que o seu servidor físico esteja na França, os seus dados continuam sujeitos à lei do país de origem do seu fornecedor. Se você usa Azure (Microsoft), AWS (Amazon) ou Google Cloud, os seus dados caem sob leis extraterritoriais norte-americanas, notadamente o CLOUD Act (Clarifying Lawful Overseas Use of Data Act) ou a seção 702 do FISA. Em resumo: a justiça norte-americana pode teoricamente exigir acesso aos dados geridos por uma empresa norte-americana, não importa se os servidores estão em Paris, Amsterdã ou Frankfurt. E sem sequer avisar você! A geografia não é tudo, a nacionalidade da gigante de tecnologia também entra na conta.

Existem muitos. Os mais conhecidos são AWS (Amazon), Google Cloud e Azure (Microsoft), sem esquecer atores franceses como Scaleway, OVHcloud ou Outscale. Mas aí estamos falando apenas de marcas. Os data centers, esses, estão fincados em um território geográfico. Neste exato momento, o seu documento pode estar em Paris, Amsterdã ou Nova York. Aliás, uma parte da sua aplicação pode estar em um lugar e o seu modelo de IA em outro (por exemplo, o seu site no Azure na Europa, mas a IA que faz o resumo em um data center nos EUA). E, claro, toda essa infraestrutura precisa ser alimentada com eletricidade e resfriada com água!

5. O hardware

Bom, o seu documento era mesmo bem longo, ainda está rodando, e isso até esquenta um pouco os chips… Sim, o hardware! Os chips (GPU, CPU etc.) sobre os quais tudo se apoia: o seu documento, os modelos de IA, a sua aplicação… Os cloud providers tiveram de comprá-los.

Hoje, esse mercado é dominado por um ator principal: a NVIDIA. Mas a NVIDIA não fabrica diretamente os seus chips: ela os projeta (design). Quem os produz são fundições (foundries) como a TSMC (localizada principalmente em Taiwan). E o mais impressionante é que as máquinas ultracomplexas usadas por essas fundições para gravar os seus chips são construídas por uma única empresa nos Países Baixos: a ASML! Sem esquecer que é preciso matéria-prima para fabricar todo esse material de informática.

Pronto, a tarefa terminou! Os pedaços de texto foram processados uma última vez pelo modelo para entregar os seus 5 bullet points, e é isso!

Uma visão mais realista

Como você já entendeu, se quiséssemos representar isso de maneira mais realista do que o nosso recorte inicial:

São máquinas diferentes que fazem a sua IA e a sua aplicação funcionarem, tudo orquestrado por software e hospedado em um cloud provider. E, para cada nível, temos questões de desempenho, de confiança, de soberania etc.

Se você quiser entender o que está em jogo em todos esses temas, não deixe de ler os próximos capítulos! E, sobretudo, me mande o seu retorno para que eu possa melhorar a minha escrita.

Tenha um excelente dia e não esqueça de se divertir!