O modelo: um simples algoritmo

Sim, o termo pode parecer complicado à primeira vista. Algoritmo. Mas, na verdade, um algoritmo pode ser só isto:

É essa a diferença em relação a 0 + 10: aqui você naturalmente imaginou, mesmo por uma fração de segundo, um acúmulo de 1 somados um após o outro.

A IA é feita de um ou vários algoritmos para atingir o seu objetivo. Isso pode ser encontrar o caminho mais curto até o restaurante (o seu GPS), gerar um relatório, produzir um vídeo, fazer simulações em pesquisa… Em resumo, uma IA é apenas um sistema de cálculo tão complexo que você enxerga inteligência nele, e às vezes o personifica.

Mas, na realidade, o ChatGPT não tem consciência de que é uma IA, nem do que é o real, nem do que é um texto.

Enfim, voltemos ao nosso assunto, ou melhor, às nossas IAs. Se há diferentes tipos de IA, então "há IAs melhores que outras em certos domínios". Por exemplo, se você quer um sistema totalmente explicável, pouco custoso em processamento e determinístico (que não muda de ideia quando você pergunta duas vezes a mesma coisa) para a sua aplicação de GPS, não é um LLM que você vai escolher, e sim um algoritmo de resolução de grafos, de IA simbólica, como os seus sistemas especialistas.

A IA simbólica

Ah, a Good Old-Fashioned AI (um termo inventado em 1985, já não era mais tão descolado ^^)! E, mesmo assim, ela está muito mais presente no seu dia a dia do que você imagina.

Bom, vou ser um pouco enviesado nesta parte: trabalhei 7 anos na Golem.ai (hoje Miralia), cuja origem foi o meu projeto de conclusão de curso. A empresa faz análise de texto por meio de um algoritmo simbólico, o que permite, entre outras coisas, classificar mensagens.

A IA simbólica (ou IA clássica) parte da ideia de que a inteligência humana se explica pela manipulação explícita de símbolos, conceitos e regras lógicas.

Ao contrário do machine learning, que se apoia em um treinamento estatístico a partir de dados, a IA simbólica se apoia em conhecimentos modelados diretamente por especialistas humanos, na forma de fatos, ontologias e regras ("Se… Então…"). O seu funcionamento é, portanto, determinístico e transparente: diante de um problema, um sistema simbólico usa um motor de inferência ou um algoritmo de busca para deduzir logicamente a solução combinando as regras dadas.

A principal vantagem dessa abordagem é a sua explicabilidade total: é possível refazer exatamente cada etapa do raciocínio que levou a uma conclusão, sem efeito "caixa-preta". Extremamente prático quando se tem necessidade de auditabilidade.

Ela é excelente em domínios que exigem rigor absoluto. O cálculo de rotas (teoria dos grafos) é um ótimo exemplo: os seus personagens de videogame que vão de um ponto A a um ponto B sem se perder são geralmente conduzidos por um algoritmo simbólico chamado A*, que pode ser resumido como "explore o trajeto mais ou menos na direção certa para encontrar o melhor caminho".

Em contrapartida, essa família de IA é muito rígida: tem dificuldade com a nuance, com o ruído nos dados ou com o imprevisto, e fica extremamente complexa de manter à medida que a base de regras cresce.

É por isso que há bastante discussão sobre a possibilidade de combinar a agilidade dos algoritmos generativos com os algoritmos simbólicos. Aliás, os desenvolvedores têm um exemplo funcional recorrente disso sem perceber: quando o seu Claude Code (ou um concorrente) gera um script Python e o executa para transformar dados, de um Excel para um banco de dados, por exemplo, a ideia é mais ou menos essa. Ele não reescreve com tokens uma requisição imensa contendo todas as modificações: ele escreve um pequeno script que faz a tarefa.

O machine learning

O machine learning (ou aprendizado de máquina) é a abordagem inversa da IA simbólica: em vez de programar explicitamente regras de decisão ("Se… Então…"), damos a um computador grandes quantidades de dados e um objetivo, e o deixamos descobrir sozinho os padrões e as regras subjacentes. Em vez de ser ditado por um humano, o comportamento do programa é deduzido a partir dos exemplos que ele analisou.

O seu funcionamento se apoia na estatística e no ajuste progressivo de parâmetros internos (notadamente os "pesos", no caso das redes neurais). Na fase de treinamento, o modelo faz previsões, mede o seu erro em relação à realidade e depois se ajusta para reduzir esse erro. Quanto mais dados representativos recebe, mais precisas ficam as suas previsões.

• ▸O aprendizado supervisionado. Damos dados com as suas respostas (rótulos). Exemplo: 100 mil fotos de gatos e cachorros com o rótulo "gato" ou "cachorro". O modelo aprende a distinguir os dois.
• ▸O aprendizado não supervisionado. Damos dados brutos sem rótulos, e o modelo procura estruturas ocultas. Exemplo: agrupar clientes em segmentos segundo os seus hábitos de compra, sem predefinir as categorias.
• ▸O aprendizado por reforço. Um agente interage com um ambiente e recebe recompensas ou penalidades. Exemplo: uma IA que aprende a jogar xadrez ou a pilotar um drone testando ações e aprendendo com os próprios erros.

O deep learning

Sem entrar demais nos detalhes técnicos, o deep learning é um sub-ramo do machine learning baseado em redes neurais profundas (empilhamentos de camadas de cálculo).

A grande diferença? Ao contrário do machine learning clássico, o deep learning é capaz de analisar diretamente dados bem brutos (imagens, som ou texto) e de entender sozinho quais detalhes são importantes para tomar uma decisão, sem que um humano precise mastigar o trabalho para ele.

Genial para correlacionar… bem menos para explicar

Concretamente, o machine learning é genial para encontrar correlações em dados complexos e para lidar com casos em que não há regras realmente definidas. Vejamos um exemplo.

E pronto: você entende por que a abordagem estatística, com um grande número de exemplos, é necessária.

Teoricamente, isso fica mais eficiente com uma quantidade maior de dados, ainda que na realidade muitos outros fatores entrem em jogo, a começar pela qualidade da informação fornecida. O problema é que o machine learning tem defeitos sérios. Além do custo em processamento e energia: a sua dependência dos dados iniciais e o fato de ser humanamente impossível entender em detalhe como o modelo toma uma decisão. Só é possível fazer uma interpretação.

Voltemos à análise de imagens com este exemplo publicado em 2016 pelo pesquisador Marco Tulio Ribeiro e a sua equipe para apresentar o LIME (Local Interpretable Model-agnostic Explanations), uma ferramenta concebida para abrir as "caixas-pretas".

O experimento "Husky vs Lobo"

Os pesquisadores treinaram um modelo de classificação de imagens para distinguir huskies de lobos.

• ▸Os resultados no papel. O modelo exibia uma excelente precisão (por volta de 90%). Na maioria das imagens de teste, ele nunca errava.
• ▸O erro suspeito. O modelo classificou um husky inocente como sendo um lobo.

Usando o LIME para exibir a zona exata da imagem em que o modelo concentrava os seus cálculos (os pixels decisivos), os pesquisadores descobriram que o modelo não analisava nem as orelhas, nem a cor da pelagem, nem o formato dos olhos do animal. Ele olhava unicamente para o fundo:

• ▸Presença de neve → lobo
• ▸Sem neve (grama, terra, interior) → husky

Porque, no conjunto de dados de treinamento, todas as fotos de lobos tinham sido tiradas no inverno na neve, enquanto as fotos de huskies eram tiradas em jardins ou na grama!

Certo, esse problema não parece tão grave, ainda mais porque com o LIME foi possível "explicar" a questão. Mas, na realidade, a solução proposta aqui é muito limitada.

Quando o que está em jogo se torna decisivo: o caso Amazon

O que acontece quando abordamos um assunto mais decisivo? Quando o problema vem dos dados iniciais e não se fazem as perguntas certas?

O objetivo inicial da Amazon era o sonho de todo departamento de RH: criar um algoritmo capaz de ler 100 currículos e apontar automaticamente os 5 melhores perfis, com uma nota de 1 a 5 estrelas.

1. A causa: um conjunto de dados enviesado desde o início

Para treinar esse modelo, os engenheiros da Amazon forneceram os currículos enviados à empresa ao longo de 10 anos, acompanhados das decisões de contratação da época.

O modelo fez exatamente aquilo para o qual o machine learning foi concebido: encontrar correlações estatísticas recorrentes nos sucessos passados para prever os sucessos futuros.

2. O efeito caixa-preta e a deriva misógina

Em vez de avaliar as competências reais (código, diplomas, projetos), o algoritmo aprendeu sozinho a usar o gênero como critério de previsão mais forte. Concretamente:

• ▸Penalização direta. A ferramenta retirava pontos se a palavra "women's" aparecesse no currículo, por exemplo "capitã do time feminino de xadrez" ou "presidente do clube de mulheres engenheiras".
• ▸Rebaixamento de diplomas. O algoritmo baixou a nota das candidatas vindas de duas universidades privadas exclusivamente femininas.
• ▸Vocabulário favorecido. A ferramenta privilegiou verbos de ação estatisticamente mais presentes nos currículos masculinos, como executed ou captured.

3. Por que a correção fracassou

Quando os engenheiros perceberam a deriva, tentaram corrigir o problema. Mas com machine learning complexo, proibir uma palavra não basta: eles proibiram o algoritmo de ler a palavra "women's", e o modelo imediatamente encontrou variáveis substitutas (proxy variables). Ele detectava o gênero por meio de outros indícios indiretos: as atividades extracurriculares, as construções de frase, a escolha de certas palavras.

Em 2017, constatando que não conseguiam nem garantir a neutralidade da ferramenta nem compreender a totalidade das microdecisões internas do modelo, a Amazon abandonou definitivamente e dissolveu o projeto.

Mas eu não disse que os LLMs pertencem a essa mesma família? E adivinhe: os currículos são cada vez mais analisados por IA. Então o que fazem os candidatos? Adaptam o currículo para que a IA seja clemente com eles.

Você entende, então, que é importante antecipar os problemas potenciais de um algoritmo que não consegue se explicar e, sobretudo, dominar bem os dados de treinamento para evitar vieses nocivos. Ou então…

Os LLMs

1. A revolução do Transformer (2017)

Durante muito tempo, para processar texto, as IAs liam as palavras uma a uma, da esquerda para a direita. Problema: ao chegar ao fim de um parágrafo longo, já tinham "esquecido" o começo.

Em 2017, pesquisadores do Google inventaram uma nova arquitetura de rede neural que mudou tudo: o Transformer. A sua arma secreta? O mecanismo de atenção (self-attention). Graças a ele, a IA não lê mais palavra por palavra: ela olha a frase inteira de uma vez e entende o contexto global.

Exemplo: em "Ele manchou a manga da camisa com suco de manga", a IA entende instantaneamente que a primeira é uma parte da roupa e a segunda uma fruta, graças às palavras ao redor.

Originalmente, essa IA funcionava com dois blocos de construção, pois foi pensada para tradução. O encoder (a "compreensão") lia a frase inteira de uma vez para captar o seu sentido profundo; o decoder (a "geração") pegava esse sentido e escrevia a tradução palavra por palavra.

2. A virada decisiva: por que jogamos o encoder fora

Ao tentar criar IAs capazes de fazer de tudo (conversar, programar, resumir, raciocinar), os pesquisadores perceberam algo genial: não precisamos mais do encoder. Hoje, modelos como ChatGPT, Llama ou Mistral são arquiteturas somente decoder (decoder-only).

• 01Continuar um texto já é ter compreendido. Para um decoder, tudo é uma história a completar. Se você lhe dá uma pergunta, a continuação lógica é a resposta. Se você lhe dá um texto em francês, a continuação lógica pode ser a sua tradução. Não é mais preciso separar a "compreensão" e a "criação".
• 02A simplicidade acima de tudo. Mantendo apenas um bloco, ficou muito mais simples treinar modelos gigantes com trilhões de dados.

Como funciona na prática? A máscara causal

É aqui que está a verdadeira sutileza técnica. Como não há mais um encoder para ler todo o texto antecipadamente, o decoder usa o que chamamos de máscara causal. É uma regra matemática estrita: a IA avança às cegas rumo ao futuro. Ela só tem o direito de olhar as palavras passadas para adivinhar a palavra seguinte.

Se o modelo precisa escrever "O gato dorme no sofá":

• 01Ele vê [início] → prevê "O"
• 02Ele vê O → prevê "gato"
• 03Ele vê O gato → prevê "dorme"
• 04Ele vê O gato dorme → prevê "no"…

Cada palavra produzida é imediatamente reinjetada no seu campo de visão para prever a seguinte. É o que chamamos de funcionamento autorregressivo.

E para imagem, vídeo ou música? É a mesma coisa!

Falamos muito de texto, mas e as IAs generativas de imagens (Midjourney, DALL·E) ou de música (Suno, Udio)? A menos de um detalhe, a lógica subjacente continua exatamente a mesma. Para um computador, tudo é matemática: um texto é uma sequência de palavras, uma imagem uma grade de pixels, uma música uma sequência de frequências de áudio.

• 01Para a música. A IA aplica exatamente a mesma receita do texto. Em vez de prever a palavra seguinte em uma frase, ela aprende a prever a nota ou o pedaço de som seguinte mais lógico.
• 02Para a imagem (os modelos de difusão). A IA aprende primeiro a destruir uma imagem acrescentando "ruído" a ela (como chuvisco em uma TV antiga). Depois, a sua rede neural aprende a fazer o caminho inverso: retirar o ruído etapa por etapa para fazer surgir uma imagem nítida a partir do caos, guiando-se pelo seu texto (prompt).

Quando a memória é influenciada

Bom, foi teórico, mas interessante. Agora, falemos de coisas menos divertidas. Lembre-se da constatação: um LLM não reflete e não busca a "verdade". Ele apenas reflete as estatísticas dos textos com os quais foi treinado… com todas as suas qualidades, mas também os seus preconceitos e as suas orientações ideológicas.

É por isso que Yann LeCun, entre outros, insiste no fato de que os LLMs são apenas uma espécie de grande memória. Mas o que acontece quando essa memória é… influenciada?

Em junho de 2026, a Direction générale du Trésor (em Bercy, o ministério das Finanças francês) testava uma ferramenta interna batizada de HéphAIstos para ajudar uma centena de altos funcionários em tarefas administrativas e de análise econômica. O modelo escolhido sob o capô era o Qwen, um LLM muito eficiente desenvolvido pela gigante chinesa Alibaba.

• 01Respostas enviesadas. Durante os testes, vários agentes relataram que a IA dava respostas tendenciosas ou alinhadas à doutrina política de Pequim assim que faziam perguntas sobre a China, sobre questões comerciais internacionais ou sobre geopolítica.
• 02Interrupção imediata. Depois de apenas três semanas de experimentação, o Tesouro interrompeu de imediato o uso do Qwen.
• 03Virada soberana. No dia seguinte, a administração o substituiu por um modelo desenvolvido pela start-up francesa Mistral AI.

Agora, temos eleições se aproximando, e sabemos que muita gente vai pedir a opinião das IAs. O que isso representa para a democracia?

As alucinações

Como o LLM apenas calcula a palavra seguinte mais provável, ele não sabe se está dizendo a verdade. Se lhe falta uma informação, ele vai inventar fatos, leis ou citações históricas com uma segurança perfeita.

O roubo de dados e o direito autoral

Para treinar esses modelos, as empresas aspiraram bilhões de páginas da web sem pedir a opinião dos autores, dos artistas ou dos veículos de imprensa. Isso levanta um problema ético e jurídico enorme sobre a propriedade intelectual.

Open weight não é open source

Hoje, empresas como a Meta (com o Llama) ou joias francesas como a Mistral AI disponibilizam os seus modelos "gratuitamente" para todo mundo. A imprensa costuma dizer que eles são open source. Só que isso é falso! Na realidade, eles são open weight (de "pesos abertos"). E a nuance muda absolutamente tudo do ponto de vista ético e jurídico.

Em uma rede neural, os pesos (weights) são os bilhões de números ajustados durante o treinamento. São os ajustes matemáticos finais do modelo.

• ▸O que se dá a você em open weight: a "caixa-preta" terminada. Você pode baixá-la, instalá-la no seu servidor e rodá-la gratuitamente.
• ▸O que se esconde de você: a receita de bolo, ou seja, a base de dados exata usada para treiná-la (os arquivos brutos aspirados da web) e o código preciso do algoritmo de treinamento.

Por que as gigantes mantêm os dados em segredo?

• 01O risco jurídico (direitos autorais). Para treinar esses modelos gigantes, petabytes de livros pagos, artigos de imprensa, imagens e código foram aspirados sem autorização. Tornar o conjunto de dados público seria dar aos detentores de direitos as provas materiais para processá-las.
• 02O segredo industrial. O verdadeiro valor de um LLM hoje não está apenas na arquitetura da rede neural, mas na limpeza e na triagem dos dados. Revelar o conjunto de dados é oferecer o seu trabalho de ourivesaria aos concorrentes.
• 03O risco de segurança. Um modelo 100% aberto permitiria a qualquer um ver exatamente como derrubar as barreiras de segurança, por exemplo como impedi-lo de explicar a fabricação de uma arma ou de gerar conteúdos maliciosos.

Existem, no entanto, casos de verdadeiro open source. No projeto Nemotron (com as famílias Nemotron-3 ou Nemotron-CC), a NVIDIA não se contentou em compartilhar o modelo final para download. Ela abriu os três pilares:

• 01Os pesos do modelo (model weights): o cérebro da IA terminado e pronto para uso.
• 02O código e as receitas de treinamento (training recipes): os algoritmos, as configurações e o código-fonte que permitem retreinar ou modificar o modelo exatamente da mesma forma que eles.
• 03Os conjuntos de dados (open datasets): a NVIDIA publicou no Hugging Face trilhões de tokens de treinamento, incluindo textos brutos, código e dados de filtragem de segurança.

Então por que abrir, se não é abrir tudo?

Na verdade é bem simples, e isso continua sendo a minha interpretação. No caso das big techs, o objetivo geralmente é alcançar os concorrentes e impor o seu padrão em mercados específicos. É por isso que até a OpenAI (com um sucesso bem discutível, mas acho que foi de propósito) tinha lançado o seu modelo open weight gpt-oss. Mas é também, na escala das nações, uma forma de asfixiar o mercado: entenda que a China, chegando depois dos modelos americanos, tem tudo a ganhar com as pessoas usando modelos chineses em vez de pagar empresas americanas.

E quanto ao open source? Nemotron é NVIDIA… que não é uma editora de software tentando lhe vender uma assinatura do ChatGPT. O negócio dela é vender chips gráficos. Quanto mais dados e código a comunidade tiver para criar IAs, mais as empresas comprarão servidores NVIDIA para rodá-las. Ao dar conjuntos de dados de treinamento de qualidade imensa (muito bem limpos) para todo mundo, a NVIDIA se torna o padrão sobre o qual toda a pesquisa mundial trabalha. E se mais gente usa modelos… isso significa mais chips vendidos ;)

Atenção, não estou dizendo cinicamente que não existem pessoas que sinceramente acreditam estar fazendo open source por razões de transparência e de valores. Mas essa é a minha interpretação da situação atual. O que faz com que seja incômodo ter apenas um ator no continente europeu, mas tranquilizador, de certa forma, saber que esse "combate" nos garante o surgimento quase contínuo de modelos open weight: enquanto a distância entre o primeiro e o segundo não for estratosférica, os segundos sempre vão querer tentar asfixiar os primeiros ;)

Bônus: os algoritmos evolutivos

Os algoritmos evolutivos são a prova de que a natureza já tinha inventado o melhor método de otimização muito antes da chegada dos computadores. Para entender essa IA, basta olhar para os tentilhões das ilhas Galápagos observados por Darwin: esses pássaros nunca "decidiram" mudar o formato do bico para quebrar sementes melhor. A natureza simplesmente gerou variações ao acaso, eliminou sem piedade os que não conseguiam se alimentar e deixou os sobreviventes transmitirem o seu bico vantajoso à geração seguinte. Um algoritmo evolutivo faz exatamente a mesma coisa, mas na velocidade de milhões de cálculos por segundo.

Concretamente, o algoritmo começa criando uma "população" de milhares de soluções completamente absurdas, geradas aleatoriamente. Depois, ele as submete a uma pressão ambiental, uma função de pontuação que elimina instantaneamente os piores candidatos. Os raros sobreviventes são então "cruzados" entre si, os seus códigos são misturados, e uma pitada de mutações aleatórias é injetada para explorar novos caminhos. É uma IA que progride sem compreender: ela não busca analisar as causas de um problema, apenas acumula os pequenos sucessos do acaso.

Um dos exemplos mais impressionantes desse "darwinismo digital" continua sendo a concepção da antena de satélite ST5 da NASA. Os engenheiros deixaram um algoritmo evolutivo torcer fios de arame virtuais ao longo de milhares de gerações. Resultado? A IA pariu uma forma completamente torta e assimétrica, parecida com um clipe de papel deformado que nenhum humano teria tido a ideia de desenhar, mas cujo desempenho eletromagnético superou tudo o que a lógica de engenharia clássica havia produzido.

E na prática?

Muito bem, vimos toda a teoria — mas e na prática? Vamos entrar no detalhe quando tivermos passado por todos os componentes; eu só quero que tenhamos uma base de entendimento antes de continuar.

Mas para lhe dar algumas pistas: quando você trabalha com IA, você trabalha com uma ferramenta que só funciona X vezes em 100, por causa da sua abordagem estatística e, geralmente, da natureza dos dados que você fornece a ela. Para um computador, "oi, tudo bem?" e "olá, como vai você?" são dados diferentes, que podem dar resultados diferentes. Da mesma forma, diga oi duas vezes ao seu ChatGPT: você vai ver que não terá exatamente a mesma resposta.

Para lidar com isso, os engenheiros de IA usam unidades de medida que determinam a confiabilidade da sua solução. Geralmente se usa uma pontuação chamada F1, ou uma das suas variações. Não vou explicá-la agora, mas entenda que se procura determinar a porcentagem de vezes em que a IA vai errar, e a gravidade do erro.