Pular para o conteúdo
LabS Atlas
Generative AI
Entrar

Camadas do Ecossistema de IA Generativa

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Camadas do ecossistema de IA generativa é o modelo que organiza o mercado do hardware às aplicações finais e liga a proximidade da raiz à barreira de entrada de cada camada.

O modelo costuma ser desenhado como uma árvore e serve para situar uma empresa ou um time: o que ele consome pronto, de quem depende e onde há espaço real para construir. Em vez de tratar a IA generativa como um bloco único, ele separa quem fabrica os chips, quem treina os modelos, quem opera a nuvem e quem entrega a aplicação ao usuário.

Da raiz às folhas: o que fica em cada camada

  • Solo: processadores especializados para IA, como as TPUs, produzidos pelas grandes empresas de tecnologia. É hardware dedicado ao tipo de cálculo que esses modelos exigem.
  • Raízes: os modelos fundacionais, os LLMs como GPT, LLaMA e Gemini. É a parte mais conhecida do ecossistema.
  • Tronco: a infraestrutura de nuvem dessas mesmas empresas, que sustenta o uso dos modelos em escala.
  • Galhos: as aplicações das empresas de infraestrutura, como assistentes de código, geradores de imagem e chats de texto. É o produto final que o público mais usa.
  • Folhas e frutos: aplicações de nicho construídas sobre os LLMs, que resolvem uma necessidade pontual com mais contexto e especificidade.

Barreira de entrada e onde está a oportunidade

Quanto mais perto da raiz, mais difícil é para um concorrente entrar: competir com os fabricantes de chips, por exemplo, está fora do alcance da maioria. Quanto mais perto das folhas, menor a barreira e maior a oportunidade para quem consome as camadas de baixo.

Times de exploração e de desenvolvimento de soluções costumam atuar nas folhas. Conhecer o que existe embaixo tem valor prático: um modelo fundacional já disponível, com camadas de serviço prontas acima dele, é algo que se pode usar de imediato em vez de reconstruir.

Técnicas que operam nas camadas externas

Uma necessidade genérica se resolve contratando diretamente um chat de uso geral. Quando o problema pede mais contexto ou especificidade, entram as técnicas que especializam o comportamento de um modelo consumido pronto: Fine-tuning, RAG e Engenharia de Prompt.

Nas folhas também se decide qual modelo consumir e como. Numa aplicação de RAG, em que a maior parte do conteúdo já chega pronta no contexto, o modelo de geração precisa entender o mínimo e saber redigir. Isso abre espaço para modelos compactos e mais baratos, como Phi-3 ou LLaMA 3, e para a execução local em vez de depender de uma API de um grande provedor. O preço é a capacidade menor e o peso que o modelo pode impor à máquina que o roda.