MÓDULO 1.1

🧩 O que é orquestrar várias LLMs

A base de tudo: por que um modelo sozinho tem teto, o que significa "orquestrar", a anatomia maestro–especialistas–fusor, e o custo escondido que faz a conta fechar (ou não).

6
Tópicos
~30
Minutos
Básico
Nível
0%
0 de 6
1

🤖 Por que um modelo só tem teto

Antes de juntar vários modelos, vale entender o que é um. Uma LLM (Large Language Model) é o tipo de IA que roda atrás do ChatGPT e do Claude: recebe texto e devolve texto, prevendo a próxima palavra com base em tudo que leu no treino. Cada modelo tem um perfil — um é melhor em código, outro em escrita, outro em raciocínio longo.

A consequência: nenhum modelo é o melhor em tudo. Existe um "teto" para cada um. A aposta da orquestração é que, se você combinar o melhor de cada um, talvez passe do teto que qualquer modelo alcançaria sozinho. Talvez. O curso inteiro é sobre testar esse "talvez".

🆕 Novo aqui? Três termos

  • LLM: o modelo de IA que gera texto (o "cérebro" do ChatGPT/Claude).
  • Token: o pedacinho de texto que o modelo lê e escreve (≈ ¾ de uma palavra). Você paga por token — tanto os que entram quanto os que saem.
  • Ferramentas (tools): ações que o modelo executa sozinho — buscar na web, rodar código, editar um arquivo.
Modelo único
um cérebro, um perfil
Forças/fraquezas
nenhum vence em tudo
Teto do solo
limite de um modelo só
A promessa
combinar para passar do teto
2

❓ As 2 perguntas que definem tudo

Existe um jeito simples de enxergar qualquer sistema multi-LLM, por mais complexo que pareça. Ele responde a duas perguntas, e só. Se você consegue respondê-las para um sistema, você entendeu o sistema.

1 · Quem faz cada parteroteamento + 2 · Como se combinamfusão = Orquestraçãomulti-LLM

Decore esta soma. Fugu, Fusion e seus sub-agents só mudam como respondem cada lado — nunca as perguntas.

🎯 As duas perguntas

  • 1.Quem faz cada parte? — o roteamento. Pode ser regra sua, um workflow, ou um modelo treinado para escolher.
  • 2.Como as respostas se combinam? — a fusão. Concatenar, votar, um juiz que escolhe, ou um modelo que reescreve tudo num só texto.
Roteamento
"quem"
Fusão
"como"
Decomposição
quebrar a tarefa
Agregação
juntar de volta
3

🎼 Maestro, especialistas e fusor

Toda orquestração tem três papéis. O maestro (ou "conductor") lê o pedido e reparte. Os especialistas são os modelos que executam cada parte. E o fusor junta as respostas num resultado só. Reconhecer esses três papéis deixa qualquer sistema "mágico" legível.

Maestro reparte especialista especialista especialista especialista especialista … Fusor funde

Maestro (esquerda) → especialistas em paralelo (ciano) → fusor (direita). É o esqueleto do Fugu — e, virado de lado, da Fusion.

1

Maestro / conductor

Lê o pedido, decide se resolve sozinho ou reparte, e escolhe quem recebe cada parte. É onde mora a "inteligência de coordenação".

2

Especialistas

Os modelos que executam: um bom em código, outro em raciocínio, outro em escrita. Cada um faz a parte em que é forte.

3

Fusor

Junta as respostas num resultado único — concatenando, escolhendo a melhor, ou reescrevendo tudo. Sem fusor, você tem N respostas soltas, não uma.

Maestro
reparte
Especialista
executa
Fusor
junta
Pipeline
os três em sequência
4

📦 "Mixture of experts" como 1 API

"Mixture of experts" é a ideia de manter vários especialistas e chamar o certo para cada caso. O pulo do gato comercial é empacotar isso atrás de uma única API: você bate em um endereço só, manda seu pedido, e todo o time roda escondido. Por fora parece um modelo; por dentro é uma orquestra.

📊 O que "1 API" esconde

A abstração é elegante e tem um preço. Você ganha simplicidade; paga em controle e dinheiro:

  • Você não vê quais modelos foram chamados nem quantos.
  • Você paga os tokens de todos eles, não só da resposta final.
  • Você espera o time inteiro — contratar, rodar e fundir leva tempo.

✓ O que 1 API te dá

  • Zero código de orquestração
  • Um endpoint, um billing
  • Hedge: não trava em um vendor só

✗ O que ela cobra

  • Custo dos tokens do time escondido
  • Latência somada de vários modelos
  • Pouca visibilidade do que rolou
Mixture of experts
chamar o certo
1 endpoint
um endereço só
Abstração
esconde o time
Time escondido
você paga por ele
5

🛠️ Você já orquestra (e nem percebe)

Orquestração não é exótica. Quando o Claude Code abre sub-agents (workers que podem rodar modelos diferentes — haiku, sonnet, opus) e reparte um plano entre eles, está orquestrando: um maestro divide, vários executam em paralelo, um junta. A diferença para o Fugu é só quem decide e se cruza providers.

💡 Pratique: orquestre você mesmo

Objetivo: ver a orquestração (fan-out + fusão) acontecer na sua frente, no Claude Code.

Use uma abordagem multi-agente neste arquivo: abra 3 sub-agents
em PARALELO, cada um revisando por um ângulo diferente
(1: bugs, 2: performance, 3: legibilidade). Depois um agente
final FUNDE os três achados num só relatório priorizado.

Arquivo: <caminho/do/seu/arquivo>

Como verificar: você verá 3 agentes rodando ao mesmo tempo (o fan-out) e, no fim, um único relatório consolidado (a fusão). Troque <caminho/do/seu/arquivo> por um arquivo real seu.

Sub-agent
worker que executa parte
Fan-out
vários em paralelo
Delegação manual
você no comando
Intra-provider
tudo num vendor
6

🧾 O custo escondido da orquestração

Aqui está o contrapeso que fecha (ou não) a conta. Cada especialista que o maestro chama lê e escreve tokens — e você paga por todos. Some a isso a espera: contratar, rodar e fundir o time leva muito mais tempo que um modelo respondendo direto. Mais modelos = mais conta e mais relógio.

📊 Um aperitivo dos números (Trilha 2)

No field test que você vai estudar a fundo na Trilha 2, o orquestrador (Fugu) contra um modelo forte sozinho (Opus 4.8), nas mesmas tarefas:

  • 4.5× mais lento no total
  • mais caro (US$ 53,60 vs US$ 10,66)
  • 36 de 38 tarefas: empate técnico

⚠️ A armadilha mental

Sem ver o custo escondido, "juntar mais modelos" parece sempre melhor. Não é. O time só vale a pena quando entrega algo que o solo não alcança — e, como você vai ver, isso é mais raro do que o hype sugere.

Tokens de orquestração
o time inteiro é billado
Latência somada
esperar todos
Overhead
contratar + fundir
Custo × benefício
a pergunta final

Recuperação rápida (opcional): orquestrar é responder a duas perguntas. Quais?

Resumo do módulo

Um modelo tem teto — nenhum é o melhor em tudo; daí a aposta de combinar.
As 2 perguntas — quem faz cada parte (roteamento) + como se combinam (fusão).
Três papéis — maestro, especialistas, fusor: o esqueleto de todo orquestrador.
1 API esconde um time — conveniência por fora, custo por dentro.
Custo escondido — você paga os tokens de todos e espera o time inteiro.

Próximo módulo:

1.2 — O espectro: da mão ao modelo-maestro