Pular para o conteudo
MODULO 2.2

πŸ”¬ O verificador e o gargalo

O loop persegue o que o verificador aprova β€” nada mais. Pare de escrever prompts, comece a escrever verificadores: eles definem o teto de qualidade de tudo que o loop produz, e este modulo mostra como construir um verificador que aguenta o peso.

6
Topicos
40
Minutos
Intermediario
Nivel
Pratico
Tipo
Progresso deste modulo
0%0 de 6
1

🎯 Aceite que o verificador e o teto

No topico 5 do modulo anterior voce viu o passo verificar do loop descobrir/planejar/agir/verificar/parar. Este modulo inteiro e sobre esse unico passo, porque ele define o que o loop persegue. O loop nao para no que voce queria β€” ele para no que o verificador aprovou. Se o verificador aceita qualquer coisa, o loop entrega qualquer coisa.

πŸ†• Novo aqui? Duas palavras antes de seguir

  • Verificador: qualquer coisa que checa se um resultado esta bom β€” pode ser codigo (um teste), pode ser outro modelo de IA, pode ser uma pessoa.
  • Teto de qualidade: o melhor resultado possivel que aquele sistema consegue produzir. Nenhum loop supera o criterio que o aprova.
verificador aprovado o funil so entrega o que o gargalo deixa passar

O que olhar: seis tentativas em cima, uma fatia estreita embaixo. Nao importa quantas voltas o loop de agindo β€” o que sai e definido pela largura do gargalo, nao pela quantidade de tentativas. Um verificador largo (aceita quase tudo) deixa passar lixo; um verificador estreito demais trava o loop pra sempre.

βœ“ Combinacao que funciona

  • βœ“Prompt medio + verificador otimo β€” o loop tateia, mas o gargalo barra o ruim
  • βœ“Criterio escrito antes de rodar a primeira volta
  • βœ“Verificador que sabe dizer β€œnao” com frequencia

βœ— Combinacao que falha

  • βœ—Prompt otimo + verificador fraco β€” converge pra algo que so parece bom
  • βœ—Criterio β€œque fique bom”, decidido na hora
  • βœ—Verificador que aprova quase tudo que chega

Conceitos-chave

Gargalo

Define o que sai, nao o que entra

Teto, nao piso

Nada supera o verificador

A disciplina

Escreva verificadores, nao prompts

Falso positivo

Parece bom β‰  e bom

2

πŸͺœ Empilhe a escada de verificadores

Nao existe um verificador so. Existe uma escada: compila β†’ lint β†’ teste automatizado β†’ outro modelo julgando β†’ humano. Cada degrau custa mais caro e pega um tipo diferente de erro β€” compilar pega erro de sintaxe, teste pega erro de logica, humano pega erro de julgamento que nenhuma maquina enxerga.

πŸ†• Novo aqui? Tres palavras antes de seguir

  • Lint: ferramenta que confere estilo e erros comuns de codigo sem rodar o programa β€” mais rapida que um teste.
  • DeterminΓ­stico: mesmo input, mesmo output, sempre. Um teste automatizado e deterministico.
  • LLM-as-judge (modelo julgando): usar um segundo modelo de IA pra avaliar o resultado do primeiro β€” probabilistico, pode variar entre rodadas.
compila $ lint $ teste automatico $$ modelo julgando $$$ humano $$$$$ custo cresce, cada degrau pega um erro diferente

O que olhar: a subida da esquerda pra direita. Compila e lint sao quase gratis e deterministicos β€” rode-os toda volta do loop. Modelo julgando e humano custam caro e sao mais lentos; reserve pros casos que ja passaram pelos degraus baratos. DeterminΓ­stico > probabilistico sempre que existir opcao β€” so suba a escada quando o degrau de baixo nao consegue detectar o erro que voce procura.

πŸ“Š Onde cada degrau pega o erro

  • Compila β€” sintaxe quebrada, import faltando
  • Lint β€” padrao de codigo, variavel nao usada, cheiro de bug
  • Teste automatizado β€” logica errada num caso conhecido
  • Modelo julgando β€” tom, coerencia, aderencia a um estilo
  • Humano β€” julgamento de negocio, contexto que nenhum dos anteriores tem

Conceitos-chave

Escada

Nao um verificador, varios

Barato primeiro

Rode o barato toda volta

Caro por ultimo

So quando o barato passou

Prefira determinismo

Teste > modelo, quando possivel

3

🚫 Nao deixe ele carimbar o proprio trabalho

Mesmo agente, mesma conversa, escreve e depois β€œrevisa” o proprio trabalho? Ele aprova quase sempre. Nao e preguica nem malicia β€” e que o raciocinio inteiro que produziu aquele resultado ainda esta ali do lado, na mesma janela de contexto, puxando o julgamento pro β€œesta bom”. Revisao de verdade exige contexto limpo.

πŸ†• Novo aqui? Uma palavra antes de seguir

  • Contexto limpo: quem julga ve so o resultado final e o criterio de aprovacao β€” nao o rascunho, nao o raciocinio, nao as tentativas que vieram antes.
CONTEXTO SUJO rascunho + raciocinio + resultado, tudo junto "revisa" a si mesmo aprova quase sempre CONTEXTO LIMPO resultado + criterio revisor revisor separado, so ve isso

O que olhar: a divisoria tracejada no meio. A esquerda, tudo mora na mesma caixa e a seta volta pra ela mesma β€” nao ha separacao real entre quem produziu e quem julga. A direita, so o resultado e o criterio atravessam a fronteira; o revisor nunca ve o rascunho nem o raciocinio. Essa separacao β€” contexto limpo, revisor distinto β€” e exatamente o que um grafo entrega de graca (cada no com seu proprio contexto) e o que um unico loop tem dificuldade de fazer sozinho. A Trilha 3 faz o comparativo completo; aqui fica so o motivo.

⚠️ Atencao: β€œdeixa eu conferir meu proprio trabalho” nao existe de graca

Isso vale pra gente tambem β€” voce ja releu um texto seu na mesma sentada e nao viu o erro que um colega achou em cinco segundos. Com modelo de IA o efeito e igual ou pior: ele tem acesso literal ao proprio raciocinio, entao a β€œrevisao” vira so uma segunda passada pelo mesmo caminho de pensamento.

Conceitos-chave

Auto-revisao

Aprova quase sempre

Contexto limpo

So resultado + criterio

Revisor separado

Nao ve o processo

Ponte pro grafo

Motivo concreto de existir no separado

4

πŸ“ Escolha a referencia

Todo verificador compara o resultado com algo. Esse algo e a referencia: um teste que passa, um exemplo aprovado antes, uma regra escrita, um numero alvo. Sem referencia concreta, a verificacao vira opiniao β€” e opiniao muda de humor entre uma volta e outra do loop.

1

Referencia concreta: teste que passa

"Essa funcao deve retornar 42 pra esse input." Sim ou nao, sem meio termo.

O loop sabe exatamente quando parar. Nenhuma ambiguidade sobra pro julgamento.

2

Referencia por exemplo: um caso aprovado antes

"Deve soar como este e-mail que o time ja aprovou." Menos rigido, ainda ancorado em algo real.

Funciona bem quando "certo" e mais sobre estilo do que sobre um numero exato.

3

Sem referencia: β€œque fique bom”

Nenhum numero, nenhum exemplo, nenhuma regra β€” so uma sensacao.

O verificador vira uma moeda: aprova hoje o que reprovaria amanha. O loop converge pra sorte, nao pra qualidade.

πŸ’‘ Dica pratica

Antes de escrever o verificador, escreva uma frase no formato β€œo resultado esta certo se ___”. Se voce nao consegue completar a frase com algo que da pra checar (numero, teste, exemplo, regra), voce ainda nao tem verificador β€” voce tem uma esperanca.

Conceitos-chave

Referencia

O β€œalgo” com que se compara

Teste

A referencia mais rigida

Exemplo aprovado

Referencia por estilo

Vago = sorte

β€œQue fique bom” nao verifica nada

5

πŸ‘οΈ Vigie o vigia

O verificador apodrece com o tempo, mesmo sem ninguem mexer nele. Teste para de cobrir o que mudou no codigo. Dado de exemplo envelhece. A definicao de uma metrica muda por baixo, num outro sistema, e ninguem avisou o verificador. A verificacao escorrega de checar a realidade pra so conferir papel com papel β€” e o painel continua verde o tempo todo.

🎯 O sintoma classico

Painel verde, resultado real ruim.

Se o verificador some da sua atencao depois de escrito β€” vira β€œcodigo legado que ninguem toca” β€” ele vai continuar aprovando pelo criterio antigo enquanto o mundo muda ao redor. E o mesmo mecanismo do topico 5 do modulo anterior: metricas viram alvo e o alvo, sem manutencao, para de representar o que interessa de verdade.

⚠️ Atencao: verificador sem dono nao se auto-atualiza

Alguem precisa revisitar o verificador quando o processo mudar β€” nova regra de negocio, novo formato de dado, novo caso de uso. Trate o verificador como codigo de producao: tem dono, tem changelog, tem revisao periodica. Um verificador esquecido e pior que nenhum verificador, porque ele te da falsa confianca.

βœ“ Verificador vivo

  • βœ“Revisado quando o processo real muda
  • βœ“Reprova de vez em quando (sinal de que ainda esta ativo)
  • βœ“Tem dono nomeado

βœ— Verificador apodrecido

  • βœ—Escrito uma vez, nunca revisto
  • βœ—Sempre verde, nunca reprova nada
  • βœ—Ninguem lembra por que a regra existe

Conceitos-chave

Apodrece

Envelhece mesmo parado

Papel com papel

Deixa de checar a realidade

Painel verde

Falsa confianca visual

Dono

Alguem revisa periodicamente

6

✍️ Escreva o verificador antes do prompt

Mesma logica de escrever o teste antes do codigo. Escreva o verificador antes do prompt do agente, e teste-o contra um resultado ruim de proposito. Um verificador que nunca reprova nada nao esta verificando β€” esta so carimbando. Esse verificador, depois, vira um no do seu grafo β€” a Trilha 4 mostra como.

βœ“ Ordem certa

  • βœ“1. Escreve o verificador
  • βœ“2. Testa contra um caso ruim conhecido β€” precisa reprovar
  • βœ“3. So entao escreve o prompt do agente

βœ— Ordem que da errado

  • βœ—Escreve o prompt primeiro, ve o que sai, verifica β€œno olho”
  • βœ—Escreve o verificador so pra confirmar o que ja saiu bom
  • βœ—Nunca testa o verificador contra um caso ruim

πŸ§ͺ Exemplo pratico: prompt pronto pro Claude Code

Objetivo: pedir pro Claude Code escrever o verificador ANTES de escrever o prompt do agente que ele vai verificar β€” e forcar um caso-ruim de teste junto.

Antes de escrever qualquer prompt de agente, escreva o VERIFICADOR para a tarefa
<descreva a tarefa, ex: "resumir um artigo em ate 5 bullets">.

O verificador deve:
1. Ser um script/funcao deterministica sempre que possivel (nao outro modelo).
2. Definir a referencia por escrito: o que torna o resultado aprovado
   (ex: "tem no maximo 5 bullets", "cada bullet tem menos de 30 palavras",
   "nenhum bullet repete a frase de outro").
3. Retornar aprovado/reprovado + o motivo.

Depois, crie um CASO RUIM DE PROPOSITO: um resultado que claramente viola
a referencia (ex: 12 bullets, ou bullets repetidos). Rode o verificador
contra esse caso ruim.

So depois disso, escreva o prompt do agente que vai gerar o resultado de verdade.

Como verificar: rode o verificador contra o caso ruim de proposito. Se ele aprovar o caso ruim, o verificador esta quebrado β€” volte e reescreva a referencia antes de seguir. So avance pro prompt do agente depois que o verificador reprovar corretamente o caso ruim e aprovar um caso bom conhecido.

Agora troque pelo seu: substitua <descreva a tarefa> pela sua tarefa real e a lista de criterios pelos seus criterios de aceitacao. Guarde o caso ruim β€” ele vira um teste de regressao do verificador pra sempre.

Checagem rapida (nao bloqueia nada): voce testou seu verificador contra um caso ruim de proposito e ele aprovou o caso ruim. O que isso significa?

Conceitos-chave

Verificador primeiro

Antes do prompt do agente

Caso ruim

Precisa reprovar de verdade

Nunca reprova = quebrado

Nao esta verificando

Vira no do grafo

Ponte pra Trilha 4

πŸ“Œ Resumo do Modulo

βœ“
O verificador e o teto β€” o loop persegue o que ele aprova, nunca supera esse criterio.
βœ“
Escada de verificadores β€” compila, lint, teste, modelo julgando, humano. Barato toda volta, caro so depois.
βœ“
Nunca revise a si mesmo β€” revisao real exige contexto limpo e um revisor separado.
βœ“
Referencia concreta β€” teste, exemplo ou regra escrita. β€œQue fique bom” nao verifica nada.
βœ“
Vigie o vigia β€” verificador apodrece sozinho; precisa de dono e revisao periodica.
βœ“
Verificador antes do prompt β€” teste-o contra um caso ruim de proposito antes de confiar nele.

Proximo Modulo:

2.3 β€” Onde o loop quebra: as falhas estruturais que nenhum verificador bom sozinho resolve.