Voltar ao Nível Técnico
MÓDULO 6 NÍVEL TÉCNICO

Contexto, RAG e Produção

Domine técnicas avançadas de gerenciamento de contexto, implemente sistemas RAG eficientes e prepare suas soluções para produção empresarial.

7
Tópicos
120
Minutos
10
Exercícios
1

Gerenciamento de Janela de Contexto

Otimizando o uso do contexto disponível

A janela de contexto é o limite de tokens que um modelo pode processar em uma única interação. Gerenciar esse recurso de forma eficiente é crucial para obter respostas precisas e relevantes, especialmente em aplicações complexas.

Limites de Contexto por Modelo

4K
GPT-3.5 Base
128K
GPT-4 Turbo
200K
Claude 3
1M+
Gemini 1.5

Estratégias de Otimização

1
Compressão de Histórico

Resuma conversas anteriores mantendo informações essenciais

2
Seleção Inteligente

Inclua apenas contexto relevante para a tarefa atual

3
Janelas Deslizantes

Mantenha as N mensagens mais recentes, descartando as antigas

4
Memória Externa

Use bancos de dados vetoriais para armazenar e recuperar contexto

2

Introdução ao RAG

Retrieval-Augmented Generation

RAG (Retrieval-Augmented Generation) é uma arquitetura que combina a capacidade generativa de LLMs com busca em bases de conhecimento externas. Isso permite que o modelo responda com base em informações atualizadas e específicas do seu domínio.

Pipeline RAG

Query Pergunta do usuário
Retrieve Busca semântica
Augment Adiciona contexto
Generate LLM responde

Vantagens

  • • Conhecimento atualizado
  • • Reduz alucinações
  • • Citações verificáveis
  • • Domínio específico

Desafios

  • • Qualidade da recuperação
  • • Latência adicional
  • • Manutenção da base
  • • Custo de embeddings
3

Embeddings e Busca Vetorial

Representação semântica de texto

Embeddings são representações numéricas (vetores) de texto que capturam seu significado semântico. Textos similares em significado terão vetores próximos no espaço vetorial, permitindo buscas por similaridade.

Como Funciona

# Texto Original

"O gato dormiu no sofá"

↓ Modelo de Embedding

# Vetor (simplificado)

[0.23, -0.45, 0.67, 0.12, -0.89, ...]

* Vetores reais têm 768-3072 dimensões

Modelos de Embedding Populares

text-embedding-3-large OpenAI
3072 dim
voyage-large-2 Voyage AI
1536 dim
all-MiniLM-L6-v2 Sentence Transformers
384 dim
nomic-embed-text Nomic AI (Open)
768 dim
🗄️
Pinecone

DB vetorial gerenciado

🔍
Weaviate

Open source

Chroma

Leve e simples

4

Estratégias de Chunking

Dividindo documentos de forma inteligente

Chunking é o processo de dividir documentos grandes em segmentos menores para indexação. A estratégia de chunking impacta diretamente a qualidade da recuperação no RAG.

Estratégias de Chunking

📏 Por Tamanho Fixo

Divide em chunks de N tokens com overlap

chunk_size=512, overlap=50
📝 Por Estrutura

Respeita estrutura do documento (parágrafos, seções, markdown)

split_by="heading" ou "paragraph"
🧠 Semântico

Usa embeddings para identificar mudanças de tópico

similarity_threshold=0.85
🔄 Recursivo

Tenta separadores maiores primeiro, depois menores

separators=["\n\n", "\n", ". ", " "]

Dica de Ouro

Não existe tamanho de chunk perfeito. Experimente valores entre 256-1024 tokens e avalie empiricamente qual funciona melhor para seu caso de uso específico.

5

Avaliação de Prompts

Métricas e metodologias de teste

Avaliar a qualidade de prompts e sistemas de IA é essencial para melhorias contínuas. Uma boa metodologia de avaliação combina métricas automáticas com revisão humana.

Framework de Avaliação

📊 Métricas Automáticas
  • Relevância: Cosine similarity com gold standard
  • Precisão: % respostas corretas
  • Recall: % informações recuperadas
  • Latência: Tempo de resposta
👥 Avaliação Humana
  • Utilidade: A resposta ajuda o usuário?
  • Clareza: É fácil de entender?
  • Factualidade: Informações corretas?
  • Completude: Aborda todos os pontos?

Metodologia de Teste

1
Criar Dataset de Teste

Colete exemplos representativos com respostas esperadas

2
Definir Métricas

Escolha métricas alinhadas com seus objetivos de negócio

3
Testar Variações

Compare diferentes versões do prompt (A/B testing)

4
Analisar e Iterar

Use insights para melhorar continuamente

6

Prompts em Produção

Deploy, monitoramento e escalabilidade

Levar sistemas de IA para produção requer atenção a aspectos como versionamento, monitoramento, segurança, custos e escalabilidade. Um deploy bem feito garante confiabilidade e permite melhorias contínuas.

Checklist de Produção

Versionamento
  • • Controle de versão de prompts
  • • Histórico de mudanças
  • • Rollback fácil
Monitoramento
  • • Logs de requisições
  • • Métricas de qualidade
  • • Alertas de anomalias
Segurança
  • • Rate limiting
  • • Input sanitization
  • • Proteção de dados
Custos
  • • Tracking de tokens
  • • Otimização de prompts
  • • Cache de respostas

Arquitetura de Referência

┌─────────────────────────────────────────┐

│ USUÁRIOS │

└──────────────────┬──────────────────────┘

┌─────────────────────────────────────────┐

│ API Gateway (Rate Limit, Auth) │

└──────────────────┬──────────────────────┘

┌─────────────────────────────────────────┐

│ Prompt Service (Templates, Cache) │

└───────┬─────────────────────┬───────────┘

│ │

▼ ▼

┌───────────────┐ ┌───────────────────┐

│ Vector DB │ │ LLM API │

│ (RAG) │ │ (OpenAI, etc) │

└───────────────┘ └───────────────────┘

7

Projeto Final Integrador

Aplicando todos os conceitos do nível técnico

O projeto final é a oportunidade de demonstrar domínio das técnicas aprendidas. Você construirá um sistema completo de Q&A com RAG sobre uma base de conhecimento de sua escolha.

Especificação do Projeto

🎯 Objetivo

Criar um assistente de Q&A especializado que responde perguntas sobre um domínio específico (documentação técnica, manual de produto, base legal, etc.)

📋 Requisitos
  • • Pipeline RAG completo (ingestão, chunking, embedding, retrieval)
  • • System prompt profissional com persona e guardrails
  • • Formatação estruturada de respostas
  • • Citação de fontes nas respostas
  • • Tratamento de perguntas fora do escopo
📦 Entregáveis
  • 1. Documentação da arquitetura
  • 2. System prompt completo e comentado
  • 3. Código/configuração do pipeline RAG
  • 4. Dataset de teste com 20+ perguntas
  • 5. Relatório de avaliação com métricas

Rubrica de Avaliação

Arquitetura e Design 20%
Qualidade do System Prompt 25%
Implementação RAG 25%
Avaliação e Testes 15%
Documentação 15%

🎓 Parabéns!

Ao completar este projeto, você terá demonstrado competência em engenharia de prompt no nível técnico. Você está pronto para o Nível Masterclass!

Módulo 5: Prompts de Sistema Ir para Nível Masterclass