⚠️ Erros Comuns em Projetos com IA

Em 2022, pesquisadores da Stanford University e da University of Illinois publicaram um estudo que deveria ter sido um alarme para qualquer pessoa que usa IA para gerar codigo. Eles pediram a assistentes de IA que gerassem codigo para tarefas comuns de programacao e analisaram os resultados. A conclusao foi devastadora: quase metade do codigo gerado continha pelo menos uma vulnerabilidade de seguranca.

O mais perturbador nao foram as vulnerabilidades em si. Foi o fato de que os participantes do estudo que usaram IA acreditavam que seu codigo era MAIS seguro do que o dos participantes que codaram manualmente. A IA criou uma falsa sensacao de competencia que tornou os desenvolvedores menos cautelosos, nao mais.

Depois de analisar centenas de projetos construidos com Vibe Coding, cinco padroes de falha aparecem repetidamente. Eles nao sao erros tecnicos obscuros. Sao erros de processo e mentalidade que destroem projetos inteiros, geralmente quando ja e tarde demais para corrigir.

O perigo desses erros e que eles nao parecem erros no momento. Cada um deles parece uma decisao razoavel ("a IA gerou, deve estar certo", "vou adicionar so mais essa feature", "pra que commitar se ta funcionando"). O resultado so aparece depois, quando o projeto esta grande demais para consertar.

Alucinacoes nao sao exclusivas de texto. Quando uma IA gera codigo, ela pode inventar APIs que nao existem, usar funcoes com assinaturas erradas, importar pacotes ficticios e referenciar metodos que nunca foram implementados na biblioteca que ela esta usando. O codigo parece perfeitamente valido, a sintaxe esta correta, os nomes fazem sentido. Mas nao funciona.

O problema e que alucinacoes de codigo sao mais dificeis de detectar do que alucinacoes de texto. Um fato errado voce pode verificar no Google. Uma API inventada pode parecer real ate voce tentar executar o codigo e receber um erro criptico.

Existe uma diferenca fundamental entre usar IA como ferramenta e depender da IA como muleta. A ferramenta amplifica suas capacidades. A muleta substitui elas. E quando a muleta e tirada (API fora do ar, limite de tokens atingido, bug que a IA nao consegue resolver), voce cai.

O fenomeno de over-reliance (dependencia excessiva) nao e novo. Aconteceu com calculadoras, GPS, autocorrect. Mas com codigo gerado por IA, as consequencias sao mais severas: voce pode construir um produto inteiro sem entender como ele funciona. E um dia voce vai precisar entender.

Se os topicos anteriores mostraram os riscos, este topico mostra a solucao. Code review e testes automatizados sao as duas praticas que transformam codigo IA de "potencialmente perigoso" para "confiavel em producao". A ironia e que a propria IA pode te ajudar a implementar essas redes de seguranca.

Codigo gerado por IA precisa de MAIS review, nao menos. A velocidade de geracao cria volume, e volume sem verificacao e um campo minado. A boa noticia: com um processo estruturado, o review de codigo IA e mais rapido que escrever o codigo do zero.

Teoria sem pratica e entretenimento. Neste exercicio voce vai construir seu proprio checklist de qualidade personalizado e aplica-lo a codigo real. O objetivo e criar um habito: nenhum codigo IA entra no seu projeto sem passar pelo checklist.

Ao final deste exercicio voce tera um documento que vai usar em todos os projetos das proximas trilhas. Trate isso como um investimento: 30 minutos agora para economizar horas de debug depois.

app.post('/login', (req, res) => {
  const { email, password } = req.body;
  const user = db.query(
    `SELECT * FROM users WHERE email = '${email}'
     AND password = '${password}'`
  );
  if (user) {
    res.json({ token: jwt.sign(user, 'my-secret-key') });
  }
});

function UserProfile({ userId }) {
  const [user, setUser] = useState(null);

  useEffect(() => {
    fetch(`/api/users/${userId}`)
      .then(res => res.json())
      .then(data => setUser(data));
  });

  return (
    <div dangerouslySetInnerHTML=
      {{ __html: user?.bio }} />
  );
}