Parte V · 6 — IA para programação

O melhor domínio para equipe pequena competir com labs bilionários — e por quê. É o caso mais nítido das alavancas desta parte funcionando juntas.

🎨 Figura F-V.6 — Por que código vence. Brief: três engrenagens entrelaçadas rotuladas "recompensa verificável", "dados filtráveis", "feedback curto", girando um modelo de código no centro. Paleta do Compêndio.

---

6.1 As três propriedades únicas da programação

1. Recompensa verificável — o código roda ou não → permite RLVR em escala.
2. Dados abundantes e filtráveis — GitHub, Stack Overflow, commits, PRs;

   filtráveis por estrelas, testes, taxa de build.

3. Feedback loop curto — o programador vê o resultado em segundos → sinal de

   preferência real quase grátis.

Por isso equipes de 5–50 pessoas (Cursor, Cognition, Aider, Continue.dev) competem com labs bilionários no domínio de código.

---

6.2 Os 7 ingredientes decisivos

1. FIM (Fill-in-the-Middle) — reorganizar dados como prefixsuffixmiddle.
2. Long-context sobre o repositório inteiro — janela longa + *context

   engineering* repo-level.

3. Execução e feedback de erro — sandbox seguro (Docker, Firejail, E2B, Modal).
4. RLVR com testes como recompensa — problemas com testes → reward = passou?
5. Tree search e self-repair em test-time — gerar N, executar, iterar.
6. Tokenizer otimizado para código — reduz 20–30% dos tokens.
7. Grammar-constrained decoding — forçar saídas sintaticamente válidas.

6.3 Modelos, datasets e benchmarks de código

• Modelos abertos: Qwen2.5-Coder (0.5B–32B), DeepSeek-Coder-V2 (MoE até 236B),

  DeepSeek-V3R1, Codestral, StarCoder2, Llama 3.x4.x.

• IDEs/agentes: Cursor, Windsurf, Claude Code, Aider, Continue.dev,

  Devin/OpenHands.

• Datasets: The Stack v2 (~900B tokens), GitHub Archive, CommitPack,

  SWE-bench Train, APPSCodeContestsLiveCodeBench.

• Benchmarks: SWE-bench Verified (o mais importante), LiveCodeBench (evita

  contaminação), HumanEval/MBPP (saturados).

6.4 Papers essenciais

• FIM — Bavarian et al. 2022 (arXiv 2207.14255).
• Qwen2.5-Coder — Hui et al. 2024 (arXiv 2409.12186).
• DeepSeek-Coder-V2 — 2024 (arXiv 2406.11931).
• Phi-1 (sintéticos como fundação) — Gunasekar et al. 2023 (arXiv 2306.11644).
• SWE-bench — Jimenez et al. 2024 (arXiv 2310.06770).
• ReAct (base de todo agente) — Yao et al. 2022 (arXiv 2210.03629).

Aplicação concreta de tudo isso num produto real: o estudo de caso 07-estudo-de-caso-kode.kmd.