Parte V · 1 — As alavancas da fronteira

draft

Nem toda decisão importa igual. Esta é a ordem real das alavancas que movem a qualidade de um modelo — onde gastar esforço primeiro.

🎨 Figura F-V.1 — As alavancas, em escala. Brief: infográfico de 5 alavancas (réguas/manivelas) de tamanhos decrescentes: Dados (maior) → Pós-treino → Compute → Arquitetura → Evals; rótulo "ganho marginal" diminuindo. Paleta do Compêndio.

As alavancas, em escala

1.1 A ordem das alavancas

  1. Qualidade dos dados — de longe a maior. FineWeb-Edu vs. Common Crawl cru

    = várias classes de modelo de diferença.

  2. Pós-treino (SFT + RLHFDPORLVR) — frequentemente rende mais que aumentar

    o modelo 10×.

  3. Compute — ainda importa; em 2024-2026, RL de raciocínio > pré-treino

    no ganho marginal.

  4. Arquitetura — MoE, GQA, atenção eficiente dão 10–30%; não decisivos.
  5. Evals e iteração — sem boas avaliações, você navega no escuro.

Armadilha comum: otimizar arquitetura exótica antes de ter dados e evals bons. Os modelos de fronteira são todos Transformers/MoE — a diferença está em dados e pós-treino, não na arquitetura.

1.2 RLVR — o paradigma de raciocínio (2024–2026)

O ganho mais dramático em raciocínio vem de RL com recompensas verificáveis (RLVR) em escala massiva — fundamento do DeepSeek-R1, o1/o3 e do *extended thinking* do Claude.

  • Ideia: gere uma resposta com cadeia de raciocínio; verifique se está certa

    (teste, prova formal, resultado numérico); recompensa = passou/não-passou.

  • Algoritmos: PPO e GRPO (DeepSeekMath); Process Reward Models (PRMs)

    avaliam cada passo.

  • Por que funciona: domínios com verificação barata (código, matemática)

    permitem RL em escala quase grátis.

1.3 Test-time compute

Gastar compute na inferência frequentemente rende mais que aumentar o modelo: múltiplas amostras + verificação (best-of-N), MCTS em texto, beam search com PRM. É o fundamento dos modelos o1/o3 e do extended thinking.

1.4 Dados sintéticos e auto-melhoria

Todo modelo de fronteira desde 2023 depende pesadamente de dados sintéticos:

  • Phi (Textbooks Are All You Need), WizardLM (Evol-Instruct), MetaMath.
  • Self-Rewarding LMs, ReST^EM (self-training).
  • ⚠️ Curse of Recursion: treinar em dados gerados sem filtragem rigorosa

    degrada o modelo. Filtre pelos verificáveis.

1.5 Contexto longo e memória

Gemini processa 1M–10M tokens; Claude 200K–1M. Muda o que arquiteturas "superinteligentes" conseguem fazer.

  • Técnicas: Positional Interpolation, YaRN, Infini-attention.
  • Estabilizando em 128K–2M tokens de contexto efetivo nos modelos de fronteira.

1.6 World models e arquiteturas pós-Transformer

  • World models (para agentes que planejam): DreamerV3, Genie 2, V-JEPA.
  • Híbridas: Mamba/Mamba-2, Jamba, xLSTM — ganhos em long-context e eficiência.
  • Mas: a fronteira segue Transformer/MoE; a vantagem está em dados e pós-treino.

1.7 A escala da fronteira (e por que você não deve persegui-la)

Treinar um modelo de fronteira do zero exige 10.000–100.000 GPUs H100H200B200, 1–6 meses de treino contínuo, infraestrutura de checkpointing, e bilhões de capital.

Stack de fronteira: CUDA, NCCL, Triton, TransformerEngine, cuDNN, DeepSpeed ZeRO/FSDP, pipeline parallelism estilo Megatron. Labs gastam 15–30% do budget técnico em segurança (red teaming, jailbreak defense, interpretabilidade, Constitutional AI, scalable oversight).

Conclusão prática: não treine do zero. Escolha um domínio, use modelo aberto, e invista nas alavancas 1–2 (dados + pós-treino). Roadmap concreto no doc 06-ia-para-codigo.kmd e no estudo de caso 07-estudo-de-caso-kode.kmd.