Economia e Estratégia de IA

Custo de treino por escala, build vs fine-tune vs API, roadmap de modelo, competências necessárias. Atualizado em abril de 2026.

Visão Geral

Construir um LLM próprio é uma decisão econômica antes de ser técnica. O custo total varia em ordens de magnitude dependendo da escala, e a estratégia certa depende do caso de uso.

Este documento responde:

1. Quanto custa treinar em cada escala?
2. Quando vale a pena construir do zero vs fine-tune vs usar API?
3. Qual o roadmap ideal para evoluir um modelo próprio?
4. Que equipe e competências são necessárias?

Custo de Treino por Escala

Pré-treino from scratch

* Taxa de R$ 5.70/USD, valores aproximados de cloud (Lambda Labs, CoreWeave). On-premise pode ser 30–50% mais barato em TCO de 3 anos.

Detalhamento do custo de GPU

Nota: AWSGCPAzure são 10–15× mais caros que provedores especializados em GPU. Para treino de LLM, sempre usar LambdaCoreWeaveRunPod ou on-premise.

Fine-tuning (QLoRA/LoRA)

Fine-tuning é 100–1000× mais barato que pré-treino.

Build vs Fine-Tune vs API

Matriz de decisão

Quando usar cada abordagem

API (GPT-4o, Claude, Gemini)

Vale quando:

• Prototipando um produto (validar demanda antes de investir)
• O caso de uso não é core do negócio
• Não há dados sensíveis
• O volume de uso é baixo (< 1M tokens/dia)

Não vale quando:

• O produto É a IA (lock-in é risco existencial)
• Dados sensíveis (saúde, jurídico, financeiro)
• Volume alto (custo mensal explode)
• Latência crítica (< 100ms)

Fine-Tune (modelo open-source)

Vale quando:

• O caso de uso é core mas não justifica pré-treino
• Precisa de customização de domínio (código, jurídico, médico)
• Quer privacidade sem custo de pré-treino
• Tem dados proprietários de qualidade

Não vale quando:

• O modelo base já resolve 95% dos casos
• Não tem dados de qualidade para fine-tune
• Precisa de capacidades que o modelo base não tem (ex: raciocínio matemático avançado)

Build do zero

Vale quando:

• A IA é o produto principal da empresa
• Precisa de capacidades que nenhum modelo existente tem
• Tem orçamento e equipe para 6–12 meses de desenvolvimento
• Quer diferenciação competitiva sustentável

Não vale quando:

• É a primeira vez construindo IA (começar com fine-tune)
• O mercado está evoluindo rápido demais (modelo fica obsoleto)
• Não tem dados proprietários suficientes

Recomendação para a Koder

Fase 1 (0–3 meses): API + Fine-tune

• Usar API para prototipar produtos
• Fine-tune de Qwen2.5-Coder-32B para o Kode (coding assistant)
• Custo: \(500–\)3K

Fase 2 (3–9 meses): Fine-tune avançado

• Fine-tune com RLVR (reinforcement learning from verifier rewards)
• Construir dataset proprietário de código Koder
• Treinar reward model próprio
• Custo: \(5K–\)30K

Fase 3 (9–18 meses): Modelo próprio

• Pré-treino de modelo 7–30B focado em código + linguagem natural
• Dataset de 1–3T tokens (The Stack + CommonCrawl curado + dados Koder)
• Custo: \(150K–\)600K

Roadmap de Modelo

Maturity model

Nível 0: API externa
  → GPT-4o, Claude, Gemini
  → Zero controle, máximo vendor lock-in

Nível 1: Fine-tune de modelo open
  → Llama-3.1-8B ou Qwen2.5-Coder-32B fine-tuned
  → Customização de domínio, self-hosted
  → 1–4 semanas para produzir

Nível 2: Fine-tune avançado + RLVR
  → SFT + DPO + RLVR com reward model próprio
  → Alinhado com preferência do usuário Koder
  → 1–3 meses

Nível 3: Pré-treino de modelo de nicho
  → Modelo 7–13B pré-treinado em código + docs técnicas
  → Diferenciação em coding tasks
  → 3–6 meses

Nível 4: Modelo próprio full-stack
  → Modelo 30B+ pré-treinado do zero
  → Arquitetura própria (ex: MoE, hybrid)
  → Diferenciação sustentável
  → 6–18 meses

Quando escalar

Equipe e Competências

Equipe mínima para cada nível

Competências técnicas necessárias

Perfil de contratação

ML Engineer Senior (treino distribuído):

• 3+ anos com PyTorch em escala
• Experiência com FSDPDeepSpeedMegatron
• Já treinou ou fine-tuned modelo 7B+
• Entende paralelismo (data, tensor, pipeline)

Data Engineer (data pipeline):

• Experiência com SparkRayDask
• Pipeline de dados em TB+ escala
• Deduplicação, filtragem, qualidade de dados

MLOps Engineer:

• Model versioning, experiment tracking
• Deploy de modelos em produção
• Monitoring, A/B testing, canary

Custo Total de Propriedade (TCO)

Comparativo 3 anos

Conclusão: Fine-tune self-hosted é o sweet spot para a maioria das empresas. Pré-treino só vale para empresas onde IA é o core do negócio.

On-premise vs Cloud

Regra prática: Se vai usar GPUs > 2 anos consecutivos, on-premise é mais barato. Se é intermitente ou incerto, cloud.

Para o Kode

Recomendação de estratégia

Curto prazo (0–6 meses):

1. Fine-tune de Qwen2.5-Coder-32B com dados de código Koder
2. RLVR com reward model baseado em testes unitários
3. Self-hosted com 2× RTX 4090
4. Custo: \(3K–\)10K

Médio prazo (6–12 meses):

1. Pré-treino de modelo 7B focado em código + documentação
2. Dataset: The Stack + CommonCrawl curado + dados Koder
3. Infra: 4× A100 80GB (cloud ou on-premise)
4. Custo: \(150K–\)300K

Longo prazo (12–24 meses):

1. Modelo 30B+ com arquitetura própria (MoE?)
2. Multimodal (código + diagramas + docs)
3. Custo: \(500K–\)1.5M

Orçamento sugerido

Referências