Parte IV · Cap. 06 — VAE (Autoencoder Variacional)
Conexionista · Geração / representação · Encoder-decoder probabilístico. Aprende um espaço latente contínuo do qual amostra novos dados; hoje é peça central de pipelines maiores (difusão latente, tokens multimodais). Card:
../02-tipos-de-ia/02-conexionista.kmd.
🎨 Figura
F-IV.6.0— Funil latente. Brief: encoder comprimindo dados a um ponto numa nuvem latente gaussiana, e decoder reconstruindo; amostragem de um ponto novo gerando dado novo.
1. Definição e história curta
Autoencoder que regulariza o espaço latente para ser uma distribuição contínua (2014). Linhagem: VAE → VQ-VAE (latente discreto, base de tokens) → componente do latent diffusion e de modelos multimodais.
2. Fundamentos
- Probabilidade / inferência variacional — maximiza o ELBO.
- Teoria da informação — termo KL regulariza o latente; compressão.
- Teoria da medida — formulação contínua; reparametrização.
- Álgebra linear — encoder/decoder; espaço latente.
3. Algoritmos e arquiteturas
- Encoder — dado → distribuição latente (μ, σ).
- Reparametrização — amostra
z = μ + σ·ε(permite backprop). - Decoder —
z→ reconstrução. - Objetivo — reconstrução + KL ao prior.
- Variantes — VQ-VAE (codebook discreto), β-VAE (disentanglement).
4. Insumos
- Hardware: GPU; leve comparado a LLM/difusão.
- Dados: o domínio-alvo (imagens, áudio).
- Estruturas de dados: tensores; codebook (VQ-VAE).
- Sistemas: PyTorch; usado como frontend de outros modelos.
5. Ciclo de vida especializado
| Etapa | Especialização |
|---|---|
| 0 Problema | Compressão, geração, ou tokenizer latente para outro modelo |
| 1 Dados | Domínio-alvo; pouca rotulação (auto-supervisão) |
| 2 EDA | Estrutura/variabilidade dos dados |
| 3 Modelagem | VAE vs VQ-VAE; dimensão latente; β |
| 4 Treino | Reconstrução + KL; evitar posterior collapse |
| 5 Avaliação | Erro de reconstrução, qualidade de amostra, uso do latente |
| 5.5 Homologação | Validar latente como entrada de difusão/multimodal |
| 6 Produção | Encoder/decoder em pipeline (latent diffusion) |
| 7 Monitoramento | Qualidade de reconstrução em produção |
| 8 Retreino | Novos domínios |
| 9 Governança | Herdada do sistema que o usa |
6. Capacidades, modos e modalidades
Representação/compressão e geração; raramente usado sozinho hoje — brilha como espaço latente de difusão e como tokenizador (VQ) para modelos autoregressivos multimodais.
7. Limites, riscos e ética
Amostras mais "borradas" que GAN/difusão se usado puro; posterior collapse. Riscos herdados do pipeline hospedeiro.
8. Estado da arte e exemplos
VAE do Stable Diffusion (latent), VQ-VAE/VQGAN, codecs neurais de áudio (EnCodec/Mimi) — onipresente como infraestrutura, não como produto final.