Parte IV · Cap. 21 — Processo Gaussiano (GP)

Probabilística · Regressão/otimização · Métodos de kernel. Distribuição sobre funções que prediz com incerteza calibrada. Card: ../02-tipos-de-ia/03-probabilistica.kmd.

🎨 Figura F-IV.21.0 — Predição com incerteza. Brief: curva média com faixa de incerteza que estreita perto de pontos observados e alarga longe deles (banda de confiança).

1. Definição e história curta

Método bayesiano não-paramétrico que modela funções via kernels. Popular nos anos 2000-2010 em regressão e otimização bayesiana de hiperparâmetros.

2. Fundamentos

• Probabilidade — distribuição gaussiana multivariada sobre funções.
• Álgebra linear — matriz de covariância, inversão (custo O(n³)).
• Estatística — inferência bayesiana, marginalização.
• Análise — kernels (RBF, Matérn) codificam suavidade.

3. Algoritmos e arquiteturas

• Kernel — define a similaridade/covariância entre pontos.
• Predição — média + variância posteriores em forma fechada.
• Otimização bayesiana — GP + acquisition function (EI, UCB) para buscar

  ótimos com poucas avaliações.

• Escala — aproximações esparsas (pontos indutores).

4. Insumos

• Hardware: CPU/GPU; custo cúbico no nº de pontos.
• Dados: poucos pontos (brilha em low-data).
• Estruturas de dados: matriz de covariância (densa).
• Sistemas: GPy, GPflow, BoTorch.

5. Ciclo de vida especializado