笔记

地图里的每一条连线，用一句话说明。

• 大数定律推出典型集与 AEP

  对 −log p(X) 使用大数定律，就得到 AEP。

• Shannon 熵前置典型集与 AEP

  典型集的大小由熵决定，约为 2^{nH}。

• Shannon 熵延伸KL 散度与交叉熵

  KL 散度是相对熵：把熵从一个分布推广到两个分布之间。

• KL 散度与交叉熵应用VAE 与 ELBO

  ELBO 中的正则项是一个 KL 散度。

• MDP 与价值函数前置Policy Gradient

  目标 J(θ) 定义在 MDP 的轨迹分布上。

• 随机梯度方法应用Policy Gradient

  策略梯度的更新是对 J(θ) 的随机梯度上升，收敛分析沿用随机非凸优化。

• VAE 与 ELBO延伸Score Matching

  从潜变量模型的似然下界，走到直接学习 score 的生成目标。

• Score Matching延伸Conditional Technique

  条件化让 score matching 的目标变得可计算。

• Conditional Technique延伸Probability Flow ODE

  学到 score 之后，可以把 SDE 换成等价的确定性 ODE。

• VAE 与 ELBO对比LeWorldModel / SIGReg

  两者都学习潜变量表示：VAE 靠重建观测，LeWorldModel 只在潜空间预测，并靠 SIGReg 防塌缩。