← 知识地图ψ 学习与智能系统
生成模型
5 个概念，0 个已写；与 5 门其他学科共享概念或相互关联。先修的在左，同一章的圈在一起，通往这门课之外的关系挂在卡片上。
关系位置即顺序：沿轨道从左到右读同一章圈在一起卡片上方的标签通往这门课之外
节点概念方法模型已写待写0 / 5 已点亮
点一个概念查看它的说明和关系0 / 5 已点亮
基于 score 的生成0/3
其他0/2
点一个节点，这里会显示它的说明，以及它和其他节点之间的关系。
这门课的关系一览6
Shannon 熵延伸KL 散度与交叉熵
KL 散度是相对熵：把熵从一个分布推广到两个分布之间。
KL 散度与交叉熵应用VAE 与 ELBO
ELBO 中的正则项是一个 KL 散度。
VAE 与 ELBO延伸Score Matching
从潜变量模型的似然下界，走到直接学习 score 的生成目标。
Score Matching延伸Conditional Technique
条件化让 score matching 的目标变得可计算。
Conditional Technique延伸Probability Flow ODE
学到 score 之后，可以把 SDE 换成等价的确定性 ODE。
VAE 与 ELBO对比LeWorldModel / SIGReg
两者都学习潜变量表示：VAE 靠重建观测，LeWorldModel 只在潜空间预测，并靠 SIGReg 防塌缩。