第 1 课你已知 HCM 用 $X_{\text{endo}}$ 造源 $Y_0=\mu_{\text{hist}}+\sigma_{\text{hist}}\delta_{\text{hist}}$。这一课把右端三项拆成四件套(barycenter mapping、uncertainty estimator、manifold projector、coverage constraint),每一件都讲清输入→公式→输出形状→职责。读完后你应能不看论文默写 Eq.4–9 并说清每项为什么存在。
标准 FM 从 $Y_0\sim\mathcal N(0,I)$ 出发。KITE 把它换成可学的历史条件流形 $\mathcal H(\mu_{\text{hist}},\sigma_{\text{hist}},\delta_{\text{hist}})$,源样本 $Y_0=\mu_{\text{hist}}+\sigma_{\text{hist}}\,\delta_{\text{hist}}$(Eq.9)。$\mu$ 决定中心在哪、$\sigma$ 决定覆盖多宽、$\delta$ 决定扰动沿哪个低秩方向走。三者都只由内生历史 $X_{\text{endo}}\in\mathbb R^{N\times T}$ 决定。
$$\boxed{\mu_{\text{hist}}=f_\phi(X_{\text{endo}})\in\mathbb R^{N\times F}}\qquad\text{(Eq.4)}$$
$f_\phi$ 是线性映射或 MLP(论文明确写"linear mapping or a Multi-Layer Perceptron parameterized by $\phi$")。输入 $X_{\text{endo}}\in\mathbb R^{N\times T}$,输出 $\mu_{\text{hist}}\in\mathbb R^{N\times F}$——把历史从 $T$ 步投影到 $F$ 步预测空间的中心位置。"barycenter"即"质量中心",把历史信息压成一个历史依赖的局部中心,贴近目标 $Y_{\text{endo}}$ 的典型位置。
职责:决定源分布的"质心坐标"。Prop 1 的关键量 $\mathbb E[\|Y-\mu(h)\|_1\mid h,c]$ 就是衡量目标相对这个质心的残差——质心越准,残差越小,FM 要传输的距离越短。
$$\boxed{\sigma_{\text{hist}}=\mathrm{Softplus}(g_\psi(X_{\text{endo}}))+\sigma_{\min}}\qquad\text{(Eq.5)}$$
$g_\psi$ 是 MLP,输出标量(注意是标量,非向量)。Softplus 保证 $\sigma_{\text{hist}}>0$;$\sigma_{\min}>0$ 是基线探索宽度,保证即使 $g_\psi$ 想输出 $-\infty$,$\sigma$ 也不会塌成 0。
异方差性:$\sigma$ 随 $X_{\text{endo}}$ 变化——历史复杂/多变时 $\sigma$ 大、覆盖宽;历史平稳时 $\sigma$ 小、源更尖。这让源分布的"宽度"自适应于历史不确定性。
职责:决定源分布的"扩散半径"。但光有 $\sigma$ 不够——若让它自由学,它会塌成 0 让 $Y_0\to\mu$(退化为确定点),导致源支撑盖不住目标。这就引出件 4 的 coverage constraint。
$$\boxed{\delta_{\text{hist}}=\alpha\cdot\frac{Mz}{\|Mz\|}+(1-\alpha)\cdot\epsilon\in\mathbb R^{N\times F}}\qquad\text{(Eq.6)}$$
三个角色:
$\frac{Mz}{\|Mz\|}$ 是归一化——把 $Mz$ 投到单位球面,保证这个分量的范数恒为 1。$\epsilon$ 是各向同性噪声。$\alpha$ 学的是"扰动走低秩流形方向"还是"走纯随机方向"的权衡。
为什么低秩 + 各向同性混合:论文写得很明确——低秩 $M$ 让扰动"对齐目标数据的几何结构"(anisotropic prior aligned with target geometry),防止过拟合到这个低秩流形,同时捕获细微扰动,所以再混一份各向同性 $\epsilon$。
职责:决定源分布的"扰动方向结构"。Prop 1 证明里设 $C_H:=\mathbb E[\|\delta\|_1]$,正是这个归一化让 $\delta$ 的噪声幅度可控,配合 $\sigma$ 的 coverage constraint,保证"加的噪声不过大"。
$$\boxed{L_{CC}=\frac{1}{2}\log\sigma_{\text{hist}}+\frac{\|Y_{\text{endo}}-\mathrm{detach}(\mu_{\text{hist}})\|^2}{2\,\sigma_{\text{hist}}^2}}\qquad\text{(Eq.7)}$$
形式上就是对数高斯负对数似然:把 $\mu_{\text{hist}}$ 当均值、$\sigma_{\text{hist}}^2$ 当方差,衡量 $Y_{\text{endo}}$ 在这个高斯下的负对数似然。但有个关键 trick:
$\mathrm{detach}(\mu_{\text{hist}})$:对 $\mu$ 做 stop-gradient。意思是 $L_{CC}$ 对 $\mu$ 不回传梯度,只对 $\sigma$ 回传。论文原话:"ensuring that this constraint does not interfere with the geometric optimization of the barycenter"——让 $\mu$ 只由 FM 主损失 $L_{\text{FM}}$ 优化几何位置,$L_{CC}$ 专职校准 $\sigma$。
理解 $L_{CC}$ 对 $\sigma$ 的作用:
职责:强制源分布的支撑(由 $\mu\pm\text{几倍}\sigma$ 决定)盖住真值 $Y_{\text{endo}}$。没有它,$\sigma$ 会塌成 0,$Y_0\to\mu$ 成确定点,FM 源丧失多样性。
四件套产出 $\mu,\sigma,\delta$ 后合成源(Eq.9),再进 FM 路径(Eq.8):
$$Y_0=\mu_{\text{hist}}+\sigma_{\text{hist}}\,\delta_{\text{hist}},\qquad Y_s=s\,Y_{\text{endo}}+(1-s)\,Y_0.$$ 训练目标速度 $\hat v=Y_{\text{endo}}-Y_0$,网络回归它。$L_{CC}$ 与 $L_{\text{FM}}$ 联合优化——$L_{CC}$ 管 $\sigma$,$L_{\text{FM}}$ 管 $\mu,\delta,M,\alpha$ 和整个 $v_\theta$。
| 件 | 公式 | 输出形状 | 管什么 | 被谁优化 |
|---|---|---|---|---|
| Barycenter Mapping | $\mu=f_\phi(X_{\text{endo}})$ | $N\times F$ | 源中心位置 | $L_{\text{FM}}$($L_{CC}$ detach 掉) |
| Uncertainty Estimator | $\sigma=\mathrm{Softplus}(g_\psi(X_{\text{endo}}))+\sigma_{\min}$ | 标量 | 源扩散半径 | $L_{CC}$(主)+ $L_{\text{FM}}$ |
| Manifold Projector | $\delta=\alpha\frac{Mz}{\|Mz\|}+(1-\alpha)\epsilon$ | $N\times F$ | 扰动方向结构 | $L_{\text{FM}}$ |
| Coverage Constraint | $L_{CC}$ | 标量 | 防 $\sigma$ 塌缩、盖住目标 | 只回传 $\sigma$ |