第 5 课 · Lesson 0005

附录理论:Prop 1 Target Scale + Prop 2 Path Regularity

Mission: 为组会分享而学 — 两个命题放同一页,能复述证明骨架

Appendix A 用两个命题形式化 HCM 的优势:Prop 1 说匹配目标尺度更小;Prop 2 说路径管更窄、局部 Jacobian budget 更小。Prop 2 以 Prop 1 的假设为前提。这一课把两个证明放在同一页,逐行跟。

目录
Part A · Prop 1 Target Scale Part B · Prop 2 Path Regularity 两命题接口 自测
Part A

Proposition 1 · Target Scale

Prop 1 回答:在什么条件下,HCM 源比标准高斯源给出更小的条件匹配目标 $\mathbb E[\|Y-Y_0\|_1\mid h,c]$。匹配目标更小 → Flow Matching 要回归的速度更小 → 梯度更稳。

符号约定

符号含义
$Y$目标 $Y_{\text{endo}}$
$h:=X_{\text{endo}}$内生历史上下文
$c$外生条件 $\{X_{\text{exo}},Y_{\text{exo}}\}$
$Y_0^H=\mu(h)+\sigma(h)\delta$HCM 源
$Y_0^G=\xi\sim\mathcal N(0,I)$标准高斯源
$C_H:=\mathbb E[\|\delta\|_1]$HCM 扰动期望 $L_1$ 幅度
$C_G:=\mathbb E[\|\xi\|_1]$高斯噪声期望 $L_1$ 幅度

命题陈述

Proposition 1 (Target Scale). 若中心化残差下降超过噪声幅度之和(假设 H):

$$\mathbb E[\|Y\|_1\mid h,c]-\mathbb E[\|Y-\mu(h)\|_1\mid h,c] \;>\; \sigma(h)\,C_H+C_G$$

$$\boxed{\mathbb E[\|Y-Y_0^H\|_1\mid h,c] \;<\; \mathbb E[\|Y-Y_0^G\|_1\mid h,c].}\qquad\text{(21)}$$

假设 H 的人话:$\mu(h)$ 把目标相对原点省下的 $L_1$ 距离,必须大于 HCM 扰动噪声 $\sigma C_H$ 加上高斯噪声 $C_G$。预测任务里未来常围着历史中心转,这个条件自然容易成立。

证明路线图

1. 上界 · HCM 匹配目标

$$\|Y - Y_0^H\|_1 \le \|Y - \mu\|_1 + \sigma\|\delta\|_1$$

$$\Rightarrow\quad \mathbb E[\|Y - Y_0^H\|_1 \mid h,c] \le \mathbb E[\|Y - \mu\|_1 \mid h,c] + \sigma\, C_H$$

2. 下界 · 高斯匹配目标

$$\|Y - \xi\|_1 \ge \|Y\|_1 - \|\xi\|_1$$

$$\Rightarrow\quad \mathbb E[\|Y - Y_0^G\|_1 \mid h,c] \ge \mathbb E[\|Y\|_1 \mid h,c] - C_G$$

3. 假设 H 重排

$$\mathbb E[\|Y - \mu\|_1] + \sigma\, C_H \;<\; \mathbb E[\|Y\|_1] - C_G$$

左边 = HCM 上界右端;右边 = 高斯下界右端。

↓ 串链

4. 结论

$$ \mathbb E[\|Y - Y_0^H\|_1] \;\le\; \underbrace{\mathbb E[\|Y-\mu\|_1]+\sigma C_H}_{\text{左}} \;<\; \underbrace{\mathbb E[\|Y\|_1]-C_G}_{\text{右}} \;\le\; \mathbb E[\|Y - Y_0^G\|_1] $$

中间严格小于来自假设 H ⇒ HCM 匹配目标严格更小。

技巧:三角不等式给 HCM 上界反向三角给高斯下界,假设夹住两边。

逐行证明 · Prop 1

P1 · Step 1 · 源定义

$Y_0^H=\mu(h)+\sigma(h)\delta$,故 $Y-Y_0^H=(Y-\mu(h))-\sigma(h)\delta$。

P1 · Step 2 · 三角不等式(上界)

$$\|Y-Y_0^H\|_1\le\|Y-\mu(h)\|_1+\sigma(h)\|\delta\|_1.\qquad\text{(22)}$$

$\|a-b\|\le\|a\|+\|b\|$,$a=Y-\mu$,$b=\sigma\delta$。
P1 · Step 3–4 · 条件期望 + $\delta$ 独立

$$\mathbb E[\|Y-Y_0^H\|_1\mid h,c] \le \mathbb E[\|Y-\mu(h)\|_1\mid h,c]+\sigma(h)\,C_H.\qquad\text{(24)}$$

$\sigma(h)$ 对 $(h,c)$ 可测;$\delta$ 独立于 $(h,c)$,故 $\mathbb E[\|\delta\|_1\mid h,c]=C_H$。
P1 · Step 5–7 · 高斯:反向三角(下界)

$$\|Y-\xi\|_1\ge\|Y\|_1-\|\xi\|_1,\qquad \mathbb E[\|Y-Y_0^G\|_1\mid h,c] \ge \mathbb E[\|Y\|_1\mid h,c]-C_G.\qquad\text{(25–27)}$$

反向三角 $\|a-b\|\ge\|a\|-\|b\|$;$\xi$ 独立于 $(h,c)$。
P1 · Step 8–9 · 假设 H 及其重排

$$\mathbb E[\|Y\|_1]-\mathbb E[\|Y-\mu\|_1] > \sigma C_H+C_G \quad\Rightarrow\quad \mathbb E[\|Y-\mu\|_1]+\sigma C_H < \mathbb E[\|Y\|_1]-C_G.\qquad\text{(28–29)}$$

P1 · Step 10–11 · 串链

$$ \mathbb E[\|Y-Y_0^H\|_1] \;\le\; \text{(24) 右端} \;<\; \text{(27) 右端} \;\le\; \mathbb E[\|Y-Y_0^G\|_1]. $$

上界 < 下界 ⇒ 真实期望严格有序。证毕。
Prop 1 边界:充分条件证明(HCM 用上界、高斯用下界),不是 iff;$\delta$ 独立性是建模假设;$\mu$ 很差或 $\sigma$ 极大时假设可失败——这正是 $L_{CC}$ 与可学 $\mu$ 的意义。
Part B

Proposition 2 · Path Regularity

Prop 1 管的是端点距离(源到目标有多远)。Prop 2 管的是整条路径有多粗:路径管更窄 → 局部 Jacobian 放大扰动的能力更弱 → 误差沿 ODE 滚得更慢。

新符号

符号含义
$Y_s^H=sY+(1-s)Y_0^H$HCM 直线匹配路径
$Y_s^G=sY+(1-s)Y_0^G$高斯直线匹配路径
$R_H:=\sup_{s\in[0,1]}\|Y_s^H-\mu(h)\|_1$HCM 路径管半径(相对 $\mu$)
$R_G:=\sup_{s\in[0,1]}\|Y_s^G\|_1$高斯路径管半径(相对原点)
$B_H:=a+bR_H$HCM 路径局部 Jacobian budget
$B_G:=a+bR_G$高斯路径局部 Jacobian budget

局部正则假设

向量场在任意中心 $m$、半径 $r$ 的管里,Jacobian 算子范数被半径线性控制:

$$\sup_{\substack{s\in[0,1]\\\|y-m\|_1\le r}} \|\nabla_y v_\theta(y,s,c)\|_{1\to 1} \;\le\; a+br,\qquad a\ge 0,\;b>0.\qquad\text{(32)}$$

于是半径为 $R$ 的路径管,Jacobian 上界是 $a+bR$。$B=a+bR$ 就是路径局部 Jacobian budget——量化"沿路径能把局部扰动放大多少"。

为何局部而非全局:Remark 说,对光滑神经网络向量场,固定管上 Hessian 局部有界 ⇒ 这种线性界合理。不需要全局 Lipschitz。

命题陈述

Proposition 2 (Path Regularity). 在局部正则假设 (32) 下,若 Prop 1 的假设 H 成立,则

$$\boxed{\mathbb E[B_H\mid h,c] \;<\; \mathbb E[B_G\mid h,c].}\qquad\text{(33)}$$

即 HCM 的期望路径局部 Jacobian budget 更小。

证明路线图

1. 上界 $R_H$

$Y_s^H-\mu$ 落在 $Y-\mu$ 与 $\sigma\delta$ 的线段上

$$\Rightarrow R_H\le\|Y-\mu\|_1+\sigma\|\delta\|_1$$

$$\Rightarrow \mathbb E[R_H\mid h,c]\le\mathbb E[\|Y-\mu\|_1]+\sigma C_H$$

2. 下界 $R_G$

$Y_1^G=Y$,故 $R_G\ge\|Y\|_1$

$$\Rightarrow \mathbb E[R_G\mid h,c]\ge\mathbb E[\|Y\|_1\mid h,c]$$

3. 用 Prop 1 假设($C_G\ge 0$ 丢掉)

$$\mathbb E[\|Y-\mu\|_1]+\sigma C_H \;<\; \mathbb E[\|Y\|_1]$$

$$\Rightarrow \mathbb E[R_H]<\mathbb E[R_G]$$

↓ 线性映射 $B=a+bR$($b>0$)

4. 结论

$$\mathbb E[B_H]=a+b\mathbb E[R_H] \;<\; a+b\mathbb E[R_G] =\mathbb E[B_G]$$

逐行证明 · Prop 2

P2 · Step 1 · 路径相对 $\mu$ 的分解

$Y_s^H=sY+(1-s)Y_0^H$,$Y_0^H=\mu+\sigma\delta$,故

$$Y_s^H-\mu(h)=s\big(Y-\mu(h)\big)+(1-s)\,\sigma(h)\delta.\qquad\text{(34)}$$

每一点 $Y_s^H-\mu$ 是端点 $Y-\mu$ 与 $\sigma\delta$ 的凸组合——落在二者线段上。
P2 · Step 2 · $L_1$ 凸性 ⇒ 管半径上界

$$\|Y_s^H-\mu\|_1 \le \max\big(\|Y-\mu\|_1,\,\sigma\|\delta\|_1\big) \le \|Y-\mu\|_1+\sigma\|\delta\|_1.\qquad\text{(35)}$$

凸组合的范数 ≤ 两端点范数的 max;max 再 ≤ 两者之和。
P2 · Step 3 · 对 $s$ 取 sup 得 $R_H$

$$R_H=\sup_{s\in[0,1]}\|Y_s^H-\mu\|_1 \le \|Y-\mu\|_1+\sigma\|\delta\|_1.\qquad\text{(36)}$$

取条件期望并用 $\delta$ 独立:

$$\mathbb E[R_H\mid h,c] \le \mathbb E[\|Y-\mu(h)\|_1\mid h,c]+\sigma(h)\,C_H.\qquad\text{(37)}$$

注意:右端与 Prop 1 里 HCM 匹配目标的上界同形。这是两命题的代数接口。
P2 · Step 4 · 高斯路径管下界

$Y_s^G=sY+(1-s)\xi$,且 $Y_1^G=Y$,故

$$R_G=\sup_s\|Y_s^G\|_1 \ge \|Y_1^G\|_1=\|Y\|_1.\qquad\text{(38)}$$

$$\mathbb E[R_G\mid h,c] \ge \mathbb E[\|Y\|_1\mid h,c].\qquad\text{(39)}$$

高斯路径以原点为参考(没有 $\mu$ 可减),管半径至少盖住终点 $\|Y\|_1$。
P2 · Step 5 · 调用 Prop 1 假设,丢掉 $C_G$

假设 H:

$$\mathbb E[\|Y\|_1]-\mathbb E[\|Y-\mu\|_1] > \sigma C_H+C_G.$$

因 $C_G\ge 0$,更强地有

$$\mathbb E[\|Y-\mu\|_1]+\sigma C_H \;<\; \mathbb E[\|Y\|_1].\qquad\text{(40–41)}$$

Prop 2 比 Prop 1 更"松"一步:右边不再减 $C_G$,只需要中心化收益压过 HCM 自身噪声 $\sigma C_H$。
P2 · Step 6 · $R_H$ 与 $R_G$ 比较

联立 (37)、(39)、(41):

$$\mathbb E[R_H\mid h,c] \;\le\; \mathbb E[\|Y-\mu\|_1]+\sigma C_H \;<\; \mathbb E[\|Y\|_1] \;\le\; \mathbb E[R_G\mid h,c].$$

$$\mathbb E[R_H\mid h,c] \;<\; \mathbb E[R_G\mid h,c].\qquad\text{(42)}$$

P2 · Step 7 · 线性映射到 Jacobian budget

局部正则 ⇒ 管半径 $R$ 对应 budget $B=a+bR$。因 $b>0$,

$$ \begin{aligned} \mathbb E[B_H\mid h,c] &=a+b\,\mathbb E[R_H\mid h,c]\\ &

路径更窄 ⇒ Jacobian budget 更小 ⇒ 局部误差放大更弱(标准 ODE 稳定性直觉)。证毕。
Prop 2 边界

两命题接口(组会一张图)

Prop 1: 端点匹配尺度 E||Y − Y0^H|| < E||Y − Y0^G|| │ 共享代数 │ 上界 E||Y−μ|| + σ C_H ▼ Prop 2: 路径管半径 E[R_H] < E[R_G] │ 局部正则 B = a + bR ▼ E[B_H] < E[B_G] │ ▼ 匹配目标更小 + 路径更规则 → 优化更稳 + 局部误差放大更弱
Prop 1 Target ScaleProp 2 Path Regularity
比较对象端点距离 $\mathbb E\|Y-Y_0\|_1$路径管 $\mathbb E R$ → budget $\mathbb E B$
HCM 侧工具三角不等式上界线段 + $L_1$ 凸性上界
高斯侧工具反向三角下界终点下界 $R_G\ge\|Y\|_1$
关键假设假设 H(含 $C_G$)假设 H + 局部正则 (32)
设计含义回归目标更小误差沿 ODE 放大更弱
组会 60 秒版:"Appendix 用两个命题证明 HCM 源优于高斯源。Prop 1:对 HCM 用三角不等式得匹配目标上界,对高斯用反向三角得下界;若 μ 的中心化收益大于噪声代价,HCM 匹配尺度严格更小。Prop 2:同一套中心化假设推出 HCM 路径管更窄;在局部正则下 Jacobian budget 随半径线性涨,所以期望 budget 也更小——路径更规则、局部误差放大更弱。两者共享 'E||Y−μ||+σ C_H' 这个代数上界,Prop 2 是从端点走到整条路径。"

自测

Check 1 · Prop 1
对 HCM 匹配目标,证明用的是哪种不等式?
Check 2 · Prop 1
假设 H 左边 $\mathbb E[\|Y\|_1]-\mathbb E[\|Y-\mu\|_1]$ 表示什么?
Check 3 · Prop 2
$R_H$ 与 $R_G$ 的参考中心分别是?
Check 4 · Prop 2
从 $\mathbb E[R_H]<\mathbb E[R_G]$ 到 $\mathbb E[B_H]<\mathbb E[B_G]$,关键用了什么?
Check 5 · 接口
Prop 2 证明里哪一步显式依赖 Prop 1?