← 返回架构图
当 timestep t ≥ boundary（约 0.5×num_train_timesteps）时激活。
负责从高噪信号中提取粗粒度全局结构。
使用 3D RoPE（时间+空间位置编码）+ Flash Attention + AdaLN（自适应层归一化条件化时间步）。
模型规格 (A14B)
参数量~14B（Wan 2.1 主干）
num_heads40，head_dim = 128，dim = 5120
num_layers40 层 WanTransformerBlock
patch_size[1,2,2]（时间×高×宽）
Attention 机制
Self-Attn3D RoPE + Flash Attention (QK-Norm)
Cross-Attn与 T5 context 做交叉注意力
AdaLNtimestep embedding 条件化 scale/shift
Camera CondPlücker 嵌入通过线性投影注入