提出端到端可学习的层级稀疏注意力机制，实现超长上下文外推和高效推理

通过半自回归生成和硬件感知调度，将LLM推理速度提升60%-85%

提出三模式LM，联合AR和扩散训练，实现AR/扩散/自投机三种解码方式，在精度和速度上超越SOTA开源模型

通过强化学习后训练框架提升VLA模型执行效率，减少物理步数51.4%，加速5.83倍

为每个输入预测如何动态跳过/重复预训练层，在更少层数下获得更高准确率

通过内部模型路由引入轻量级中间验证器，实现分层推测解码，降低拒绝率并提升推理速度

通过解耦预测投影实现CPU-GPU异步预取，提升稀疏注意力长上下文推理效率

用神经记忆索引器预测关键 KV 块，将 GPU 内存消耗降至 13.5% 同时保持精度

提出Draft-OPD，通过错误位置重放机制在验证时错误上训练draft模型，实现5倍以上无损加速

通过视觉编码器内部帧合并和解耦空间选择，将视频LLM推理速度提升2.65倍

通过结构感知的块扩散和scaffolding技术，实现SOTA轨迹精度下的12倍推理加速

FP4 注意力中只对 5% 关键块保留 FP16,兼顾速度与质量。

无需训练，靠KV缓存的视角检索与相似度压缩，让视频世界模型拥有长程一致记忆

首个面向自回归视频扩散模型的量化框架，用帧敏感度加权与自适应双尺度量化加速推理。

面向om-LLM推理加速的阶段自适应token选择方法SEATS。

通过零专家注入与两阶段自蒸馏把 post-trained MoE 转成 dynamic MoE

通过分头混合压缩 KV 缓存，为自回归视频扩散提速 1.5–2.8 倍

BEAM用可学习二值mask在MoE Top-K候选中动态筛除冗余专家

DECO通过ReLU路由、可学习专家缩放、NormSiLU激活与非门控MLP专家的组合,在仅激活20%路由专家时匹配密集Transformer性能,并在Jetson AGX Orin上实现2.93倍推理加速。

通过块扩散与自推测解码，把字节级语言模型的推理内存带宽最高砍掉九成。