限制蒸馏 rollout 到前 N 个 token，解决 OPD 的离策略教师衰减问题

首个面向移动端的十亿参数级MoE模型，建立端侧LLM新帕累托前沿

首个跨架构扩散LLM蒸馏框架，统一解决时序/上下文/词表三重鸿沟。

用 RL options 框架训练 MoE 控制器，把切换率从 50%+ 压到 5% 以下。

统一文本概率空间的多模态蒸馏框架，含视觉切换与动态双向 logits 差异损失。

剪枝在非生成任务有效但生成任务失效，softmax非线性放大是关键

将对话历史音频压缩为固定latent tokens，降低成本同时保留ASR增益

0.39B参数统一扩散模型，在手机端实现<1秒图文生成与编辑

用强化学习学习可迁移的逐层位宽分配策略，实现比统一4位量化更优的精度-效率权衡

用 mLSTM-SWA 混合架构蒸馏 Transformer，通过专家合并实现近乎无损的性能迁移

通过知识蒸馏将2B VLM压缩到69M文本编码器，实现高效视觉文档检索

首个在手机端实现实时渲染的3D高斯泼溅方法，融合无排序渲染、SH蒸馏、神经矢量量化与贡献剪枝。

首次系统对比 AR 与扩散 LLM 的层间表征结构，发现扩散目标函数带来可被利用的早层冗余。

通过锚点式集群丢弃和球谐系数截断解决稀疏视角3DGS过拟合问题

首个VLA模型训练后量化框架，通过选择性量化和轻量校准实现70%内存节省且超越全精度性能

首个可在手机上实时运行的统一多模态理解与生成模型，仅1.6B参数

针对扩散语言模型中注意力汇聚不稳定的特点，提出感知汇聚的剪枝方法

利用正交字典学习和闭式Procrustes更新实现训练后Transformer压缩

通过比特平面构造可变量化网格，突破固定网格在2-bit极限压缩下的精度瓶颈

免训练的 LLM 压缩框架，通过单步稀疏字典分解和全局背包优化实现 SOTA 压缩效果