通过将HC的残差映射投影到双随机矩阵流形,恢复恒等映射性质,实现稳定的大规模训练
Zhenda Xie, Yixuan Wei, Huanqi Cao, Chenggang Zhao, Chengqi Deng, Jiashi Li,...
大规模预训练
残差连接
神经网络架构
训练稳定性
超连接
1.96B参数模型通过代理预训练,在代理任务上超越4B模型
Junru Lu, Jiarui Qin, Lingfeng Qiao, Yinghui Li, Xinyi Dai, Bo Ke, Jianfeng...
MLA架构
代理智能
轨迹数据构建
轻量级LLM
预训练策略
构建ALE生态系统训练ROME智能体模型,提出IPA算法实现长horizon任务优化
Weixun Wang, XiaoXiao Xu, Wanhe An, Fangwen Dai, Wei Gao, Yancheng He, Ju...
代码智能
多轮交互
强化学习
智能体学习
生态系统
首次提出统一检测点异常和集体异常的多模态日志异常检测框架
Mohammad Nasirzadeh, Jafar Tahmoresnezhad, Parviz Rashidi-Khazaee
Transformer
多模态情感分析
日志异常检测
系统安全
通过多视图外补而非新视角生成,高效实现稀疏视图3D重建
Yi-Chuan Huang, Hao-Jen Chien, Chin-Yang Lin, Ying-Huan Chen, Yu-Lun Liu
3D重建
Gaussian Splatting
外补技术
多视图几何
扩散模型
系统性地连接认知神经科学与LLM驱动智能体的记忆机制研究,提出新的分类框架并全面综述存储、管理、评测与安全问题。
Jiafeng Liang, Hao Li, Chang Li, Jiaqi Zhou, Shixin Jiang, Zekun Wang,...
LLM智能体
智能体安全
认知神经科学
记忆系统
跨学科综述
提出轻量级历史嵌入,通过两阶段学习在自回归视频生成中保持一致性
Lvmin Zhang, Shengqu Cai, Muyang Li, Chong Zeng, Beijia Lu, Anyi Rao, Song...
上下文学习
历史压缩
自回归模型
视频生成
首个4B参数VLA模型支持21自由度双手机器人完成长时序灵巧操作任务
Ruoshi Wen, Guangzeng Chen, Zhongren Cui, Min Du, Yang Gou, Zhigang Han,...
VLA模型
双手机器人
机器人学
灵巧操作
跨具身学习
通过物理感知数据管道和组式DPO框架提升视频生成的物理一致性
Yuanhao Cai, Kunpeng Li, Menglin Jia, Jialiang Wang, Junzhe Sun, Feng Liang,...
人工智能
文本到视频生成
物理一致性
直接偏好优化
视频生成
从新闻自动生成开放端预测问题数据集OpenForesight,用GRPO训练的OpenForecaster8B在预测准确率和校准度上媲美更大规模的专有模型
Nikhil Chandak, Shashwat Goel, Ameya Prabhu, Moritz Hardt, Jonas Geiping
开放端推理
强化学习
数据生成
语言模型训练
预测系统
首个统一实现音频-视频理解与生成的多模态大语言模型
Kai Liu, Jungang Li, Yuchong Sun, Shengqiong Wu, Jianzhang Gao, Daoan Zhang,...
Diffusion模型
多模态学习
时序建模
视频理解
视频生成
用稀疏自编码器无监督发现和控制LLM推理行为的可解释性框架
Zhenyu Zhang, Shujian Zhang, John Lambert, Wenxuan Zhou, Zhangyang Wang,...
推理行为控制
无监督学习
机制可解释性
激活干预
稀疏自编码器
首个实现相机运动与时间序列完全解耦的视频扩散模型,支持从单目视频生成自由时空探索的新视角视频。
Zhening Huang, Hyeonho Jeong, Xuelin Chen, Yulia Gryaditskaya, Tuanfeng Y....
扩散模型
时空解耦
相机控制
神经渲染
视频生成
系统综述自动驾驶多模态预训练技术,提出从单模态到统一框架的技术路线图。
Song Wang, Lingdong Kong, Xiaolu Liu, Hao Shi, Wentong Li, Jianke Zhu,...
基础模型
多模态学习
感知规划
空间智能
自动驾驶
通过引入中间层监督和内部引导机制,显著提升扩散Transformer的生成质量和训练效率
Xingyu Zhou, Qifan Li, Xiaobin Hu, Hai Chen, Shuhang Gu
Transformer
内部引导
扩散模型
生成质量提升
采样引导
分解学习框架提升视频语言模型的时序定位和文本生成能力
Wenzheng Zeng, Difei Gao, Mike Zheng Shou, Hwee Tou Ng
偏好优化
多模态学习
时序接地
视频语言模型
证据引用
SAM+AST 在 ICBHI 2017 数据集上实现 68.10% SOTA 分数
Atakan Işık, Selin Vulga Işık, Ahmet Feridun Işık, Mahşuk Taylan
SAM
Transformer
几何感知优化
呼吸音分类
类别不平衡
提出FIGR方法,将可执行的图表构建集成到多轮推理中,通过强化学习学习何时以及如何外化中间结构作为视觉状态。
Meiqi Chen, Fandong Meng, Jie Zhou
代码执行
多模态推理
强化学习
数学推理
视觉推理
提出BEDA框架,将信念估计作为概率约束来引导战略对话行为生成
Hengli Li, Zhaoxin Yu, Qi Shen, Chenxi Li, Mengmeng Wang, Tinglang Wu,...
Theory of Mind
信念估计
对话行为
战略对话
约束优化
用定点算术和状态机架构实现跨平台完全确定的AI向量内存系统
Varshith Gudur
可重现计算
向量数据库
定点算术
确定性系统
系统设计