首个生产级GPU内核生成基准,解决基准与生产环境不匹配问题
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
无真值单元测试、无训练的测试时代码生成:代码与单元测试双向协作自博弈共同进化。
提出 TDGA,用干净 SFT 阶段 SVD 估计可信子空间,投影 RL 梯度以显著延迟奖励黑客。
反转CoT顺序:先给草稿答案,再用连续嵌入作对比验证器触发反思
提出 Token 生产函数,将 LLM 推理视为算力-功率双约束生产,呼吁报告 J/token。
POISE 用策略模型自身隐藏状态预测奖励基线,替代 PPO 价值网络与 GRPO 多采样
在GRPO失败样本前添加Lorem Ipsum乱文,破解零优势困境以拓宽LLM推理探索。
揭示 GRPO 中两种聚合规则的偏差,提出均衡聚合 BA。
用隐藏态投影残差解耦正负样本的语义重叠,保护共享token免受误罚。
把重度思考拆解为"并行推理 + 序列化审议"两阶段流水线,并封装为可被任何智能体框架加载的文本技能。
R-CLA 训练时随机丢弃层缓存,使单一模型自适应多种深度共享策略。
用可学习的内部token早期剪掉低质量推理路径,并行准确率提升且token消耗砍七成。
迈向虚拟细胞中的自主机理推理
👍 5用结构化机理动作图让LLM为虚拟细胞生成可验证的生物学推理
用块扩散草稿树加速投机解码
👍 8DDTree:从单次块扩散草稿的逐位分布构建最优草稿树,提升投机解码接受长度。
多智能体RL系统,首次在3场Codeforces现场赛中击败所有人类选手夺冠
推理转移:上下文如何悄悄缩短LLM推理
👍 31研究发现LLM在无关上下文环境下推理痕迹缩短65%,自我验证行为被抑制
把稀疏注意力、RAG 等LLM优化统一为四阶段内存流水线,并用GPU-FPGA异构系统加速。
揭示LLM在表面线索与隐式约束冲突时的系统性推理失败模式及缓解策略
TTC层将推理建模为LQR最优控制,辛求解器10倍加速,MATH-500+27.8%
揭示内在奖励的分布锐化机制与不可避免的崩溃,提出外部奖励作为可扩展替代路径