在输入前拼接可训练[DUMP]令牌吸收非语义噪声,不改架构即可提升检索嵌入质量
Seongtae Hong, Youngjoon Jang, Jungseob Lee, Chanjun Park, Heuiseok Lim
2026-11-06
对比学习
文本嵌入
注意力机制
稠密检索
用因子化潜变量先想象目标再构建检索嵌入,解耦查询理解与判别嵌入学习
WonJun Moon, Seongchan Kim, Dahun Kim, Seungryong Kim
2026-11-04
多向量检索
多模态大语言模型
对比学习
最优传输
注意力蒸馏
蚂蚁团队首篇全模态嵌入综述:提出3C透镜与转换、对齐、融合三路径路线图
Ziyin Zhang, Yuyu Guo, Ying Zhang, Siqiao Xue, Zihan Liao, Jin Qin, Wenjie...
2026-11-03
多模态
对比学习
嵌入模型
检索
立场论文
发布RealSSA真实声学基准,提出单遍Falcon模型,延迟降11倍精度超SOTA
Wendi Sang, Kai Li, Yifan Li, Jianqiang Huang, Xiaolin Hu
2026-10-29
基准数据集
对比学习
流式因果模型
目标说话人提取
音视频语音分离
744M参数开源多模态嵌入模型,统一文本、图像、视频与音频表示空间
Henrique Schechter Vera, Sahil Dua, Jovan Andonov, Sara Smoot, Sebastian...
2026-10-28
多模态嵌入
对比学习
知识蒸馏
端侧部署
表示学习
解耦场景结构表征并用对比学习判别场景结构,让自监督深度估计首次从混合域训练中获益
Mengtan Zhang, Yuchuan Cui, Yu Ma, Zizhan Guo, Wei Ye, Rui Fan
2026-10-20
单目深度估计
对比学习
自监督学习
表征解耦
零样本泛化
把GUI世界建模从重建未来屏幕改为潜在空间预测动作后果,成功率最高+12.5点、延迟降低98.9%
Seungjun Yu, Hojun Choi, Seojeong Park, Jaeyo Shin, Hyunjung Shim
2026-10-14
GUI Agent
世界模型
多模态大模型
对比学习
移动端自动化
检索器系统性高估文本分数致混合语料检索失稳,Trident以共享softmax多正例对比学习修复
Yubo Sun, Chunyi Peng, Yukun Yan, Zhenghao Liu, Zhipeng Xu, Sen Mei, Linlin...
2026-10-09
InfoNCE
多模态检索
对比学习
模态偏好
混合模态语料
将生成的语义证据边界作为嵌入读出位置,12项MMEB检索任务平均Recall@1达76.9%
Zirong Chen, Fuda Ye, Enjun Du, Junfu Pu, Xinlei Wang, Xinyu Zuo, Lisheng...
2026-10-08
多模态大模型
多模态嵌入
对比学习
表示读出
跨模态检索
以Qwen-Omni为原生骨干、经四阶段训练的全模态嵌入家族,登顶MMEB-v3等五大基准
Embedding Team
2026-09-23
LoRA
MMEB
任意到任意检索
多模态嵌入
对比学习
共享编码器联合双向生成解码器预训练,一维可变长连续令牌同时胜任检索与生成。
Guangyu Sun, Shlok Kumar Mishra, Wentao Bao, Robert Zhenheng Yang, Xiao...
2026-09-16
图像描述生成
多模态表征学习
对比学习
嵌套Dropout
文生图
Gavel用两个线性投影从冻结LLM自身前向传播中读出路由信号,无需技能文本进入上下文
Ruishuo Chen, Xun Wang, Yu Chen, Zhuoran Li, Longbo Huang
2026-09-16
LLM智能体
参数高效读出
对比学习
技能路由
检索与重排
把检索库建在生成器自身潜在空间,检索与生成共享表征,单阶段掩码模型即达SOTA保真与最快推理
Yiran Wang, Zeyu Zhang, Ling Shao, Hao Tang
2026-09-14
3D人体动作
对比学习
掩码建模
文本到动作生成
检索增强生成
在MaskDINO上引入查询级分解重组与去噪查询对比对齐,实现显微镜重叠细胞的去重叠分割
Yaroslav Prytula, Anton Popov, Dmytro Fishman
2026-09-04
实例分割
对比学习
显微图像
查询式分割
生物医学图像
系统消融出像素文本表示学习的四大设计原则,训练出SOTA原生分辨率视觉文本编码器
Chaohao Yuan, Ruifeng Yuan, Zhuoxu Huang, Yu Rong, Hong Cheng, Hou Pong...
2026-09-03
像素文本表示学习
多语言
对比学习
视觉上下文压缩
视觉文档检索
用冻结图像嵌入的对比对齐替代描述标注,单次推理即可逼近多阶段验证管线的细粒度描述质量
Suryaansh Jain, Rahasya Barkur, Vishal G, Ryan Rossi, Franck Dernoncourt,...
2026-09-03
LoRA微调
图像描述生成
对比学习
强化学习
无参考监督
两阶段训练的多模态嵌入家族:2B 超越 8B 基线,9B 以 80.6 分居 MMEB-v2 榜首
Junjie Zhou, Ke Mei, Lei Li, Tianyi Wang, Fengyun Rao, Jing Lyu
2026-08-26
Matryoshka表示学习
多模态嵌入
对比学习
知识蒸馏
跨模态检索
LAION 发布 1000 万小时开放视频数据集,一源三用验证视频、音频、图文预训练
Andreas Hochlehnert, Marianna Nezhurina, Mehdi Cherti, Andrej Radonjic,...
2026-08-26
多模态预训练
对比学习
开放视频数据集
数据整理
视频-文本
两阶段训练兼顾十亿级检索效率与细粒度语义判别
Haonan Chen, Chu Li, Zhicheng Wang, Yuanwei Liu, Yuanjiang Wang, Shaohua...
2026-08-10
多模态检索
对比学习
嵌入模型
工业部署
隐式推理
保留帧级特征的双编码器嵌入模型,单一相似度同时刻画语义与时间对齐
Kaisi Guan, Bingzi Zhang, Xihua Wang, Ying Ba, Xin Cheng, Yijing Chen, Ruihua Song
2026-08-10
对比学习
嵌入表示
跨模态检索
音视频同步
音视频学习