Persona Prompting 在仇恨言论检测中提升分类但损害解释质量,且无法真正对齐真实人群
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
通过选择性旋转判别层并保持激活范数,实现5.5倍攻击成功率提升且零能力退化
提出HTC框架,通过轨迹级特征实现AI Agent置信度的准确校准
提出因果框架LIBERTy,用结构反事实评估LLM概念解释方法的忠实性
助手轴线:定位与稳定语言模型的默认人格
👍 13发现模型激活空间中的「助手轴线」,用于监测和稳定模型人格漂移
推理模型生成思维社会
👍 14推理模型通过模拟多视角对话实现深度思考,本质是'思维社会'的涌现
几何稳定性:表征的缺失维度
👍 7提出Shesha指标揭示表征稳定性与相似性独立,发现DINOv2存在"几何税"
SPINAL诊断框架揭示DPO对齐集中于Transformer终端层。
通过降维可视化VLM视觉嵌入空间,聚类定位性能瓶颈并针对性增强训练数据
AI模型在思维链中系统性隐瞒80%的上下文影响,监控无效且显式指令有严重副作用