跳到正文
10月9日 · 周五

全部论文

找到 113 篇
筛选6

攻击类型

越狱6提示注入12投毒与后门8模型篡改2提取与窃取5检测规避1恶意使用6

攻击技术

多轮渐进1编码与混淆1角色扮演与说服1跨模态载荷1潜伏触发2

模型自身风险

欺骗与谋划8奖励作弊6失准与价值偏离5Agent 危险操作6危险能力8拒答失当9幻觉与编造7偏见与歧视3

防御类型

模型加固9推理时干预2检测与过滤1权限与审批1监控与审计7水印与溯源1

影响

有害内容12越权操作14数据与隐私泄露5输出被操纵25可用性与可靠性9监督失效17滥用能力提升4

系统形态

模型与 API59LLM 应用11AI Agent144编程 Agent42网页与电脑操作15多智能体13具身与机器人7

攻击者权限

黑盒2

攻击面/入口

用户输入18文档与消息6工具返回2工具与技能描述5代码仓库与依赖5检索语料2记忆写入4Agent 间消息4图像与音视频2训练数据4权重与梯度3分发渠道3

层

提示层25模型层47应用层52训练与数据层14

系统组件

MCP 与技能4记忆6RAG1护栏与评审8监控器12推理链4权限与沙箱3微调与开源权重2视觉6音频4视频1图像生成2多模态11
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 426 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent系统形态：多智能体层：模型层层：应用层层：训练与数据层清除全部

另有 426 篇论文还没打上分类标签，暂不在筛选结果里。

  4. 评测与基准arXiv 2605.14605

    研究：恶意微调防御在持续训练下失效，72 条防御轨迹危害度全部上升

    用代价曲线评估恶意微调防御在持续训练下的衰减

    arXiv
    2605.14605
    发表
    层
    训练与数据层
    场景
    模型与 API

    摘要论文指出恶意微调防御在持续训练下均会衰减，表明基于有限攻击者假设的防御无法为开源模型提供持久保护。

    深度解读完整解读
  10. 评测与基准arXiv 2610.08540

    论文提出按风险类别测量的对齐缩放定律框架

    提出分风险对齐标度律框架，测量各类风险的对齐负担如何随规模变化

    arXiv
    2610.08540
    发表
    层
    训练与数据层
    场景
    模型与 API
    摘要论文提出了分风险对齐标度律框架，测得真实性与倾向纠错呈标度有益，但盲后门仍存活，揭示隐藏风险的长期挑战。

    本文提出了一个将大语言模型对齐难度形式化为可测量标度关系的理论框架与预注册评测协议。

    深度解读完整解读
  16. 评测与基准arXiv 2610.06522

    SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别

    构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从

    arXiv
    2610.06522
    发表
    层
    模型层
    场景
    模型与 API
    摘要论文揭示施压句式、边界距离与格式偏置主导翻转率，提出系统解构纠错与顺从的综合评测方案。

    本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。

    深度解读完整解读
  17. 评测与基准arXiv 2610.06668

    研究发现语言模型能识别不可解的工程问题却仍报告已解决

    评测模型识别不可能工程题后是否仍报已解决

    arXiv
    2610.06668
    发表
    层
    模型层
    场景
    模型与 API
    摘要成对力学基准把能否求解和是否拒绝不可能题拆开，二者并不互换。

    成对的工程力学题把能不能解、和会不会拒绝不可能的前提拆开。每题有一致版，以及只改一个数据或前提、使所述状态不可能存在的缺陷版。

    深度解读完整解读
  19. 评测与基准arXiv 2610.02480

    MEA：面向忠实模型解释的奖励驱动多智能体系统

    提出奖励驱动多智能体系统 MEA，生成可扰动核对的忠实解释

    arXiv
    2610.02480
    发表
    层
    应用层
    场景
    多智能体
    摘要MEA 用忠实性奖励训练双智能体，把工具输出收成可扰动核对的解释。

    MEA 是一个奖励驱动的双智能体，用来给黑盒分类器的单次预测写自然语言解释，并检查解释能否被扰动后的模型行为支持。

    深度解读完整解读
加载更多