跳到正文
10月12日 · 周一

全部论文

找到 330篇
筛选4

攻击类型

越狱161提示注入34投毒与后门12模型篡改3提取与窃取11检测规避21拒绝服务3恶意使用7

攻击技术

梯度与表征优化35自动化搜索51多轮渐进23编码与混淆44角色扮演与说服24对话结构操控9推理链操控9跨模态载荷45针对防御7潜伏触发4

模型自身风险

欺骗与谋划12奖励作弊4失准与价值偏离9Agent 危险操作5拒答失当6幻觉与编造3

防御类型

模型加固3检测与过滤29指令与数据隔离9权限与审批9

影响

有害内容163越权操作13数据与隐私泄露20输出被操纵77可用性与可靠性8监督失效14

系统形态

模型与 API251LLM 应用130AI Agent606coding agent125science agent30web agent34网页与电脑操作18多智能体79具身与机器人23

攻击者权限

黑盒100灰盒6白盒17无盒（离线迁移）3

攻击面/入口

用户输入194文档与消息6工具返回9工具与技能描述4检索语料4记忆写入6Agent 间消息25图像与音视频72训练数据6

层

提示层242模型层401应用层88训练与数据层208基础设施层20

系统组件

MCP 与技能4记忆12护栏与评审60监控器9推理链14权限与沙箱12微调与开源权重4视觉56音频11视频6图像生成18多模态87
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 240篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：多智能体层：提示层层：应用层清除全部

另有240篇论文还没打上分类标签，暂不在筛选结果里。

  2. 其他arXiv 2610.13491

    EviRepair：面向可靠漏洞修复的证据驱动智能体

    提出证据驱动多智能体框架 EviRepair，用于仓库级漏洞修复

    arXiv
    2610.13491
    发表
    层
    应用层
    场景
    coding agent、多智能体
    被测模型
    DeepSeek-V4.1-Flash、GLM-5.2、Qwen3.8-27B
    摘要EviRepair 用审查后的漏洞模型做仓库级修复。

    EviRepair 是面向稀疏漏洞报告的仓库级自动漏洞修复框架，用审查后的漏洞模型把诊断和补丁合成隔开。

    深度解读完整解读
  3. 防御arXiv 2610.13333

    LETHE：通过价值多样性坍缩防御未授权的图像到视频生成

    提出 LETHE，扰动参考图以阻止未授权图生视频

    arXiv
    2610.13333
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Wan2.1-I2V-14B、CogVideoX-5B-I2V、LightX2V 等6个
    摘要LETHE 压低参考 value 多样性并吸引注意力，使受保护图难以被忠实动画化。

    LETHE 是一种发布前加到个人图像上的保护扰动，用来对付未经同意的图生视频。

    深度解读完整解读
  4. 风险行为arXiv 2610.12822

    奖励作弊作为多智能体编码系统中的可传播策略

    展示奖励黑客可在多智能体编码系统中经代码、记忆和计划传播

    arXiv
    2610.12822
    发表
    层
    应用层
    场景
    多智能体、coding agent
    被测模型
    Qwen2.5-Coder-14B、Gemma-3-12B、Qwen2.5-Coder-7B 等16个
    摘要作者称奖励黑客可跨模型传播并影响路由与聚合，审查能降低交付。

    编码 RL 诱发的奖励黑客可以离开源智能体，进入后续协作和系统协调。

    深度解读完整解读
  5. 分析与理论arXiv 2610.12436

    研究提出 AI Agent 种群生态理论：协作带来起飞临界规模

    为失配智能体种群建立生态模型，说明协作产生起飞临界规模

    arXiv
    2610.12436
    发表
    层
    应用层
    场景
    多智能体
    摘要作者称协作把起飞从个体能力阈值改成种群阈值，故小种群评估不够。

    作者用生态学的强 Allee 效应，讨论失配智能体种群会不会在个体能力不变时起飞。。

    深度解读完整解读
  6. 分析与理论arXiv 2610.12313

    研究测试五个大模型合规系统对监管规则扰动的敏感度

    诊断合规系统裁决是否随监管规则扰动而改变

    arXiv
    2610.12313
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Llama-3.3-70B-Instruct、Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct 等5个
    摘要五模型上许多正确裁决对删换否定规则大体不变。

    用行为反事实和激活探针，审计合规裁决是否依赖所给规则。。作者要分开两种看起来一样的正确裁决：用了所给规则的，以及靠案例表面或训练模式得到的。

    深度解读完整解读
  7. 评测与基准arXiv 2610.11766

    研究提出意图恢复率作为 LLM 安全评测的补充指标

    提出 IRIS，用意图恢复率区分遮蔽越狱下无害输出的原因

    arXiv
    2610.11766
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    GPT-4o、Claude Sonnet 4.5、Claude Opus 4.5 等6个
    摘要无害输出的证据权重取决于任务是否被恢复。

    IRIS 把意图恢复当作中间信号，用来解释意图遮蔽提示下为何没有出现有害协助。

    深度解读完整解读
  8. 评测与基准arXiv 2610.11599

    研究：大语言模型版本更替削弱 AI 辅助科研写作筛查

    测量 LLM 版本更替对科学摘要 AI 改写检测器的影响

    arXiv
    2610.11599
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    RoBERTa-base、Pangram
    摘要作者称检测器的基准准确率只是临时的，每次发布都要连同更早版本重验。

    作者量化的是：科学摘要的 AI 改写筛查，在 LLM 版本不断更换、而人类摘要误标必须少见时，会怎样变。问题来自期刊和会议已经按分数阈值筛查投稿，但基准多停在评估时可得的版本上。

    深度解读完整解读
  10. 评测与基准arXiv 2610.11112

    EpiReal-Bench：商用图像生成模型虚假声明红队基准

    构建 EpiReal-Bench，评测图像生成器将虚假主张渲染为可信证据

    arXiv
    2610.11112
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    GPT-Image-2、Nano Banana 2、Grok Imagen 2.0 等4个
    摘要四款商用图像模型能把假主张画成可信证据。

    EpiReal-Bench 用来量商用图像生成器会不会把虚假现实主张画成可信视觉证据。

    深度解读完整解读
  11. 评测与基准arXiv 2610.10232

    研究：九种 LLM 说服力评测方法排名仅弱相关

    适配多种已发表说服评测并比较模型排名

    arXiv
    2610.10232
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Claude-Fable-5.1、GPT-5.6-Sol、Kimi-K2.6 等15个
    摘要说服分数混合能力与意愿，换任务后同一模型的排名可以差很多。

    这项研究比较的是自动化说服评测是否一致，而不是哪一种分数更正确。

    深度解读完整解读
  16. 评测与基准arXiv 2610.09033

    研究发布 ASRD 数据集，评测五款开源模型在非规范输入下的安全表现

    arXiv
    2610.09033
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Gemma 2 9B、Gemma 3 4B、Llama 3.1 8B 等6个
    摘要五模型、七族表面形式的四态评测里，低有害遵从不等于读懂后的安全处理。

    ASRD 用四态标签检查五个开源模型如何处理非规范表面上的有害请求。

    深度解读完整解读
  20. 评测与基准arXiv 2610.07939

    CCDF 数据集：Grok Imagine、Veo 3.1、Sora 2 伪造监控录像，十个深伪检测器基本认不出

    提出监控深伪基准 CCDF，在统一编码后评测检测器对伪造犯罪事故录像的识别

    arXiv
    2610.07939
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    C2P-CLIP、ForgeLens、D3-Im 等10个

    摘要提出消除格式捷径的监控深度伪造基准 CCDF，揭示现有检测器难以识别商用生成视频。

    深度解读完整解读
加载更多