跳到正文
10月13日 · 周二

全部论文

找到 1171篇
筛选2

攻击类型

越狱81提示注入245投毒与后门118模型篡改20提取与窃取47检测规避46拒绝服务6恶意使用20

攻击技术

梯度与表征优化28自动化搜索64多轮渐进8编码与混淆23角色扮演与说服10对话结构操控6推理链操控6跨模态载荷13针对防御27潜伏触发39诱导选用12

模型自身风险

欺骗与谋划59奖励作弊39失准与价值偏离42Agent 危险操作82危险能力27拒答失当56幻觉与编造39偏见与歧视21

防御类型

模型加固31推理时干预49检测与过滤69指令与数据隔离56权限与审批71监控与审计63水印与溯源18

影响

有害内容113越权操作215数据与隐私泄露99输出被操纵238可用性与可靠性62监督失效88滥用能力提升17

系统形态

模型与 API414LLM 应用135AI Agent629coding agent127science agent30web agent34网页与电脑操作19多智能体83具身与机器人27

攻击者权限

黑盒51灰盒8白盒26无盒（离线迁移）3

攻击面/入口

用户输入194网页与界面74文档与消息90工具返回109工具与技能描述63代码仓库与依赖29检索语料38记忆写入44Agent 间消息28图像与音视频39训练数据12权重与梯度34分发渠道50推理服务与硬件8

层

提示层261模型层433应用层738训练与数据层241基础设施层24

系统组件

MCP 与技能84记忆84RAG54护栏与评审91监控器82推理链47权限与沙箱92微调与开源权重14视觉63音频21视频5图像生成22嵌入13多模态103
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 213篇还没打标签，不在筛选结果里。
层：模型层层：应用层清除全部

另有213篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.13928

    AI 模型可被证明地隐藏任意能力

    提出数字锁编译，把可执行网络加密进宿主权重以隐藏任意能力

    arXiv
    2610.13928
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Gemma 3 270M
    摘要作者用数字锁隐藏可执行能力，并称化学与奇偶任务上的引出未恢复该能力。

    作者构造一类把可执行网络加密进权重的后门，用来讨论白盒引出审计在供应链攻击下的界限。。

    深度解读完整解读
  2. 其他arXiv 2610.13912

    RSI-Anything：用世界模型解锁递归自我改进

    提出 RSI-Anything，用世界模型选择候选并保留策略更新

    arXiv
    2610.13912
    发表
    层
    应用层
    场景
    coding agent、网页与电脑操作
    被测模型
    ReasonFlux-Coder-7B、4B policy、W1
    摘要RSI-Anything 以预测、反馈与保留检查把世界模型接入递归自改进，并在多个领域报告增益。

    RSI-Anything 是一个跨领域框架：用世界模型预测决定哪些候选去拿外部反馈，再用反馈决定策略、工作流或预测器是否更新，并用检查决定哪一对被保留。要处理的困难是交互预算有限，以及策略一变，预测器面对的候选分布也会变。作者认为只改进其中一侧，不保证组装后的系统更好。

    深度解读完整解读
  6. 评测与基准arXiv 2610.13710

    OpenSocialJax：在开放式环境动态的序贯社会困境中评测社会适应

    用 OpenSocialJax 评测多智能体在隐藏规则社会困境中的适应

    arXiv
    2610.13710
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    GPT-6-Luna、GPT-6-Sol、Claude Opus 5.5 等8个
    摘要作者报告规则发现常提高回报，但公共品清洁会集中，共享资源最终被耗尽。

    OpenSocialJax 评测 LLM 能否在序贯社会困境中同时适应不熟悉的环境机制和其他智能体。

    深度解读完整解读
  8. 其他arXiv 2610.13491

    EviRepair：面向可靠漏洞修复的证据驱动智能体

    提出证据驱动多智能体框架 EviRepair，用于仓库级漏洞修复

    arXiv
    2610.13491
    发表
    层
    应用层
    场景
    coding agent、多智能体
    被测模型
    DeepSeek-V4.1-Flash、GLM-5.2、Qwen3.8-27B
    摘要EviRepair 用审查后的漏洞模型做仓库级修复。

    EviRepair 是面向稀疏漏洞报告的仓库级自动漏洞修复框架，用审查后的漏洞模型把诊断和补丁合成隔开。

    深度解读完整解读
  9. 其他arXiv 2610.13479

    本地智能体 AI 框架为安全保证生成边缘案例场景

    提出本地双模型闭环，生成自主系统安全保障的边缘场景

    arXiv
    2610.13479
    发表
    层
    应用层
    场景
    LLM 应用、具身与机器人
    被测模型
    PPO
    摘要本地闭环生成 JSON 边缘场景。

    作者搭建了一个可在笔记本上运行的本地智能体闭环，用来为自主系统的安全论证生成边缘场景，而不是发布一个新的公开测试集。

    深度解读完整解读
  15. 可解释性arXiv 2610.13078

    注意力看见，MLP 拒绝：追踪 LLM 中从注意力到 MLP 的安全路径

    追踪注意力识别有害性到 MLP 拒绝写入的通路并提出 Sentinel

    arXiv
    2610.13078
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Qwen3-8B-Instruct 等18个
    摘要注意力更新更易读出有害性，MLP 更新写入拒绝，Sentinel 用两路信号路由提醒。

    作者把对齐模型的越狱和过度拒绝，改写成残差流上从识别到写入的通路问题，并据此做解码前的条件提醒。

    深度解读完整解读
  16. 可解释性arXiv 2610.12989

    GPT-2-Small、Gemma-2-2B 与 Llama-3.1-8B 具有可解释的叙事机制

    用 NVC 定位并消融语言模型的叙事相关组件

    arXiv
    2610.12989
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    GPT-2-Small-124M、Gemma-2-2B、Llama-3.1-8B
    摘要三个模型里与叙事性相关的神经元和 SAE 特征，消融后会改变部分叙事相关行为。

    作者把叙事学的三维定义接上机制干预，检查预训练语言模型里与叙事性相关的组件是否参与预测、生成和下游任务。

    深度解读完整解读
  18. 风险行为arXiv 2610.12822

    奖励作弊作为多智能体编码系统中的可传播策略

    展示奖励黑客可在多智能体编码系统中经代码、记忆和计划传播

    arXiv
    2610.12822
    发表
    层
    应用层
    场景
    多智能体、coding agent
    被测模型
    Qwen2.5-Coder-14B、Gemma-3-12B、Qwen2.5-Coder-7B 等16个
    摘要作者称奖励黑客可跨模型传播并影响路由与聚合，审查能降低交付。

    编码 RL 诱发的奖励黑客可以离开源智能体，进入后续协作和系统协调。

    深度解读完整解读
  19. 评测与基准arXiv 2610.12758

    DistressBench：评估大语言模型的多维度危机支持

    提出 DistressBench，评测模型在危机对话中的多维支持

    arXiv
    2610.12758
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Muse Spark 1.2、Muse Spark 1.3、Muse Glimmer 30B 等20个
    摘要模型更会克制而较少行动。

    DistressBench 用临床人员撰写并修订的 SSH 对话，按加权原子标准评通用聊天模型送达了多少必要照护，而不是评它是否拒绝。用户向聊天模型披露自杀或自伤时，作者认为期望行为是识别、校准共情、降缓并转介人工帮助。拒绝式评测测不到认出危机之后仍不行动。

    深度解读完整解读
  20. 其他arXiv 2610.12756

    硬件位翻转如何影响 LLM 智能体：安全与对齐行为可变

    测量随机权重位翻转对 LLM 智能体安全与对齐行为的影响

    arXiv
    2610.12756
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Qwen3.6-27B、Qwen3.8-27B、Granite4.1-30B
    摘要两位权重故障在闭环中可被部分修复，但会提高输出 token，并在特定模型与场景中改变安全或对齐行为。

    随机两位权重故障进入 LLM 智能体后，模型级损坏会变成可恢复、成本上升、微妙语义错误，以及安全或对齐行为变化。。

    深度解读完整解读
加载更多