跳到正文
10月8日 · 周四

全部论文

找到 124 篇
筛选

攻击类型

越狱3提示注入2投毒与后门2模型篡改2提取与窃取1检测规避1恶意使用1

模型自身风险

欺骗与谋划3奖励作弊1失准与价值偏离3Agent 危险操作1拒答失当6幻觉与编造1偏见与歧视2

防御类型

模型加固3推理时干预2检测与过滤2指令与数据隔离1权限与审批1监控与审计1

影响

有害内容8越权操作1数据与隐私泄露2输出被操纵6可用性与可靠性1监督失效2

系统形态

模型与 API33LLM 应用3AI Agent5编程 Agent2多智能体1具身与机器人1

攻击面/入口

用户输入5工具与技能描述1图像与音视频1训练数据2权重与梯度2分发渠道2

层

提示层1模型层25应用层5训练与数据层10

系统组件

MCP 与技能1护栏与评审3监控器1推理链6微调与开源权重2视觉1嵌入1多模态1

被测模型厂商

Meta31Qwen（阿里）30Google19Ai214OpenAI13Mistral13DeepSeek6Anthropic5其他19
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1081 篇还没打标签，不在筛选结果里。

另有 757 篇还没有研究类型，暂不在这些分类里。

  1. 分析与理论arXiv:2610.09517 ·

    审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度

    开环审计冻结视觉安全分，发现偏离主要来自场景模板与视角

    具身与机器人测试CLIP ViT-B/32、CLIP ViT-L/14、Qwen2-VL-7B 等 6 个模型层
    摘要论文审计了冻结 VLM 安全评分机制，指出其反映场景模板而非危险感知，为安全强化学习评估提供了严谨基准。

    本文是一项针对安全强化学习中冻结视觉语言模型（VLM）安全评分机制的实证审计研究。

    完整解读
  4. 分析与理论arXiv:2610.10203 ·

    研究者提出模型生物体多目标验证框架并给出训练建议

    提出模型生物多目标验证与合并训练方法以减少能力损伤

    模型与 API测试gemma-2-2b-it、olmo-2-1b、llama-3.1-8b-it 等 8 个训练与数据层
    摘要提出多目标验证框架与模型合并训练法，证明模型真实度直接影响可解释性评测。

    本论文提出了一种针对 AI 安全评测用模型生物（Model Organisms）的多目标训练与验证体系。

    完整解读
  7. 分析与理论arXiv:2610.04375 ·

    论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案

    提出 IEC 协议与 IntAct，定位并修复工具调用执行路径的静默篡改

    编程 Agent测试qwen3-coder-plus、Qwen2.5-Coder-32B、Qwen2.5-72B 等 4 个应用层

    摘要论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。

    完整解读
  9. 分析与理论arXiv:2610.06191 ·

    研究：工具型智能体判断结果无用却仍继续检索，强制整合步骤可纠正

    分析检索智能体判定结果无用后仍不停止检索的整合失败

    AI Agent测试Qwen2.5-7B、Llama-3.1-8B、Qwen3-8B 等 7 个应用层
    摘要论文揭示智能体判定工具失效却无法转化为停止行动，证实通过框架规则强制整合判定可提升表现。

    本文针对智能体在工具静默失效时过度检索的问题，系统分析了判定、信念与停止行动之间的解耦现象，并提出了外部规则整合方案。

    完整解读
  10. 分析与理论arXiv:2610.06001 ·

    AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击

    提出 AgentSpy，在系统调用层观测编程智能体并检测技能注入攻击

    编程 Agent测试gpt-5.6-terra、deepseek-v4-flash、glm-5.3-flash 等 4 个应用层
    摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。

    本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。

    完整解读
  12. 可解释性arXiv:2610.04860 ·

    研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

    揭示检索生成中文本水印诱发事实幻觉的机制并提出 FPTI 与 FPAI 干预

    LLM 应用测试LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct模型层
    摘要论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    完整解读
  14. 可解释性arXiv:2610.04125 ·

    研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

    揭示风险自述与实际行为由近正交表征分别控制

    模型与 API测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、OLMo-3-7B-Instruct 等 4 个模型层
    摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。

    完整解读
  17. 分析与理论arXiv:2610.02886 ·

    研究揭示无触发投毒审计缺口：事实答对不等于决策正确

    揭示无触发虚假训练下事实回答与下游决策的审计差距

    模型与 API测试Qwen2.5-0.5B、Qwen2.5-1.5B、Qwen2.5-3B 等 9 个训练与数据层
    摘要作者发现无触发词虚假训练下事实回答与下游决策存在脱节，直接审计与事实纠错均无法保证决策正确。

    论文是一项针对语言模型在无触发词虚假信息训练下行为表现的实证分析研究。

    完整解读
  19. 可解释性arXiv:2609.14759 ·

    研究：拒答只读取模型道德表征中的伤害切片

    用几何投影与因果交换干预，分析拒绝机制读取的道德表征

    模型与 API测试OLMo-3-7B-Instruct、OLMo-3-7B base、Qwen2.5-7B-Instruct 等 9 个模型层
    摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。

    本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。

    完整解读
加载更多