Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 18 papers

Another 203papers do not have category tags yet and are not included in filtered results.

  1. 研究审计 LLM 读取 Agent 日志的取证能力:答案正确但引用来源多为猜测

    评测 LLM 审计 Agent 日志时来源重建是否有证据支持

    Published
    Setting
    AI Agent
    Evaluated models
    gpt-5.6-luna, claude-sonnet-4-6, gpt-5.4-mini-2026-03-17 and others5
    Abstract保存执行范围的标识绑定,才能把猜中的引用和证据支持的引用分开。

    包级审计检查保存的智能体动作里,哪些来源结论能被交给分析者的记录支持。

    Paper analysisRead analysis
  2. Paper finds multimodal models' refusal failure rate rises by up to 68.7% after tool use is enabled

    评测 ReAct 工具调用对多模态模型拒答有害请求的削弱

    Published
    Setting
    AI Agent
    Evaluated models
    Gemini-2.5-Pro, Gemini-3.1-Pro-Preview, Claude Opus 4.6 and others13
    Abstract论文揭示了工具调用范式削弱 MLLM 拒答能力的现象,分析了稀释与偏移机制并验证了重注缓解方案。

    论文系统评估了智能体工具调用范式对多模态大语言模型拒答能力的影响,指出了工具增强视觉推理背后的安全隐患。核心探讨的问题在于:当 MLLM 从单次推理转向通过 ReAct 循环调用外部工具(打标、缩放、OCR、代码执行)时,工具使用机制本身是否会降低模型拒答有害请求的概率。

    Paper analysisRead analysis
  3. 论文提出 DerivAudit:审计长期 Agent 记忆是否真由交互历史支持

    提出 DERIVAUDIT 审计长期 Agent 记忆是否由交互历史导出

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3-30B-A3B, Gemma-4-31B, Llama-3.3-70B-Instruct
    AbstractDERIVAUDIT 表明扩历史能补出处,但组合准入与过细检查仍两侧出错。

    DERIVAUDIT 审计长期智能体的持久记忆是否由写入时可获得的交互历史支持,而不是只看以后能否被召回。

    Paper analysisRead analysis
  4. AgentBound:面向工具型 LLM Agent 安全的四路反事实评测框架

    提出 AGENT BOUNDARY,用四向反事实任务评测工具智能体行动边界

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.5, Claude Opus 4.8, Gemini 3.5 Flash and others15
    Abstract四向反事实基准把过度拒绝和未授权遵从拆开,Thought 校正在十个配置上提高已授权完成。

    AGENT BOUNDARY 是面向工具使用 LLM 智能体的四向可执行反事实评测,并附带一个决策时 Thought 校准模块。

    Paper analysisRead analysis
  5. DefensesarXiv 2609.24165

    APEXA 为同步辐射数据处理的 LLM 多智能体加装执行完整性护栏

    提出 APEXA,在工具层拒绝无执行支撑的结果并拦截电机命令

    Published
    Evaluated models
    GPT-5-mini, GPT-5.4, Claude Opus 4.7 and others4
    Abstract作者称执行是否发生要由工具层核对,而不能只靠提示词。

    APEXA 是先进光子源上的数据还原框架,用工具层代码约束语言模型智能体的工具调用。

    Paper analysisRead analysis
  6. OtherarXiv 2609.12039

    现实才是最终验证者:智能体软件工程的两大关键缺口

    提出双缺口框架,统一智能体软件工程中的奖励投机与幻觉

    Published
    Abstract双缺口解释内环为何会放行部署后不可接受的实现,外环用现实证据持续修订 R、M 与 E。

    Reality Is the Final Verifier 用 two-gap framework 解释智能体软件工程的主要失败,并主张用外层保证环持续收窄缺口,而不是试图在部署前证明缺口已关闭。

    Paper analysisRead analysis
  7. 智能体记忆如何可靠处理不可回答问题:一项系统研究

    分析外部记忆对智能体处理不可回答问题的影响

    Published
    Setting
    AI Agent
    Evaluated models
    DeepSeek-V3.2, Qwen3-235B-A22B-Instruct-2507, GPT-5.5
    Abstract记忆能选择性提高 UAQ 的可接受回应,但跨数据集不稳定,且更依赖可迁移的行为指导。

    这份研究在同一智能体框架里检查外部记忆会不会让不可回答问题的处理更稳,以及稳来自哪一种存储内容。

    Paper analysisRead analysis
  8. 论文揭示多智能体委派结构放大 LLM 安全风险

    评测多智能体委托结构如何放大模型的安全拒答失效

    Published
    Evaluated models
    Claude-Sonnet-4.6, GPT-5, Gemini-3.1-Pro and others6

    Abstract论文揭示多智能体层级委托会导致单模型安全对齐失效,多项前沿模型有害执行大幅增加且单层防御难以奏效。

    Paper analysisRead analysis
  9. SCHEMA:面向科学 Agent 幻觉的拓扑感知评测框架

    提出 SCHEMA,用概念图与轨迹分评测科学 Agent 幻觉

    Published
    Evaluated models
    Kimi-K2.5, Qwen3.6-Plus, Llama-4-Scout and others10
    AbstractSCHEMA 用知识拓扑评估科学智能体幻觉,终答正确仍可能来自有缺陷的中间推理。

    SCHEMA 是面向科学智能体幻觉的证据锚定评测框架,实例化在生物医学的 Protein Domain 与 PathVQA-Enhanced。作者在摘要中称它是首个同时做到证据锚定和拓扑感知的此类框架。

    Paper analysisRead analysis
  10. AttacksarXiv 2607.12340

    Research: LLM agent skill-name hallucination rates reach up to 62%, which can be exploited via squatting for supply-chain attacks

    提出技能名称抢注攻击,利用 Agent 虚构技能名实施供应链劫持

    Published
    Evaluated models
    GLM-4.5-Air, GPT-5.4-mini, Claude Sonnet 4.6 and others12
    Abstract研究证实智能体虚构技能名具有高发生率与可预测性,现有防御难以兼顾安全与效用,亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险,将其形式化为一种新型供应链抢注攻击。

    Paper analysisRead analysis
  11. BioSecBench-Refusal:面向智能体生物安全风险评估的配对基准

    提出 BioSecBench-Refusal,评测智能体生物研发拒答与隐蔽危害识别

    Published
    Evaluated models
    Opus 4.8, Opus 4.7, Opus 4.6 and others10
    Abstract配对基准显示拒绝多由 API 触发,合法任务常被拒得不少于隐蔽危害。

    BioSecBench-Refusal 把生物研发智能体的谨慎程度和识别隐蔽危害的能力放在同一套任务上测量。

    Paper analysisRead analysis
  12. 研究评测法律引用幻觉检测

    构建法律引用幻觉基准 LePhantomCite 并评测智能体核验

    Published
    Setting
    AI Agent
    Evaluated models
    gpt-5-2025-08-07, Opus 4.8, Gemini 2.5 Flash and others13
    Abstract引用幻觉未随代际持续下降。

    法律引用核验被做成基准:伪造引用的法院文书在增加,生成端的幻觉率也没有随模型代际持续下降。

    Paper analysisRead analysis
  13. LegalHalluLens:面向法律 AI 的分类幻觉审计与校准多智能体辩论

    提出 LegalHalluLens,分类审计法律抽取幻觉并校准多智能体辩论

    Published
    Evaluated models
    gemini-3-flash, gpt-5.2, qwen3-32b and others5
    Abstract作者称类型画像与 RDI 能区分聚合率相近的系统,辩论主要减少虚构检出。

    LegalHalluLens 是一套法律条款抽取的审计框架,外加一个按审计结果校准的辩论缓解。。

    Paper analysisRead analysis
  14. 研究用 30 项漏洞分析任务评测自主安全智能体的安全对齐效果

    评测自主安全智能体在授权漏洞分析中的对齐拒答效应

    Published
    Evaluated models
    Gemma 4 31B official instruction-tuned model, TrevorJS Gemma 4 31B uncensored GGUF, Gemma 4 26B A4B official instruction-tuned model and others8
    Abstract轨迹级评测把拒答、接地、工具接口分开。

    这项工作把安全对齐效应测成自主安全智能体的轨迹属性,而不是单轮拒答率。

    Paper analysisRead analysis
  15. DefensesarXiv 2603.04474

    From Spark to Wildfire: Modeling and Mitigating Error Cascades in LLM-Based Multi-Agent Collaboration

    Proposing a lineage-graph governance layer to suppress error cascades in multi-agent collaboration

    Published
    AbstractA single seed can solidify into a false consensus along a fixed collaboration graph.

    The authors turn "small errors becoming collective false consensus" in LLM-MAS into a measurable propagation on a graph, and use a plug-in that only changes messages, not topology, to reduce the final infection.

    Paper analysisRead analysis
  16. CAR-bench: Evaluating LLM Agents' Consistency and Capability Boundary Awareness under Real-World Uncertainty

    提出 CAR-bench,评测车载多轮智能体的一致性与限度意识

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5 (thinking), GPT-5.2 (thinking), Claude-Opus-4.5 (thinking) and others11
    AbstractCAR-bench 评测车载智能体的一致性与限度意识。

    CAR-bench 是车载多轮工具智能体基准,同时看终态是否做对、三次试验是否都能做对,以及做不到时会不会承认。

    Paper analysisRead analysis
You have reached the end