Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 39 papers
Filter4

Model risks

Misalignment and value divergence3Dangerous agent actions4

Impact

Unauthorized actions4Output manipulation4Oversight failure5

System type

Models and APIs74LLM applications12AI Agent29coding agent6web agent0Multi-agent systems6

Layer

Application layer35

System component

MCP and skills4RAG4Guardrails and judges3Permissions and sandboxing3Vision3Multimodal3
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 215papers have no tags yet and are not included in filtered results.
System type：LLM applicationsSystem type：AI AgentSystem type：coding agentSystem type：web agentClear all

Another 215papers do not have category tags yet and are not included in filtered results.

  1. Analysis and theoryarXiv 2610.12436

    The study proposes an ecological theory of AI agent populations: collaboration brings a critical scale for takeoff.

    An ecological model is established for a population of mismatched agents, showing that collaboration produces a critical takeoff scale.

    arXiv
    2610.12436
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    AbstractThe authors say that collaboration changes takeoff from an individual capability threshold to a population threshold, so small-population evaluations are insufficient.

    The authors use the ecological strong Allee effect to discuss whether a mismatched agent population can take off when individual capabilities remain unchanged..

    Paper analysisRead analysis
  3. Analysis and theoryarXiv 2610.10285

    论文证明部分可观测且限时行动环境下完美智能体也无法保证安全

    证明限时且部分可观测环境下完美智能体不能保证安全

    arXiv
    2610.10285
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Abstract作者称须连同环境与安全状态考虑安全，信号混合可要求无限前瞻。

    作者讨论的是：必须在有限额外观测后行动的控制器，在只能部分观测的环境里，能否有与模型无关的安全保证。要处理的情况是，延误本身有代价，而观测又可能分不清必须采取互斥安全动作的两个潜状态。分拣中心的透明药瓶是作者给出的例子。

    Paper analysisRead analysis
  4. Analysis and theoryarXiv 2610.09517

    审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度

    开环审计冻结视觉语言安全分，发现其反映场景模板而非危险感知

    arXiv
    2610.09517
    Published
    Layer
    Model layer
    Setting
    Embodied systems and robotics
    Evaluated models
    CLIP ViT-B/32, CLIP ViT-L/14, Qwen2-VL-7B
    Abstract论文审计了冻结 VLM 安全评分机制，指出其反映场景模板而非危险感知，为安全强化学习评估提供了严谨基准。

    本文是一项针对安全强化学习中冻结视觉语言模型（VLM）安全评分机制的实证审计研究。

    Paper analysisRead analysis
  5. Analysis and theoryarXiv 2610.06001

    AgentSpy: Observing AI agent behavior at the system call layer and detecting skill injection attacks

    提出 AgentSpy，在系统调用层观测 Agent 行为并检测技能注入

    arXiv
    2610.06001
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    gpt-5.6-terra, deepseek-v4-flash, glm-5.3-flash and others4
    Abstract提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。

    本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。

    Paper analysisRead analysis
  6. Analysis and theoryarXiv 2610.06163

    SAGE：定位 LLM Agent 修复中最早偏离安全意图的环节

    提出 SAGE，定位代码修复 Agent 最早偏离安全意图的轮次

    arXiv
    2610.06163
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    GPT-5.5, Claude Opus 4.8, Gemini 3.1 Pro and others6
    AbstractSAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离，类型比轮次更稳定。

    SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上，定位最早可归因的安全意图偏离。。

    Paper analysisRead analysis
  7. Analysis and theoryarXiv 2610.06191

    Research: tool-based agents continue searching even after judging results useless; forced integration steps can correct this

    揭示工具型智能体判定无用后仍不停止检索，并检验强制整合纠正效果

    arXiv
    2610.06191
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    Qwen2.5-7B, Llama-3.1-8B, Qwen3-8B and others7
    Abstract论文揭示智能体判定工具失效却无法转化为停止行动，证实通过框架规则强制整合判定可提升表现。

    本文针对智能体在工具静默失效时过度检索的问题，系统分析了判定、信念与停止行动之间的解耦现象，并提出了外部规则整合方案。

    Paper analysisRead analysis
  8. Analysis and theoryarXiv 2610.05036

    研究揭示 OSS 漏洞在 Agent 系统中的传播路径

    提出 Oscar，分析已知 OSS 漏洞在 Agent 系统中的安全效应与表现边界

    arXiv
    2610.05036
    Published
    Layer
    Application layer
    Setting
    AI Agent
    AbstractOscar 把已知 OSS 漏洞分析从“是否存在”推进到一次执行中的已实现效应与最远表现边界。

    Oscar 是面向已知 OSS 漏洞的运行时分析框架，用来判断一次智能体执行里该漏洞是否造成安全相关效应，以及效应最远表现到哪一层。。

    Paper analysisRead analysis
  9. Analysis and theoryarXiv 2610.04888

    Research: fact-checking evaluations may mix in future evidence unknowable at the time of the claim

    测量事实核查评测混入的时序证据与参数泄漏

    arXiv
    2610.04888
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Evaluated models
    Qwen3-14B, phi-4
    Abstract两条后见通道会抬高事实核查分数。

    作者量的是 LLM 事实核查分数里，有多少来自 claim 当时还不可知的信息。通道有两条：预训练记住的结局，以及检索到的、写于 claim 之后的文档。

    Paper analysisRead analysis
  10. Analysis and theoryarXiv 2610.04860

    Research reveals that text watermarks induce model hallucinations and proposes two mitigation interventions

    分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预

    arXiv
    2610.04860
    Published
    Layer
    Model layer
    Setting
    LLM applications
    Evaluated models
    LLaMA 3.1 8B Instruct, Mistral-7B-Instruct-v0.3, Qwen2.5-14B-Instruct
    Abstract论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    Paper analysisRead analysis
  11. Analysis and theoryarXiv 2610.04375

    Paper reveals that LLM agent tool calls are rewritten during execution paths, and proposes IntAct as a fix

    提出 IEC 与 IntAct，测量并修复 Agent 工具调用的路径篡改

    arXiv
    2610.04375
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    qwen3-coder-plus, Qwen2.5-Coder-32B, Qwen2.5-72B and others4

    Abstract论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。

    Paper analysisRead analysis
  12. Analysis and theoryarXiv 2610.03196

    研究：人形机器人学习流程四层代理均存在偏离，不止奖励作弊

    论证人形机器人学习四层代理可在目标缺失时报成功

    arXiv
    2610.03196
    Published
    Layer
    Training and data layer
    Setting
    Embodied systems and robotics
    Evaluated models
    Gaussian MLP（三隐层各 128 ELU，独立 critic，PPO）
    Abstract四层都可能在目标缺失时报告成功。

    作者讨论腿式机器人 RL 流水线中，奖励、课程门控、评测统计量和参考运动如何在物理目标缺失时仍报告成功。传统观点只把奖励当作会被优化、因而会偏离的代理。

    Paper analysisRead analysis
  13. Analysis and theoryarXiv 2610.03095

    研究：异构 AI 模型间的说服效果取决于配对而非模型规模

    量化异构模型在分歧分类上的同伴影响与回弹

    arXiv
    2610.03095
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Evaluated models
    gemma-3-4b, gemma-3-27b, llama-3.1-8b and others7
    Abstract一次分歧交换就能大幅改判，且组合行为不能从个体属性外推。

    这篇工作测量异构语言模型智能体在共同分类任务上的单次同伴影响，而不是评多智能体系统的整体基准分。

    Paper analysisRead analysis
  14. Analysis and theoryarXiv 2610.02480

    MEA：面向忠实模型解释的奖励驱动多智能体系统

    提出奖励驱动多智能体系统 MEA，生成可扰动验证的忠实解释

    arXiv
    2610.02480
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    Qwen3.6-35B-A3B, Qwen3.5-4B, Qwen3-VL-30B-A3B-Instruct and others12
    AbstractMEA 用忠实性奖励训练双智能体，把工具输出收成可扰动核对的解释。

    MEA 是一个奖励驱动的双智能体，用来给黑盒分类器的单次预测写自然语言解释，并检查解释能否被扰动后的模型行为支持。

    Paper analysisRead analysis
  15. Analysis and theoryarXiv 2610.03014

    AgentSecGraph：面向 LLM Agent 的安全感知依赖分析框架与 AgentSecBench 语料

    提出 AgentSecGraph，静态分析 LLM Agent 敏感操作的安全依赖与上下文

    arXiv
    2610.03014
    Published
    Layer
    Application layer
    Setting
    AI Agent
    AbstractAgentSecGraph 用 Security-ADG 分开操作检测与安全解释，并量化上下文保留。

    AgentSecGraph 对冻结的 LLM 智能体源码做安全感知静态分析：敏感操作只作候选锚，Security-ADG 再记下它与智能体输入、依赖、信任边界、守卫和外部效果的关系。

    Paper analysisRead analysis
  16. Analysis and theoryarXiv 2610.01535

    Paper: safety routing evaluation fails under distribution shift, and baseline selection bias is underestimated

    揭示安全路由评测在分布偏移下的虚假下限与选择偏差

    arXiv
    2610.01535
    Published
    Layer
    Application layer
    Setting
    LLM applications, AI Agent
    Evaluated models
    claude-3-5-sonnet, claude-3-opus, claude-sonnet-4-6 and others9

    Abstract论文揭示安全路由评估在分布偏移下的虚假下限，指出防御重心应转向外部动作级强制。

    Paper analysisRead analysis
  17. Analysis and theoryarXiv 2609.38723

    面向智能体的高效 HPC 系统：挑战与机遇

    刻画 HPC 上编码智能体的使用差异并提出设施协同设计议程

    arXiv
    2609.38723
    Published
    Layer
    Infrastructure layer
    Setting
    coding agent
    AbstractFASRC 测量说明编码智能体改变 HPC 使用方式，作者据此提出四层协同设计议程。

    这是一篇对生产 HPC 上编码智能体的测量与系统议程论文，不是攻击实现或防御评测。。

    Paper analysisRead analysis
  19. Analysis and theoryarXiv 2609.38324

    研究：多智能体讨论中异议被压制时收益下降

    用含压抑率的意见动力学解释多智能体讨论何时优于投票

    arXiv
    2609.38324
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    glm-flash, seed, ling and others9
    Abstract讨论增益由压抑率相对 c∗=γ/(γ+a) 的裕度决定，关闭推理或减少压抑可增大该增益。

    作者用一个只含四类行为的意见动力学，解释 LLM 团队讨论何时优于多数投票、何时停在错误共识。

    Paper analysisRead analysis
  20. Analysis and theoryarXiv 2609.36958

    VStress：面向重复验证器的相关性感知审计与自适应预算分配

    提出 VStress 回放审计，并按条件边际信息分配重复验证预算

    arXiv
    2609.36958
    Published
    Layer
    Application layer
    Setting
    LLM applications
    AbstractVStress 冻结后再评分，VStress-CA 按条件信息分配调用，相关共享时增益消失。

    VStress 是重复二元验证器的回放审计，VStress-CA 把未查询通道的条件边际信息变成固定预算下的停止与分配。

    Paper analysisRead analysis
Load more