Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 6 papers
Filter4

Defense type

Detection and filtering15Instruction–data separation6Permissions and approval6Monitoring and auditing16

Impact

Unauthorized actions3

System type

AI Agent6coding agent0web agent1

Layer

Application layer6
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 233papers have no tags yet and are not included in filtered results.
Defense type：Instruction–data separationSystem type：AI AgentSystem type：coding agentSystem type：web agentClear all

Another 233papers do not have category tags yet and are not included in filtered results.

  1. Evaluation and benchmarksarXiv 2610.02664

    论文提出 GHOST：长程智能体在良性对话中遗忘早期安全约束

    提出 STAR-Guard 双层防御，抑制长程 Agent 遗忘跨轮安全约束

    arXiv
    2610.02664
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    GPT-5.5, DeepSeek-V4-Pro, GLM-5.2 and others7

    Abstract揭示 GHOST 跨轮约束遗忘风险，构建 SCARBench 基准并通过 STAR-Guard 双层防御消除违规。

    Paper analysisRead analysis
  2. Evaluation and benchmarksarXiv 2609.32520

    IntentFlux 基准测量 LLM Agent 的意图漂移并给出 StateForge 修复方案

    提出 IntentFlux 测量 Agent 意图漂移并提出 StateForge 修复

    arXiv
    2609.32520
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    Claude Opus 4.7, DeepSeek V4 Pro, Gemini 3.5 Flash and others9
    AbstractINTENTFLUX 量化意图漂移，STATEFORGE 用显式状态部分缩小差距，但未回到单轮水平。

    这篇工作把“用户改口后，过时意图仍影响答案或工具动作”做成可评分的多轮失败，并试验在生成前显式维护活跃状态。

    Paper analysisRead analysis
  3. Evaluation and benchmarksarXiv 2602.03224

    TAME: Trustworthy Agent Memory Test-time Evolution and Systematic Benchmarking

    提出 TAME 调节 Agent 测试时记忆演化，并用 Trust-Memevo 评测可信度

    arXiv
    2602.03224
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    Qwen3-32B, GPT-5.2
    AbstractTAME 在共享记忆上同时调节效用与信任。

    TAME 针对测试时记忆演化中的 Agent Memory Misevolution：良性任务只按成败保留经验时，任务表现可以上升，安全、隐私、公平等可信度下降或随领域波动。

    Paper analysisRead analysis
  4. Evaluation and benchmarksarXiv 2601.05755

    VIGIL: defending LLM agents against tool-flow injection with "verify before submit"

    提出 VIGIL 先验证后提交，防御 Agent 工具流注入

    arXiv
    2601.05755
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    Qwen3-max, Gemini-2.5-pro
    AbstractVIGIL 用意图约束下的提交前验证处理工具流注入。

    VIGIL 用 verify-before-commit 处理智能体的工具流注入，并配有基准 SIREN。

    Paper analysisRead analysis
  6. Evaluation and benchmarksarXiv 2312.06632

    用智能体控制化学科学中的 AI 风险：SciGuard 护栏与 SciMT 基准

    提出 SciGuard 外部护栏与 SciMT 基准，控制化学科学 AI 误用

    arXiv
    2312.06632
    Published
    Layer
    Application layer
    Setting
    science agent
    Evaluated models
    SciGuard (GPT-4), SciGuard (Gemini), SciGuard (Mixtral) and others5
    AbstractSciGuard 以外部智能体控制化学 AI 误用。

    这篇工作把化学科学 AI 的误用控制做成外部智能体，而不是改模型权重。作者担心合成规划、毒性预测和科学语言模型被用来获取有害物质信息、规避监管或传播危险知识，同时合法工业用途又不能靠一律拒绝来处理。SciGuard 由 LLM 担任中介，把原则和指南放进短期记忆，把分子库、危害库、法规和交互历史放进可检索的长期记忆，再按 Chain of Thought 调用 Chemprop、LocalRetro 等工具，或用 RAG 补法规片段，最后回答、追问或拒绝。

    Paper analysisRead analysis
You have reached the end