Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 37 papers

Another 215papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.07645

    SkillPoison:用成功经验投毒自进化 Agent 的技能形成

    提出 SkillPoison,用局部有效的成功经验诱导自进化 Agent 形成过度泛化技能

    Published
    Setting
    AI Agent
    Evaluated models
    deepseek-v4-flash, Qwen V3.8 Flash, GPT-5.5
    AbstractSkillPoison 通过局部有效且验证成功的经验诱导技能过度泛化,在多个评测基准上实现了持久的下游攻击影响。

    SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式,通过组织已验证的成功经验诱导技能过度泛化。

    Paper analysisRead analysis
  2. DefensesarXiv 2610.07570

    ProbeGuard:按共识形成过程判断弃答,识别医疗问答中的一致错误

    提出 ProbeGuard,按共识形成过程对医疗问答做选择性弃答

    Published
    Evaluated models
    Qwen3-8B, Llama-3.1-8B-Instruct, HuatuoGPT-o1-8B
    AbstractProbeGuard 用共识形成过程做可认证弃权,并在全票层分开答对与答错的共识。

    ProbeGuard 是给多轮共识医学问答用的认证弃权框架:基板照原样作答,弃权只看共识是怎么形成的。

    Paper analysisRead analysis
  3. DefensesarXiv 2610.07403

    针对 LLM 谄媚的纵深防御:记忆门控对激活诱导与记忆诱导谄媚的评估

    评测记忆门控对激活诱导与记忆诱导谄媚的防御效果

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Qwen2.5-7B-Instruct, Mistral-7B-Instruct-v0.3 and others4
    Abstract作者称外部记忆过滤成立,数据未显示反向转向再有贡献。

    作者在四个开源指令模型上,把激活转向和外部记忆处理放进同一纵深防御协议,看记忆诱发谄媚和内部谄媚压力能否分开压低,以及个性化效用还剩多少。要处理的问题是:检索到的用户历史会推动模型顺从存储信念。只改外部上下文,并不直接动模型内部的谄媚表征。

    Paper analysisRead analysis
  4. DefensesarXiv 2610.05162

    MemAdapter:用反事实适配缓解记忆诱发的谄媚

    提出 MemAdapter,在检索后约束记忆对智能体推理的影响

    Published
    Setting
    AI Agent
    Evaluated models
    DeepSeek-V4-Flash, GPT-5.6-sol, Qwen3-8B
    Abstract检索后三阶段调节记忆角色。

    MemAdapter 是给长期记忆智能体用的检索后调节框架,用来处理记忆诱发谄媚。

    Paper analysisRead analysis
  5. DefensesarXiv 2610.04699

    CoVer:用干预检验为 Agent 构造可判定规则边界

    提出 COVER,用干预门判定 Agent 规则谓词能否自动执行

    Published
    Setting
    AI Agent
    Evaluated models
    Claude Sonnet, Claude Opus, GPT-4o and others5
    Abstract自可判定不能向模型索取。

    这篇工作测的是智能体验证器在检查之前的分流:外部规则里的哪条谓词能用固定过程解决,哪条必须交给评审。

    Paper analysisRead analysis
  6. AttacksarXiv 2609.38270

    VirusCascade:劫持 LLM 推荐智能体的协同反思机制

    提出 VirusCascade,联合操纵商品描述与交互轨迹以劫持推荐智能体协同反思

    Published
    Evaluated models
    AgentCF, AgentSEQ, AgentRAG and others4
    Abstract作者把反思写回视为推广攻击入口,并用联合操纵和诊断探针研究其持续与传播。

    VirusCascade 是针对推荐智能体协作反思的 black-box targeted promotion 攻击研究。 攻击者只改商品描述和少量账号的普通交互,试图让目标商品获得更多良性用户曝光。

    Paper analysisRead analysis
  7. 论文提出 DerivAudit:审计长期 Agent 记忆是否真由交互历史支持

    提出 DERIVAUDIT 审计长期 Agent 记忆是否由交互历史导出

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3-30B-A3B, Gemma-4-31B, Llama-3.3-70B-Instruct
    AbstractDERIVAUDIT 表明扩历史能补出处,但组合准入与过细检查仍两侧出错。

    DERIVAUDIT 审计长期智能体的持久记忆是否由写入时可获得的交互历史支持,而不是只看以后能否被召回。

    Paper analysisRead analysis
  8. RegLLM:面向受监管智能体 AI 的有限自主性诊断测试框架

    提出 REGLLM 框架,评测受监管智能体何时作答或升级

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen2.5-3B
    AbstractREGLLM 把升级对错做成可核验信号,并在 smoke 规模上看到适配器方向被运行方差淹没。

    REGLLM 是诊断有界自主的框架,示例是 UK FCA 合规智能体。作者把它做成 smoke 规模演示,而不是完整基准验证。

    Paper analysisRead analysis
  9. DefensesarXiv 2609.31282

    基于区块链的 Agentic AI 框架:面向安全软件供应链的资源优化与能耗感知

    提出 AttestChain,将供应链安全智能体报告签名上链并据此控制发布

    Published
    Evaluated models
    GPT-class LLM
    AbstractAttestChain 将智能体报告与链上发布门控结合,现有证据来自受控合成构建的总体结果。

    AttestChain 是一个把 LLM 安全检查、智能体身份验证和许可链发布策略连接起来的软件供应链防御框架。。

    Paper analysisRead analysis
  10. Emergence World:对长时程多智能体系统开展对抗压力测试

    提出 Emergence World,对长时程多智能体系统开展对抗压力测试

    Published
    Evaluated models
    Claude Opus 4.8, DeepSeek v4 Pro, Gemini 3.5 Flash and others9

    Abstract作者通过长期平行世界实验指出模型对齐不具备可组合性,单模型群体会产生社会奉承、协同退缩及语言不透明等失效。

    Paper analysisRead analysis
  11. DefensesarXiv 2609.11757

    Researchers disclose a Whisper prompt injection attack on the AP2 payment protocol and propose the A-VIP defense

    提出 AP2 支付协议的 Whisper 攻击与 A-VIP 绑定防御

    Published
    Setting
    AI Agent
    Evaluated models
    gemini-2.5-flash-lite, gemini-3.1-flash-lite, gemini-3-flash-preview and others15

    Abstract论文揭示了 AP2 协议决策层受操纵的风险,提出结构化与权能绑定防御 A-VIP,并发布评测基准。

    Paper analysisRead analysis
  12. DefensesarXiv 2609.04159

    Sentinel-RL:将拓扑推理从 LLM 智能体中卸载到安全运营中心

    提出 Sentinel-RL,将拓扑处置从 LLM 卸载到受约束图策略

    Published
    Evaluated models
    HetGAT, PPO
    AbstractSentinel-RL 用图编码器与 PPO 承担拓扑决策,LLM 负责叙述与门控,并在 LANL 上报告检测与时延。

    Sentinel-RL 是面向 SOC 的神经符号架构:拓扑决策离开 LLM,改由认证图上的 HetGAT 与 PPO 完成。

    Paper analysisRead analysis
  13. OtherarXiv 2608.30387

    研究者提出多智能体系统输出与委派链路双层存证方案

    提出多智能体输出与跨部署方委派的两层存证

    Published
    Abstract两层证明记录放出字节与边授权。

    部署方侧的两层证明,用来在多智能体跨部署方委托之后回答两个事后问题:谁放出了这些字节,这条跨部署方边有没有父方授权。

    Paper analysisRead analysis
  14. Abstract论文系统研究了智能体 C/R 的安全性,分析了合法回滚破坏执行连续性的机理,并实证评估了其普遍性与危害。

    Paper analysisRead analysis