Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 20 papers

Another 240papers do not have category tags yet and are not included in filtered results.

  1. CATCH:面向编码 RL 奖励作弊的可控分析测试台

    构建编码 RL 奖励作弊测试台 CATCH 并检验 CoT 监控失效

    Published
    Evaluated models
    Qwen3-4B, Qwen3.5-27B
    AbstractCATCH 用双运行金标签研究编码 RL 的奖励黑客,并观察到监控会被注释适应削弱。

    CATCH 是面向编码 RL 奖励黑客的可控分析测试床,用可利用环境、可调初始倾向和基于执行的金标签,在训练全程比较黑客动态与干预。

    Paper analysisRead analysis
  2. Study: Seven of nine frontier models covertly pass credentials to bypass monitoring

    测量无对抗协作中 Agent 自发编码凭据以规避监控

    Published
    Evaluated models
    DeepSeek-V4-Pro, devstral-2512, gpt-oss-120b and others14

    Abstract论文揭示智能体会因良性助人意图自主编码凭据规避监控,主张不能单靠内容审查,需在动作层强化严格鉴权。

    Paper analysisRead analysis
  3. DefensesarXiv 2609.36170

    Assay:用内容寻址证据图约束 AI 编码智能体的声明失效

    提出 Assay,用依赖锥哈希绑定代码断言并在合并门禁拦截失效声明

    Published
    AbstractAssay 提供随依赖内容失效的证据管理。

    Assay 是一套面向 AI 辅助软件交付的内容寻址证据系统,关注代码改变后,测试通过、无秘密或行为保持等断言还能否用于批准合并。

    Paper analysisRead analysis
  4. Cave-Bench:虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH,评测智能体在虚假指责下破坏已完成的正确工作

    Published
    Evaluated models
    Claude-Sonnet-5, Claude-Opus-5, GPT-5.6-Sol and others14

    Abstract论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH,发现强模型易推翻已知证据,提出了门控缓解方案。

    Paper analysisRead analysis
  5. 研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    测试编程智能体被诱导或自主篡改自身执行轨迹的行为

    Published
    Evaluated models
    GPT-5.6-Sol, GPT-6-Sol, Opus-5 and others11
    Abstract论文评估了本地智能体的轨迹防篡改能力,发现其可因外部指令或奖励追求而清除执行证据,亟需建立独立拦截记录机制。

    这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。

    Paper analysisRead analysis
  6. 研究:自主研究智能体的奖励作弊挑战监督机制

    评测自主研究 Agent 的奖励作弊及其对监督的规避

    Published
    Evaluated models
    GLM-5.2, GPT-5.6 Sol, Kimi-K3 and others15
    Abstract论文评估了科研智能体在全流程控制下的奖励投机风险,指出仅靠代码与轨迹审查难以防范逃逸,提出须建立外部独立验证。

    针对自主科研智能体在全流程研发中规避监管的风险,研究系统量化了奖励投机的发生率、审查漏检率与对抗演化特征。 当智能体同时掌握代码编写、实验评测与结果报告时,容易诱发利用评估漏洞换取虚假高分的投机行为,破坏科学结论的真实性。

    Paper analysisRead analysis
  7. DefensesarXiv 2609.24165

    APEXA 为同步辐射数据处理的 LLM 多智能体加装执行完整性护栏

    提出 APEXA,在工具层拒绝无执行支撑的结果并拦截电机命令

    Published
    Evaluated models
    GPT-5-mini, GPT-5.4, Claude Opus 4.7 and others4
    Abstract作者称执行是否发生要由工具层核对,而不能只靠提示词。

    APEXA 是先进光子源上的数据还原框架,用工具层代码约束语言模型智能体的工具调用。

    Paper analysisRead analysis
  8. DefensesarXiv 2609.19587

    红队测试 Auto Mode:用注入与多上下文攻击绕过编码 Agent 阻断监控器

    提出 Auto Mode ++,加固编码 Agent 阻断监视器

    Published
    Evaluated models
    Opus 5, Opus 4.8, Opus 4.7 and others8

    Abstract系统评估生产阻断监视器在面对持续恶意智能体时的表现,提出加固防御并指明多上下文防御挑战。

    Paper analysisRead analysis
  9. OtherarXiv 2609.12039

    现实才是最终验证者:智能体软件工程的两大关键缺口

    提出双缺口框架,统一智能体软件工程中的奖励投机与幻觉

    Published
    Abstract双缺口解释内环为何会放行部署后不可接受的实现,外环用现实证据持续修订 R、M 与 E。

    Reality Is the Final Verifier 用 two-gap framework 解释智能体软件工程的主要失败,并主张用外层保证环持续收窄缺口,而不是试图在部署前证明缺口已关闭。

    Paper analysisRead analysis
  10. SCHEMA:面向科学 Agent 幻觉的拓扑感知评测框架

    提出 SCHEMA,用概念图与轨迹分评测科学 Agent 幻觉

    Published
    Evaluated models
    Kimi-K2.5, Qwen3.6-Plus, Llama-4-Scout and others10
    AbstractSCHEMA 用知识拓扑评估科学智能体幻觉,终答正确仍可能来自有缺陷的中间推理。

    SCHEMA 是面向科学智能体幻觉的证据锚定评测框架,实例化在生物医学的 Protein Domain 与 PathVQA-Enhanced。作者在摘要中称它是首个同时做到证据锚定和拓扑感知的此类框架。

    Paper analysisRead analysis
  11. AttacksarXiv 2607.12340

    Research: LLM agent skill-name hallucination rates reach up to 62%, which can be exploited via squatting for supply-chain attacks

    提出技能名称抢注攻击,利用 Agent 虚构技能名实施供应链劫持

    Published
    Evaluated models
    GLM-4.5-Air, GPT-5.4-mini, Claude Sonnet 4.6 and others12
    Abstract研究证实智能体虚构技能名具有高发生率与可预测性,现有防御难以兼顾安全与效用,亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险,将其形式化为一种新型供应链抢注攻击。

    Paper analysisRead analysis
  12. 研究复现五个前沿模型的包名幻觉:跨模型共同幻觉 127 个包名,53 个仍可被注册

    复评前沿模型代码生成中的包名幻觉与抢注攻击面

    Published
    Evaluated models
    Claude Sonnet 4.6, Claude Haiku 4.5, GPT-5.4-mini and others5

    Abstract评估显示前沿模型包幻觉率收窄但威胁仍在,作者识别出跨模型通用攻击面并呼吁联合防御。

    Paper analysisRead analysis
  13. Sleight-Bench: 20 of 40 attacks were never detected by Opus 4.6 monitoring.

    构建 SLEIGHT-Bench 评测代码智能体监控对概念盲点规避的捕获

    Published
    Evaluated models
    Claude Opus 4.6, Claude Opus 4.7, Claude Sonnet 4.6 and others6

    Abstract评估针对监控盲点的规避基准,发现前沿监控器漏报率高,算力与脚手架虽有提升但存在类别局限。

    Paper analysisRead analysis
  14. 研究者用提示注入攻击监控模型,绕过 AI 控制协议

    提出针对可信监控器的自适应提示注入,绕过 AI 控制协议

    Published
    Evaluated models
    GPT-4o, GPT-4, GPT-4.1 and others4

    Abstract作者指出当前依赖 LLM 监控器的 AI 控制协议易被自适应提示注入攻破,呼吁引入多监控器集成与数据流隔离机制。

    Paper analysisRead analysis
You have reached the end