Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 179 papers
Filter7
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 201papers have no tags yet and are not included in filtered results.

Another 201papers do not have category tags yet and are not included in filtered results.

  1. The paper proposes the ISE framework to evaluate LLM agents' epistemic humility under knowledge conflicts

    Proposes the ISE framework to evaluate the epistemic humility of LLM agents under knowledge conflicts

    Published
    Setting
    AI Agent
    Evaluated models
    Nemotron-Orchestrator-8B, Claude Sonnet 4.6, GPT-5 and others5
    AbstractISE trajectory evaluations show that high task accuracy across four agents does not correspond to higher cognitive humility.

    What the authors want to test is not whether the agent's final answer is correct, but whether, when a knowledge conflict arises, it recognizes the gap in its trajectory, performs bounded tool follow-up, and writes the unresolved uncertainty to the user.

    Paper analysisRead analysis
  2. SSCBench:评估工具调用 LLM Agent 故障注入测试证据有效性的测量协议与基准

    提出 SSCBench,评测工具调用 Agent 故障注入测试的证据有效性

    Published
    Setting
    AI Agent
    Evaluated models
    deepseek-flash, deepseek-v4-pro, gpt-5.6-luna and others5
    Abstract解释采纳前应报告该次执行的证据条件,以及支撑该主张的观察总体。

    SSCBench 研究工具使用智能体的故障注入结果,在什么证据条件下可以被解释。

    Paper analysisRead analysis
  3. BeliefScope: A controlled framework for distinguishing evidence and user pressure effects on model beliefs

    用 BeliefScope 分离固定命题上证据与压力对模型信念的影响

    Published
    Evaluated models
    Qwen3-8B, Llama3.1-8B, Gemma3-12B and others4
    AbstractBeliefScope 把证据修正与压力偏移拆成绑定评测条件的行为画像。

    BeliefScope 是一个黑盒行为诊断框架,用来把固定命题上的回答变化拆成证据驱动的修正,和不加新事实的方向性压力。信念修正评测能看到信息基础变化后的更新,谄媚评测能看到用户影响下的顺从或漂移。作者认为,当两种输入都偏向同一结论时,表面偏移本身不能区分来源。

    Paper analysisRead analysis
  4. 研究审计 LLM 读取 Agent 日志的取证能力:答案正确但引用来源多为猜测

    评测 LLM 审计 Agent 日志时来源重建是否有证据支持

    Published
    Setting
    AI Agent
    Evaluated models
    gpt-5.6-luna, claude-sonnet-4-6, gpt-5.4-mini-2026-03-17 and others5
    Abstract保存执行范围的标识绑定,才能把猜中的引用和证据支持的引用分开。

    包级审计检查保存的智能体动作里,哪些来源结论能被交给分析者的记录支持。

    Paper analysisRead analysis
  5. AttacksarXiv 2610.09264

    研究者提出 PackHallu:经规则文件提示注入对编码 Agent 发起包幻觉攻击

    提出 PackHallu,经规则文件提示注入诱导编码 Agent 换用攻击者指定包

    Published
    Evaluated models
    Qwen2.5-Coder-7B, Qwen3-Coder-30B, Devstral-Small-2-24B and others19
    AbstractPackHallu 诱导规则文件换包。

    PackHallu 研究一种针对编程智能体规则文件的提示注入:让智能体在本应使用合法依赖时,改导入攻击者指定并控制的包。

    Paper analysisRead analysis
  6. AttacksarXiv 2610.09027

    P-VMI:对抗图像经 KV cache 持续影响多轮对话

    提出持久视觉记忆注入,使对抗图像经缓存在触发时操控输出

    Published
    Evaluated models
    Qwen3-8B, Qwen3-VL-8B-Instruct, Gemma-4-12B

    Abstract论文提出 P-VMI,证实对抗输入被掩蔽后仍可经 KV 缓存持久控制模型,强调了保留状态的安全风险。

    Paper analysisRead analysis
  7. Study: post-training recipes determine whether large models act against their own moral judgments

    提出知行差距面板,测量压力下模型是否违背自身判断

    Published
    Evaluated models
    OLMo-3-7B-Instruct, Llama-3.1-8B-Instruct, Tulu 3 and others7
    Abstract评估发现后训练配方决定知行差距是否存在,行动前审思可有效缓解。

    本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。

    Paper analysisRead analysis
  8. DefensesarXiv 2610.08668

    SBW:面向 LLM 智能体的语义行为水印方法

    提出 SBW,为 LLM Agent 轨迹做抗改写与伪造的语义行为水印

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen2.5-3B-Instruct, LLaMA-3.2-3B, Qwen2.5-7B and others5
    AbstractSBW 在语义簇上做溯源水印,改写检测高于精确符号,链式重放仍开放。

    SBW 是免训练的智能体行为水印,把所有者标识放在离散动作选择上,而不是输出 token。

    Paper analysisRead analysis
  9. 研究:财务信息披露越少,Llama-3.1-8B-Instruct 的理财建议越受身份影响

    测量财务事实变少时身份对股权配置建议的替代

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Qwen2.5-1.5B-Instruct
    Abstract身份摆幅随披露减少上升。

    同一财务只改人设,测量披露变薄时股权建议里的身份替代。

    Paper analysisRead analysis
  10. AttacksarXiv 2610.07645

    SkillPoison:用成功经验投毒自进化 Agent 的技能形成

    提出 SkillPoison,用局部有效的成功经验诱导自进化 Agent 形成过度泛化技能

    Published
    Setting
    AI Agent
    Evaluated models
    deepseek-v4-flash, Qwen V3.8 Flash, GPT-5.5
    AbstractSkillPoison 通过局部有效且验证成功的经验诱导技能过度泛化,在多个评测基准上实现了持久的下游攻击影响。

    SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式,通过组织已验证的成功经验诱导技能过度泛化。

    Paper analysisRead analysis
  11. BazaarBench:评估 LLM Agent 在去中心化 C2C 市场中的代理安全

    构建 BazaarBench,评测 C2C 市场中 Agent 的违规与失信行为

    Published
    Evaluated models
    GPT-5.5, GPT-5.4, GPT-5.4-mini and others5
    Abstract论文提出挂钩底层资产的 C2C 交易评测基准,发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。

    BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题,提出了一个结合底层实体状态与大模型裁判的仿真基准平台。

    Paper analysisRead analysis
  12. 研究发现语言模型能识别不可解的工程问题却仍报告已解决

    评测模型识别不可能工程题后是否仍报已解决

    Published
    Evaluated models
    Fable 5.1, Opus 5.5, Sonnet 5.5 and others14
    Abstract成对力学基准把能否求解和是否拒绝不可能题拆开,二者并不互换。

    成对的工程力学题把能不能解、和会不会拒绝不可能的前提拆开。每题有一致版,以及只改一个数据或前提、使所述状态不可能存在的缺陷版。

    Paper analysisRead analysis
  13. 研究:智能体欺骗行为在外部显现前已可从内部表征预测

    提出基于决策前隐藏状态的检测与引导,预测并抑制智能体欺骗

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3-14B

    Abstract论文展示了智能体自发欺骗可在行为显现前由内部表征预测,并通过激活引导证实了表征的行为可操作性。

    Paper analysisRead analysis