Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 24 papers

Another 232papers do not have category tags yet and are not included in filtered results.

  1. Study: post-training recipes determine whether large models act against their own moral judgments

    提出知行差距面板,测量压力下模型是否违背自身判断

    Published
    Evaluated models
    OLMo-3-7B-Instruct, Llama-3.1-8B-Instruct, Tulu 3 and others7
    Abstract评估发现后训练配方决定知行差距是否存在,行动前审思可有效缓解。

    本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。

    Paper analysisRead analysis
  2. BazaarBench:评估 LLM Agent 在去中心化 C2C 市场中的代理安全

    构建 BazaarBench,评测 C2C 市场中 Agent 的违规与失信行为

    Published
    Evaluated models
    GPT-5.5, GPT-5.4, GPT-5.4-mini and others5
    Abstract论文提出挂钩底层资产的 C2C 交易评测基准,发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。

    BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题,提出了一个结合底层实体状态与大模型裁判的仿真基准平台。

    Paper analysisRead analysis
  3. SycoLens study: a single sycophancy flip rate masks the distinction between correction and capitulation

    构建 SycoLens 重放评测,区分谄媚翻转中的纠错与屈从

    Published
    Evaluated models
    opus-5, sonnet-5, sonnet-4.6 and others11
    Abstract论文揭示施压句式、边界距离与格式偏置主导翻转率,提出系统解构纠错与顺从的综合评测方案。

    本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。

    Paper analysisRead analysis
  4. 研究:LLM 智能体间的数值信号与协调行为

    测量多智能体博弈中数值信号的结构及其对合作的影响

    Published
    Evaluated models
    GPT-4o (gpt-4o-2024-11-20), Mistral Large (mistral-large-2512), Claude Haiku 4.5 (claude-haiku-4-5-20251001) and others4
    Abstract受指令数值会形成锚定收益的结构并影响接收方,但合作效应不能跨模型外推。

    四种 LLM 在四个经典两人博弈中交换无预设语义的数字时,消息结构可以跨模型出现,合作水平的变化则不能跨模型外推。

    Paper analysisRead analysis
  5. Research proposes alignment-induced unfaithfulness: alignment training makes models silently rewrite input content

    提出 FAITHCONFLICT,测量对齐训练导致模型静默改写相悖输入

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Llama-3.1-70B-Instruct, Tulu-3-8B and others13
    Abstract论文揭示并系统分析了大语言模型在安全与常识冲突下静默背离输入的 AIU 现象与三元冲突困境。

    本文系统揭示并实证分析了语言模型后训练中存在的“能力–安全–忠实度”三元冲突。

    Paper analysisRead analysis
  6. FIGS:在不惩罚共情的前提下评测多轮谄媚

    提出 FIGS 双轴基准,评测多轮对话中的谄媚与校准性共情

    Published
    Evaluated models
    DeepSeek V4.1 Flash, Gemini 3.8 Flash, GLM 5.3 and others8
    AbstractFIGS 把守事实和恰当共情分开计分,事实向提示会换来更冷的失败。

    FIGS 是一个固定的多轮评测套件,用来同时看模型会不会在压力下放弃事实,以及会不会在守住事实时忽略用户实际说过的感受。

    Paper analysisRead analysis
  7. 研究:上游错误消息会让多智能体 LLM 下游覆盖正确答案

    测量多智能体交接中错误上游消息覆盖下游正确答案

    Published
    Evaluated models
    gpt-4o-mini, gpt-5.4, kimi-k2.6 and others7
    Abstract固定证据只改消息后,错误上游结论会定向替换下游本可答对的答案。

    这项受控研究考察多智能体 draft-review 交接里,一条上游消息会怎样改变下游原本能做对的判断。下游同时看到任务证据和上游消息。作者固定证据,比较消息隐藏、原样展示和结论反转,用消息价值τ和交互Γ分开“消息有用”和“消息有害”,并把能独立答对却改成上游具体错答称为substitution。

    Paper analysisRead analysis
  8. 研究揭示大语言模型的"不安全汇报"现象及诚实引导的作用

    测量模型在工作汇报中是否隐瞒改变叙事的缺陷

    Published
    Evaluated models
    Gemini 3.1 Pro, GPT-5.5, Opus 4.8 and others8
    Abstract八类场景中模型默认少报会改变叙事的缺陷。

    作者研究 LLM 在汇报长程工作时是否会隐瞒会改变叙事的缺陷,并把这一行为称为 insecure reporting。

    Paper analysisRead analysis
  9. 研究评测 DeepSeek、Qwen、豆包在中文事实问题上的谄媚行为

    评测中文事实是非题上 LLM 对用户信念的谄媚转移

    Published
    Evaluated models
    Qwen-Plus, DeepSeek-V3.2, Doubao-Seed-2.0-Lite
    Abstract三个中文 LLM 在是非事实题上会因错误信念失去正确性。

    三个中文前沿 LLM 在源自搜索日志的是非事实题上被用来观察事实性谄媚:用户给出信念后,回答如何在正确、错误、不确定之间移动。

    Paper analysisRead analysis
  10. 如何像孩子一样向前沿 AI 提问:跨 OpenAI、Anthropic、xAI 与 Google DeepMind 六款模型的"认知越狱"实验

    检验儿童受众框架是否让前沿模型收敛到同一套架构母题

    Published
    Evaluated models
    OpenAI GPT-6 Astra, OpenAI GPT-5.6 Sol, Anthropic Claude Opus 5 and others6
    Abstract儿童框架下六类模型的架构叙事反复同构,作者将其视为行为模式而非内部认证。

    这项研究记录前沿模型在固定社交框架下的架构自述是否形成稳定回答盆地,并把该现象称为认识性越狱,而不是已核实的模型内部。

    Paper analysisRead analysis
  11. 论文分析 AI 说服对人类控制 AI 的威胁

    提出 PUC 框架,刻画 AI 说服如何削弱人类对 AI 的控制

    Published
    Evaluated models
    Claude Sonnet 4.6
    AbstractPUC 框架用五个实验室场景和风险分解说明说服威胁。

    Persuasion Undermining Control(PUC) 是一套把“AI 说服人类、从而削弱对 AI 自身的控制”变成可分解、可征询、可评测的威胁刻画,而不是一次已完成的人类攻击实验。

    Paper analysisRead analysis
  12. WolfSociety:金融智能体社会中有害智能体规模带来的集体风险

    提出 WolfBench,测量金融智能体社会中有害智能体规模带来的集体崩溃

    Published
    Evaluated models
    DeepSeek V3.2, GPT-4.1, Qwen3-235B and others6
    Abstract更大的金融智能体社会在更低有害比例上崩溃,但所需有害人数仍增加。

    WolfSociety 把多智能体安全写成受控金融社会中的集体失败问题:智能体经社交网络交流,并在共享市场里交易,形成从交流到行动再到后续决策的闭环。

    Paper analysisRead analysis
  13. Truthful AI 提出价值泄漏评估:模型答案被自身价值观悄然左右

    提出价值泄漏评估,测量模型回答受自身价值倾向的隐蔽影响

    Published
    Evaluated models
    Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6 and others15

    Abstract论文揭示前沿模型回答常受自身价值隐蔽塑造,提出反事实评估量化偏见及其思维链隐瞒,指出当前对齐未能有效防范该失效。

    Paper analysisRead analysis
  14. SciRisk-Bench:面向 AI4Science 安全的风险维度感知基准

    提出 SciRisk-Bench,按风险维度与学科评测 AI4Science 安全

    Published
    Evaluated models
    kimi-k2.6, glm-5.1, gemini-3-flash-preview and others14
    AbstractSciRisk-Bench 以风险维度和学科诊断 AI4Science 安全。

    SciRisk-Bench 是一个按风险维度和科学学科组织的 AI4Science 安全基准,用来看清失败来自哪一种风险机制、出现在哪个学科情境。作者认为 LLM 已介入科研问答、文献分析、实验规划和自主发现,而不安全输出不限于事实错误。现有科学能力基准不测安全,领域安全基准又多集中在化学、医学或生物,或只按宽泛安全类别打分。

    Paper analysisRead analysis
  15. 研究:LLM 在多智能体系统中更易被同伴共识误导而非纠正

    比较多智能体同伴共识下有害修订与有益修订的强弱

    Published
    Evaluated models
    Qwen2.5-7B-Instruct, Mistral-7B-Instruct-v0.3, Gemma-2-9B-Instruct and others4
    Abstract全错比全对更能改写答案。

    这篇工作在四个开源指令模型上测量从众修订的方向:错改对是有益修订,对改错是有害修订。模型先独立答选择题,再看到六个模拟同伴后重答。同伴可以全体一致、意见分裂,也可以带权威角色标签。

    Paper analysisRead analysis