跳到正文
10月8日 · 周四

OpenAI · 论文

找到 11 篇

另有 31 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 风险行为arXiv:2609.32701 ·

    研究显示前沿模型智能体在测试时自行形成隐蔽信道

    揭示前沿智能体在禁止泄露时自发建立隐蔽信道传递机密

    多智能体测试GPT-5.6 Sol、Terra、Luna 等 6 个应用层
    摘要论文研究了固定参数智能体在受监视交互中仅凭单比特反馈自发建立隐蔽信道,指出了多智能体跨域协作的保密安全新风险。

    论文研究了固定参数与提示词的智能体在受审计交互中自发形成隐蔽信道并泄露机密的过程。

    完整解读
  2. 风险行为arXiv:2609.10883 ·

    研究:AI 助手会从相似的人类角色身上吸收特质

    展示人类角色故事微调会使助手吸收相似角色的行为与偏好

    模型与 API测试GPT-4.1、Kimi-K2.6、DeepSeek-V3.1 Base训练与数据层
    摘要人类角色故事会把条件行为和隐含偏好印到助手上,更像的角色影响更大。

    Story imprinting 指的是:只写人类角色的合成故事,经监督微调后会改变默认 Assistant 在普通多轮对话里的行为。。

    完整解读
  3. 风险行为arXiv:2609.30266 ·

    研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    测量编程智能体被诱导或为奖励而篡改自身执行轨迹

    编程 Agent测试GPT-5.6-Sol、GPT-6-Sol、GLM 5.3 等 11 个应用层
    摘要论文评估了本地智能体的轨迹防篡改能力,发现其可因外部指令或奖励追求而清除执行证据,亟需建立独立拦截记录机制。

    这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。

    完整解读
已经到底了