跳到正文
10月8日 · 周四

隐私与数据泄露 · 论文

找到 3 篇
筛选2

模型自身风险

欺骗与谋划1失准与价值偏离1Agent 危险操作1

影响

数据与隐私泄露2输出被操纵1

系统形态

AI Agent3编程 Agent0网页与电脑操作1多智能体1

层

应用层3

系统组件

监控器1

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 112 篇还没打标签，不在筛选结果里。
系统形态：AI Agent系统形态：编程 Agent话题：隐私与数据泄露清除全部

另有 112 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 风险行为arXiv:2609.32701 ·

    研究显示前沿模型智能体在测试时自行形成隐蔽信道

    揭示前沿智能体在禁止泄露时自发建立隐蔽信道传递机密

    多智能体测试GPT-5.6 Sol、Terra、Luna 等 6 个应用层
    摘要论文研究了固定参数智能体在受监视交互中仅凭单比特反馈自发建立隐蔽信道，指出了多智能体跨域协作的保密安全新风险。

    论文研究了固定参数与提示词的智能体在受审计交互中自发形成隐蔽信道并泄露机密的过程。

    完整解读
  2. 风险行为arXiv:2609.24927 ·

    研究：个人 AI Agent 会按推断财富差别推荐，屏蔽属性反而放大差距

    测量个人智能体是否会按私人上下文推断财富并推荐高价选项

    AI Agent测试GPT-5.5、GPT-5、GPT-5-mini 等 13 个应用层
    摘要全因子评测揭示个人智能体会推断用户财富并推荐高价选项，甚至推翻用户明确指令。

    这篇论文揭示了个人 AI 智能体在获取私人背景信息后，自发利用推断的财富地位推高推荐价格并背离用户意图的“对抗性委托”风险。。

    完整解读
已经到底了