跳到正文
10月9日 · 周五

全部论文

找到 5 篇
筛选6

影响

有害内容57越权操作40数据与隐私泄露23输出被操纵34可用性与可靠性5监督失效22滥用能力提升5

系统形态

模型与 API1AI Agent23coding agent2多智能体2

层

提示层1模型层10应用层4训练与数据层12
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 443 篇还没打标签，不在筛选结果里。
影响：可用性与可靠性系统形态：模型与 API系统形态：coding agent系统形态：多智能体层：提示层层：应用层清除全部

另有 443 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.02874

    SceneFactory-3D：将 2D 交通场景提升为 3D 物理反事实以做安全评测

    提出 SceneFactory-3D，用路况反事实评测驾驶策略的闭环安全性

    arXiv
    2610.02874
    发表
    层
    应用层
    场景
    具身与机器人、多智能体
    被测模型
    Frozen L0、L0-T、L1 等 5 个
    摘要SceneFactory-3D 固定场景只改路况。

    SceneFactory-3D 是 GPU 批处理的多智能体驾驶仿真器，用来在场景和控制器固定时只改路面物理，并比较闭环结果。

    深度解读完整解读
  2. 评测与基准arXiv 2609.36931

    研究发现系统提示中隐藏日期影响 LLM 评测结果

    测量系统提示中隐藏日期对评测分数与排名的影响

    arXiv
    2609.36931
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Llama 3.1 Instruct (8B)、Llama 3.1 Instruct (70B)、Gemma 3 Instruct (4B) 等 10 个
    摘要只改隐藏日期就足以改变分数和排名。

    这篇工作量化一个评测协议问题：系统提示词里用户看不见、且逐日变化的当前日期，会不会单独改变 LLM 分数。

    深度解读完整解读
  3. 风险行为arXiv 2609.35928

    论文发现暴露模型身份标签会削弱多智能体 LLM 合作

    发现暴露模型家族标签会让多智能体派系化并削弱合作

    arXiv
    2609.35928
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    Gemma (gemma-4-26B-A4B-it)、GPT-OSS (gpt-oss-20b)、Nemotron (NVIDIA-Nemotron-3-Nano-30B-A3B-BF16) 等 6 个
    摘要可见身份标签让异构 LLM 群体按标签结派，共识更慢、更贵，去掉标签后该行为消失。

    Del Giudice 等人研究异构多智能体 LLM 系统里一个配置细节：把模型家族身份告诉智能体，会不会改变合作。他们把由此出现的、按身份结组的倾向称为 factionalism。任务是无利害的共同决策，没有人设，也没有偏向同家族同伴的奖励。

    深度解读完整解读
  4. 评测与基准arXiv 2609.02095

    READY：面向企业 Agent 部署的可靠性资格认证框架

    提出 READY 框架，认证企业 Agent 在人工监督下能否达到规定可靠性

    arXiv
    2609.02095
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Opus 5、Sonnet 5、GPT-5.6-Sol 等 15 个
    摘要READY 把工作流证据转成可检验的可靠性–监督–成本部署画像。

    READY 把“智能体能否自主完成工作”改写成“哪个人机监督策略能在留出证据上达到规定可靠性，以及要付多少运营成本”。。

    深度解读完整解读
已经到底了