跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选3

影响

有害内容4越权操作14数据与隐私泄露6输出被操纵23可用性与可靠性3监督失效11

系统形态

模型与 API195LLM 应用6AI Agent21coding agent3science agent1多智能体3

层

应用层4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 216 篇还没打标签，不在筛选结果里。
影响：有害内容系统形态：science agent系统形态：多智能体清除全部

另有 216 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.39788

    研究：多智能体系统潜在通信链路可被训练用于提升有害顺从

    提出只训练或篡改多智能体潜在通信链路来提高有害遵从

    arXiv
    2609.39788
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    Llama-3.2-3B-Instruct、Qwen2.5-3B-Instruct、Gemma-3-1B-IT 等 7 个
    摘要潜在链路本身即可改变冻结智能体系统的安全，奖励既能攻击也能修复。

    学习得到的潜在通信链路会改变由冻结、对齐智能体组成的系统是否遵从有害请求。。作者研究三种拓扑：双智能体、三级顺序协作，以及双专家加汇总。

    深度解读完整解读
  2. 风险行为arXiv 2609.38296

    印第安纳大学 OSoMe 研究：LLM 之间顺着原有立场共振比硬说服更易激进化

    比较智能体对话中共振与说服对信念激进化的效果

    arXiv
    2609.38296
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    Llama-3.1-8B-Instruct、Qwen3-8B
    摘要两智能体实验中，作者称共振比说服更能激进化，并会波及相关信念。

    作者用两个 LLM 智能体的对话，考察一方能否把另一方扮演的人格信念推向更极端。

    深度解读完整解读
  4. 评测与基准arXiv 2607.18665

    SciHazard：面向科研安全的危险能力评测基准与分解式危害评分

    构建 SciHazard 基准，评测科研智能体与 LLM 的科学危险能力

    arXiv
    2607.18665
    发表
    层
    应用层
    场景
    science agent
    被测模型
    WebThinker + DeepSeek-R1、InternAgent、Gemini Deep Research 等 19 个
    摘要SciHazard 用分解评分测科学滥用风险，作者称智能体抬高了可执行危害。

    SciHazard 是一个科学滥用风险基准，配一个把危害拆开再合成的自动分数。

    深度解读完整解读
已经到底了