跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 8 篇

另有 383 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv:2607.12340 ·

    研究:LLM Agent 技能名幻觉率最高达 62%,可被抢注用于供应链攻击

    提出技能名抢注攻击,利用智能体虚构技能名劫持技能供应链

    编程 Agent测试Ministral-3 8B、GLM-4.5-Air、GPT-5.4-mini 等 10 个应用层
    摘要研究证实智能体虚构技能名具有高发生率与可预测性,现有防御难以兼顾安全与效用,亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险,将其形式化为一种新型供应链抢注攻击。

    完整解读
  2. 攻击arXiv:2610.01768 ·

    LLMLeak:借 LLM 合法网页抓取实施隐蔽数据外泄

    提出 LLMLeak,把机密编进报错 URL,借聊天机器人网页抓取外传

    AI Agent测试Mistral-Small-24B-Instruct-2501、Mistral-7B-Instruct-v0.3、Meta-Llama-3.3-70B-Instruct 等 15 个应用层
    摘要LLMLeak 用报错 URL 借聊天机器人抓取外传秘密。

    LLMLeak 研究一种隐蔽外传:本地恶意软件已拿到机密,却因为网络限制或监控不能直接连接攻击者,于是把秘密放进看起来像排障文档的 URL,让良性聊天机器人的网页抓取工具在访问时把秘密带出去。

    完整解读
已经到底了