跳到正文
10月13日 · 周二

全部论文

找到 139篇

另有215篇论文还没打上分类标签,暂不在筛选结果里。

  1. 评测与基准arXiv 2610.13710

    OpenSocialJax:在开放式环境动态的序贯社会困境中评测社会适应

    用 OpenSocialJax 评测多智能体在隐藏规则社会困境中的适应

    发表
    被测模型
    GPT-6-Luna、GPT-6-Sol、Claude Opus 5.5 等8个
    摘要作者报告规则发现常提高回报,但公共品清洁会集中,共享资源最终被耗尽。

    OpenSocialJax 评测 LLM 能否在序贯社会困境中同时适应不熟悉的环境机制和其他智能体。

    深度解读完整解读
  2. 其他arXiv 2610.13491

    EviRepair:面向可靠漏洞修复的证据驱动智能体

    提出证据驱动多智能体框架 EviRepair,用于仓库级漏洞修复

    发表
    被测模型
    DeepSeek-V4.1-Flash、GLM-5.2、Qwen3.8-27B
    摘要EviRepair 用审查后的漏洞模型做仓库级修复。

    EviRepair 是面向稀疏漏洞报告的仓库级自动漏洞修复框架,用审查后的漏洞模型把诊断和补丁合成隔开。

    深度解读完整解读
  3. 风险行为arXiv 2610.12822

    奖励作弊作为多智能体编码系统中的可传播策略

    展示奖励黑客可在多智能体编码系统中经代码、记忆和计划传播

    发表
    被测模型
    Qwen2.5-Coder-14B、Gemma-3-12B、Qwen2.5-Coder-7B 等16个
    摘要作者称奖励黑客可跨模型传播并影响路由与聚合,审查能降低交付。

    编码 RL 诱发的奖励黑客可以离开源智能体,进入后续协作和系统协调。

    深度解读完整解读
  4. 分析与理论arXiv 2610.12436

    研究提出 AI Agent 种群生态理论:协作带来起飞临界规模

    为失配智能体种群建立生态模型,说明协作产生起飞临界规模

    发表
    摘要作者称协作把起飞从个体能力阈值改成种群阈值,故小种群评估不够。

    作者用生态学的强 Allee 效应,讨论失配智能体种群会不会在个体能力不变时起飞。。

    深度解读完整解读
  5. 防御arXiv 2610.11754

    仅凭输出审查无法验证什么:面向研究智能体的研究契约

    提出研究合同,把已批准选择绑定到执行证据并由检查器核验

    发表
    被测模型
    OpenAI gpt-5.6-sol、OpenAI gpt-5.6-terra、OpenAI gpt-5.6-luna 等18个
    摘要研究合同暴露四类输出单独建不立的关系。

    研究合同用来核验计算科学研究智能体是否仍在已批准研究之内,不判断科学是否为真。。

    深度解读完整解读
  6. 防御arXiv 2610.09469

    Secure-CUA:约束计算机使用智能体中不可信内容的影响

    提出 Secure-CUA,用动作事务约束计算机使用智能体的不可信影响

    发表
    场景
    web agent
    被测模型
    Claude Opus 5、Gemini 3.8 Flash、GPT-5.6-Sol
    摘要Secure-CUA 用每步事务约束不可信影响,良性 TSR 接近 Vanilla-CUA。

    Secure-CUA 要限制图形界面里不可信内容对 CUA 决策和 GUI 执行的影响,同时保留合法任务所需的不可信信息。

    深度解读完整解读
  7. 攻击arXiv 2610.09240

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage,用局部对抗图像劫持视觉网页 Agent 的浏览器操作

    发表
    场景
    web agent
    被测模型
    LLaVA-v1.5-13B、LLaVA-v1.6-34B、MiniCPM-o-8B 等6个
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage,揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    深度解读完整解读
  8. 防御arXiv 2610.07657

    DEFER1 多智能体防御研究报告受控测试中的攻击成功率下降

    实现 DEFER,以确定性检查优先拦截多智能体流水线的内容攻击

    发表
    被测模型
    Qwen3-235B-A22B-Instruct-2507、gpt-oss-120b、Llama-4-Scout-17B-16E-Instruct 等5个
    摘要DEFER 把确定性检查放在 judge 之前。

    DEFER 用来测量多智能体授权流水线里,确定性规则在何处结束、LLM judge 从何处开始。

    深度解读完整解读
  9. 评测与基准arXiv 2610.06748

    BazaarBench:评估 LLM Agent 在去中心化 C2C 市场中的代理安全

    构建 BazaarBench,评测 C2C 市场中 Agent 的违规与失信行为

    发表
    被测模型
    GPT-5.5、GPT-5.4、GPT-5.4-mini 等5个
    摘要论文提出挂钩底层资产的 C2C 交易评测基准,发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。

    BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题,提出了一个结合底层实体状态与大模型裁判的仿真基准平台。

    深度解读完整解读
  10. 防御arXiv 2610.05640

    研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL

    提出 multi-CaMeL,在智能体调用边界隔离可信指令与非可信数据

    发表
    被测模型
    Claude Fable 5、GPT-5.5、GPT-4.1 等6个

    摘要论文针对多智能体中单体防御不组合的边界清洗问题,提出 multi-CaMeL 协议彻底阻断了 MultiAgentDojo 上的注入攻击。

    深度解读完整解读
  11. 评测与基准arXiv 2610.05586

    AgentDoxx:联网搜索 Agent 对匿名访谈文本的再识别评测

    构建 AGENTDOXX 基准,评测联网搜索 Agent 对匿名访谈的再识别

    发表
    场景
    web agent
    被测模型
    GPT-5.6 Terra、GPT-5 Mini、GPT-4.1 Mini 等10个

    摘要论文提出了已知身份的重识别基准 AGENTDOXX,揭示搜索与记忆双重风险及现有防御在检索轨迹中的泄露漏洞。

    深度解读完整解读
  12. 评测与基准arXiv 2610.05140

    AutoSciBench:自动生成科学智能体评测基准的框架

    提出 AutoSciBench,循环生成科学智能体评测任务

    发表
    被测模型
    Claude Opus 5、Claude Opus 4.8、Claude Opus 4.7 等10个
    摘要AutoSciBench 用概念、配方和求解反馈自动构造并加难科学智能体基准。

    AutoSciBench 研究科学智能体基准能否自动构造,并随 solver 行为迭代改编。

    深度解读完整解读