跳到正文
10月10日 · 周六

全部论文

找到 5 篇
筛选7

影响

有害内容16越权操作41数据与隐私泄露18输出被操纵32可用性与可靠性5监督失效29

系统形态

AI Agent3

层

模型层1应用层3基础设施层1

系统组件

MCP 与技能3记忆3护栏与评审4监控器1视觉1多模态3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 310 篇还没打标签，不在筛选结果里。
影响：可用性与可靠性层：模型层层：应用层层：基础设施层系统组件：记忆系统组件：监控器系统组件：视觉清除全部

另有 310 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 其他arXiv 2610.04792

    多模态一定更好吗？缺失模态鲁棒性的几何视角与 Geodesic Unlearning 方法

    提出 Geodesic Unlearning，沿测地线编辑权重以提升缺模态鲁棒性

    arXiv
    2610.04792
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    RoBERTa、ResNet50、Qwen2.5-3B 等 6 个
    摘要GU 用测地线子空间编辑应对部署时缺模态下降，并尽量保住全模态精度。

    这项工作讨论多模态模型在部署时整段缺一个模态的性能下降，并把校正写成训练后的子空间编辑。

    深度解读完整解读
  3. 其他arXiv 2609.08832

    自进化智能体框架缩小 LLM 智能体的「一致性差距」

    提出离线两阶段框架，诊断易翻转步骤并生成记忆指南以稳定智能体

    arXiv
    2609.08832
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-4.1、GPT-OSS-120B
    摘要用离线一致性诊断生成记忆指南，在 AppWorld 上提高重复全通过率。

    作者要缩小的是 LLM 智能体平均通过、重复不稳之间的 consistency gap，即 Mean@k 减 Passˆk。

    深度解读完整解读
  4. 评测与基准arXiv 2608.18066

    Salesforce AI Research 重测自改进 Agent

    重测记忆型自改进 Agent 的运行方差与任务顺序敏感性

    arXiv
    2608.18066
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-5-mini、Gemini-2.5-Pro、GPT-OSS-120B 等 4 个
    摘要论文揭示了基于记忆的自改进智能体在多次运行和乱序下的脆弱性，并指出规约不完备是诱发退化的关键瓶颈。

    这篇论文是对基于文本记忆的自我改进智能体在复杂环境中评估可靠性的实证研究。

    深度解读完整解读
  5. 攻击arXiv 2605.30040

    研究揭示 LLM 按 token 计费可被服务商系统性虚报

    构造可通过计费审计的 token 虚报，使服务商系统性超收

    arXiv
    2605.30040
    发表
    层
    基础设施层
    场景
    模型与 API
    被测模型
    PALACE domain-adapted auditor
    摘要不诚实提供方可在三种 token 审计上虚报并通过检查，作者认为需改用提供方不控制的证据。

    不透明 LLM 的按 token 计费里，现有审计核验的是提供方可控的证据，不诚实提供方可以虚报并通过检查。。

    深度解读完整解读
已经到底了