跳到正文
10月8日 · 周四

全部论文

找到 7 篇
筛选1

攻击类型

越狱1提示注入1

模型自身风险

拒答失当1

防御类型

推理时干预1检测与过滤1

影响

有害内容9越权操作27数据与隐私泄露9输出被操纵16可用性与可靠性7监督失效8滥用能力提升4

系统形态

模型与 API3LLM 应用1AI Agent3网页与电脑操作1

攻击面/入口

用户输入1工具返回1

层

模型层3应用层4

系统组件

记忆1护栏与评审1

被测模型厂商

Qwen（阿里）6OpenAI5Meta5其他7
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1065 篇还没打标签，不在筛选结果里。
影响：可用性与可靠性清除全部

另有 1065 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv:2610.03448 ·

    研究重测 15 个提示注入检测器：基准分数难以预测 Agent 部署表现

    重评提示注入检测器，检验基准分数对智能体部署的预测力

    AI Agent测试Horizon-Labs、Wolf Defender、Prismor-1.5B 等 15 个应用层

    摘要论文揭示公开基准无法反映智能体检测器表现，检测能力源于输入格式相似而非通用防御，建议基于工具输出与低误报评测。

    完整解读
  4. 评测与基准arXiv:2609.35312 ·

    MemoReason 基准

    提出 MemoReason 基准，测量参数记忆对上下文推理的影响

    模型与 API测试GPT-OSS-20B、GPT-OSS-120B、OLMo-3-7B-Think 等 9 个模型层
    摘要配对的虚构替换显示熟悉度影响推理，但模型很少直接抄回事实答案。

    MemoReason 用结构相同的事实–虚构文档配对，测量参数记忆如何影响大模型的上下文推理。

    完整解读
  5. 评测与基准arXiv:2608.18066 ·

    Salesforce AI Research 重测自改进 Agent

    重测记忆型自改进智能体，揭示任务顺序和多次运行带来的性能不稳

    网页与电脑操作测试GPT-5-mini、Gemini-2.5-Pro、GPT-OSS-120B 等 4 个应用层
    摘要论文揭示了基于记忆的自改进智能体在多次运行和乱序下的脆弱性，并指出规约不完备是诱发退化的关键瓶颈。

    这篇论文是对基于文本记忆的自我改进智能体在复杂环境中评估可靠性的实证研究。

    完整解读
  6. 评测与基准arXiv:2609.03221 ·

    FairMedAgent：临床 LLM 智能体公平性审计中的随机噪声下限

    用 FairMedAgent 测量临床智能体在输入不变时的动作不稳定性下限

    LLM 应用测试claude-haiku-4-5、claude-sonnet-5、llama3.1:8b-instruct 等 7 个应用层
    摘要先测同一输入下的动作不一致率，再用它解读人口学翻转率。

    FairMedAgent 把临床智能体公平审计里的采样噪声单独量出来：输入不变时动作仍会改变，这个比率就是解读翻转率的下限。。

    完整解读
  7. 评测与基准arXiv:2610.01428 ·

    SAGO：从稳定性而非准确率出发的多维度大模型泛化评测

    提出 SAGO，以语义等价变体上的逐例行为稳定性评测大模型泛化

    模型与 API测试Llama-3.2-3B-Instruct、Llama-3.1-8B-Instruct、Gemma-2B-IT 等 11 个模型层
    摘要SAGO 用多轴逐例稳定性替代聚合准确率，十一个模型都未均匀泛化，且排名会随数据集改变。

    SAGO 把 LLM 泛化改写成同一目标与上下文在语义等价表达下的逐例行为稳定性，而不是单一基准上的聚合准确率。。

    完整解读
已经到底了