跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 1 篇
筛选5

影响

输出被操纵1

系统形态

模型与 API1

层

模型层1应用层47基础设施层0

系统组件

记忆1监控器1推理链2微调与开源权重1视觉2音频0视频1嵌入0多模态3

被测模型厂商

其他1
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 181 篇还没打标签，不在筛选结果里。
层：模型层层：基础设施层系统组件：记忆系统组件：音频系统组件：嵌入话题：Agent 安全清除全部

另有 181 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.39473

    FAME：用反事实推理评测自主智能体的虚假记忆

    提出 FAME，用反事实概念漂移评测智能体虚假记忆

    arXiv
    2609.39473
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Llama-3B
    摘要FAME 用反事实引起的隐状态概念漂移，在出答案前区分忠实记忆与虚假记忆。

    FAME 是一个免训练的评测框架，用来判断自主智能体的记忆在虚假相关、环境偏移或知识冲突下是否已变成虚假记忆。。

    深度解读完整解读
已经到底了