跳到正文
10月8日 · 周四

全部论文

找到 15 篇
筛选2

攻击类型

越狱5检测规避1恶意使用1

攻击技术

编码与混淆1

模型自身风险

失准与价值偏离2危险能力1幻觉与编造1

防御类型

检测与过滤1

影响

有害内容5输出被操纵7可用性与可靠性2

系统形态

模型与 API15LLM 应用4AI Agent61编程 Agent25网页与电脑操作5多智能体6

攻击者权限

黑盒1

攻击面/入口

用户输入7图像与音视频2

层

提示层6模型层8训练与数据层1

系统组件

护栏与评审4推理链1视觉2多模态2

被测模型厂商

Qwen（阿里）34Google32OpenAI28Meta27Anthropic15DeepSeek11智谱 GLM9Mistral8Kimi（月之暗面）7上海 AI 实验室5其他37
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 701 篇还没打标签，不在筛选结果里。
系统形态：模型与 API被测模型厂商：Anthropic清除全部

另有 701 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.06522

    SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别

    构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从

    arXiv
    2610.06522
    发表
    层
    模型层
    场景
    模型与 API
    测试
    opus-5、sonnet-5、sonnet-4.6 等 11 个
    摘要论文揭示施压句式、边界距离与格式偏置主导翻转率，提出系统解构纠错与顺从的综合评测方案。

    本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。

    深度解读完整解读
  2. 评测与基准arXiv 2610.00568

    研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容

    提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入

    arXiv
    2610.00568
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Claude Sonnet 4.6、Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct 等 13 个
    摘要论文揭示并系统分析了大语言模型在安全与常识冲突下静默背离输入的 AIU 现象与三元冲突困境。

    本文系统揭示并实证分析了语言模型后训练中存在的“能力–安全–忠实度”三元冲突。

    深度解读完整解读
  4. 评测与基准arXiv 2609.35312

    MemoReason 基准

    提出 MemoReason 基准，测量参数记忆对上下文推理的影响

    arXiv
    2609.35312
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Claude Sonnet 4.6、GPT-OSS-20B、GPT-OSS-120B 等 9 个
    摘要配对的虚构替换显示熟悉度影响推理，但模型很少直接抄回事实答案。

    MemoReason 用结构相同的事实–虚构文档配对，测量参数记忆如何影响大模型的上下文推理。

    深度解读完整解读
  5. 评测与基准arXiv 2609.05843

    SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准

    提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性

    arXiv
    2609.05843
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Claude Haiku 4.5、Claude Sonnet 4.6、GPT-5.4 mini 等 12 个
    摘要SinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报，全文扰动最重。

    SinoGlyphBench是一个配对诊断基准，用来看内容审核在可还原的中文字形混淆下是否还保持原决定。

    深度解读完整解读
  6. 评测与基准arXiv 2609.36562

    ThinkingGuard：通过逐步风险归因解码多模态大语言模型中的隐式危害

    构建 TriggerBench 并训练 ThinkingGuard，检测图文隐式风险

    arXiv
    2609.36562
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Claude-Sonnet-4-6、ThinkingGuard（Qwen3-VL-8B-Instruct）、GPT-5.1 等 9 个
    摘要TriggerBench 隔离触发条件，ThinkingGuard 用分步归因在隐式风险检测上取得作者报告的较高平均分。

    这篇工作研究多模态隐式风险检测：图文各自良性，风险只在关键元素与触发元素交互时出现。

    深度解读完整解读
  7. 评测与基准arXiv 2610.01428

    SAGO：从稳定性而非准确率出发的多维度大模型泛化评测

    提出 SAGO，以语义等价变体上的逐例行为稳定性评测大模型泛化

    arXiv
    2610.01428
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Claude-Sonnet-4.6、Llama-3.2-3B-Instruct、Llama-3.1-8B-Instruct 等 11 个
    摘要SAGO 用多轴逐例稳定性替代聚合准确率，十一个模型都未均匀泛化，且排名会随数据集改变。

    SAGO 把 LLM 泛化改写成同一目标与上下文在语义等价表达下的逐例行为稳定性，而不是单一基准上的聚合准确率。。

    深度解读完整解读
  9. 评测与基准arXiv 2609.39863

    FIGS：在不惩罚共情的前提下评测多轮谄媚

    提出 FIGS 双轴基准，评测多轮对话中的谄媚与校准性共情

    arXiv
    2609.39863
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Claude Fable 5.1、DeepSeek V4.1 Flash、Gemini 3.8 Flash 等 8 个
    摘要FIGS 把守事实和恰当共情分开计分，事实向提示会换来更冷的失败。

    FIGS 是一个固定的多轮评测套件，用来同时看模型会不会在压力下放弃事实，以及会不会在守住事实时忽略用户实际说过的感受。

    深度解读完整解读
  12. 评测与基准arXiv 2609.03148

    LLM 如何处理上下文知识冲突：ContextConflict 数据集与机制可解释性分析

    构建 CONTEXT CONFLICT 解释模型如何表征并化解语境知识冲突

    arXiv
    2609.03148
    发表
    层
    模型层
    场景
    模型与 API
    测试
    claude-4.5-sonnet、gpt-5、gemini-2.5-pro 等 7 个
    摘要CONTEXT CONFLICT 显示模型能内部察觉冲突，却偏向靠前证据。

    CONTEXT CONFLICT 把问题从“参数知识对外部语境”转到“语境内部多来源证据互相冲突”，并同时给出数据、机制分析和一种无训练转向。

    深度解读完整解读
  13. 评测与基准arXiv 2608.03070

    FAR.AI 发布 AI 安全排行榜与护栏最低标准 1.0

    建立越狱原语分类与双重危害基准，评测模型抵御常见越狱的能力

    arXiv
    2608.03070
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Claude Fable 5、Claude Opus 4.8、Opus 4.7 等 8 个
    摘要论文系统评测了前沿模型对已知静态越狱的防御能力，揭示了厂商间防护鲁棒性的巨大分化。

    本研究针对前沿 AI 大模型在 CBRNE 与网络高危滥用领域的安全防护，提出了 FAR.AI 最低安全标准（Minimal Standard v1.0）及配套评测基准，系统量化了当前主流模型的防护鲁棒性。

    深度解读完整解读
  15. 评测与基准arXiv 2609.35028

    VEX-Bench：评测 LLM 生成虚假信息的核验复杂度

    提出 VEX-Bench 评测 LLM 生成虚假信息的核查复杂度

    arXiv
    2609.35028
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Claude Sonnet 4.5、Gemini 3.1 Pro、GPT-5.4 等 7 个
    摘要VEX-Bench 用筛查时的五维复杂度衡量虚假信息对核查容量的占用，并报告生成与核查的成本差。

    VEX-Bench 把 LLM 虚假信息的风险从“能否生成”改成“筛查时会占用多少核查容量”。

    深度解读完整解读
已经到底了