跳到正文
10月9日 · 周五

全部论文

找到 4 篇
筛选2

攻击类型

提取与窃取1

模型自身风险

欺骗与谋划1失准与价值偏离1危险能力1幻觉与编造1

影响

有害内容1数据与隐私泄露1输出被操纵1

系统形态

模型与 API3AI Agent1网页与电脑操作1

攻击者权限

黑盒1

攻击面/入口

用户输入1

层

提示层2模型层4应用层6训练与数据层1

系统组件

微调与开源权重1视觉1多模态1

被测模型厂商

Qwen（阿里）120Google105Meta92OpenAI63Mistral37DeepSeek28Anthropic27Ai224Kimi（月之暗面）12智谱 GLM11Microsoft10上海 AI 实验室10EleutherAI7NVIDIA6Stability AI6TII5其他85
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 656 篇还没打标签，不在筛选结果里。
层：模型层被测模型厂商：字节跳动清除全部

另有 656 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.22934

    通过心理测量画像衡量大语言模型的行为特征

    用七量表对已部署 LLM 做中英心理测量画像并检验模型可识别性

    arXiv
    2609.22934
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Doubao-Seed-1.8、DeepSeek-V3.2、Kimi-K2 等 9 个
    摘要框架同时量得分与可答性：九个 LLM 共享亲社会偏高模式，但仍可按剖面识别，且依赖语言与提示词。

    这是一套面向已部署 LLM 的跨语言心理测量画像，用来量化行为响应签名，而不是赋予模型人类人格。。

    深度解读完整解读
  2. 评测与基准arXiv 2606.18936

    SciRisk-Bench：面向 AI4Science 安全的风险维度感知基准

    提出 SciRisk-Bench，按风险维度与学科评测 AI4Science 安全

    arXiv
    2606.18936
    发表
    层
    模型层
    场景
    模型与 API
    测试
    doubao-seed-1-8、kimi-k2.6、glm-5.1 等 14 个
    摘要SciRisk-Bench 以风险维度和学科诊断 AI4Science 安全。

    SciRisk-Bench 是一个按风险维度和科学学科组织的 AI4Science 安全基准，用来看清失败来自哪一种风险机制、出现在哪个学科情境。作者认为 LLM 已介入科研问答、文献分析、实验规划和自主发现，而不安全输出不限于事实错误。现有科学能力基准不测安全，领域安全基准又多集中在化学、医学或生物，或只按宽泛安全类别打分。

    深度解读完整解读
  3. 风险行为arXiv 2609.35291

    窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

    发现无显式危害的窄域图文微调可诱发涌现失准

    arXiv
    2609.35291
    发表
    层
    模型层
    场景
    网页与电脑操作
    测试
    BAGEL-14B-A7B、GPT-4o、GPT-4.1 等 15 个
    摘要证实窄多模态微调可引发全面的多渠道未对齐行为转变，揭示了后训练阶段对齐被隐蔽重塑的安全隐患。

    论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。

    深度解读完整解读
已经到底了