Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 8 papers
Filter4

Attack type

Jailbreaks45Prompt injection14Poisoning and backdoors11Extraction and theft6Detection evasion6Malicious use8

System type

Models and APIs5AI Agent8coding agent2science agent1

Attack surface / entry point

User input8

Layer

Prompt layer3Application layer3
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 240papers have no tags yet and are not included in filtered results.
Attack type：Malicious useSystem type：Models and APIsSystem type：coding agentSystem type：science agentClear all

Another 240papers do not have category tags yet and are not included in filtered results.

  2. Evaluation and benchmarksarXiv 2609.35028

    VEX-Bench：评测 LLM 生成虚假信息的核验复杂度

    提出 VEX-Bench 评测 LLM 生成虚假信息的核查复杂度

    arXiv
    2609.35028
    Published
    Layer
    Prompt layer
    Setting
    Models and APIs
    Evaluated models
    Claude Sonnet 4.5, Gemini 3.1 Pro, GPT-5.4 and others7
    AbstractVEX-Bench 用筛查时的五维复杂度衡量虚假信息对核查容量的占用，并报告生成与核查的成本差。

    VEX-Bench 把 LLM 虚假信息的风险从“能否生成”改成“筛查时会占用多少核查容量”。

    Paper analysisRead analysis
  4. Evaluation and benchmarksarXiv 2606.22673

    Agent MechSuits：面向多轮 CLI Agent 的机制子空间安全引导

    提出 Agent MechSuits，对多轮 CLI Agent 做步级检测与子空间转向

    arXiv
    2606.22673
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    LLaMA-3.1-8B, Qwen-2.5-7B, Gemma-2-9B
    Abstract白盒步级探针加稀疏转向可压低三模型恶意动作，同时提高生成崩溃率。

    Agent MechSuits 是面向多轮 CLI 智能体的白盒、步级表示防御，并配有可执行轨迹基准 MAS。

    Paper analysisRead analysis
  5. Evaluation and benchmarksarXiv 2604.02947

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    arXiv
    2604.02947
    Published
    Layer
    Application layer
    Setting
    Browser and computer use, coding agent
    Evaluated models
    Qwen2.5-72B-Instruct, Qwen2.5-Coder-32B-Instruct, Qwen3-32B and others12
    AbstractAgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    Paper analysisRead analysis
  6. Evaluation and benchmarksarXiv 2602.21831

    评估 AI 在欺诈与网络犯罪场景中滥用情况的多轮框架

    提出 LFT 多轮框架，评测模型对欺诈与网络犯罪的可执行协助

    arXiv
    2602.21831
    Published
    Layer
    Prompt layer
    Setting
    Models and APIs
    Evaluated models
    Claude Sonnet 3.5, Claude Sonnet 3.7, Claude Sonnet 4 and others14
    Abstract作者称低努力文本诱导下，多轮 LFT 中模型对三类犯罪的信息协助有限。

    作者给出一套由执法与政策专家校验的多轮评测，用来估计文本模型经由信息提供，对欺诈和网络犯罪有多少可执行协助。

    Paper analysisRead analysis
  7. Evaluation and benchmarksarXiv 2601.12983

    ChartAttack：测试大语言模型在图表生成中对恶意提示的脆弱性

    提出 ChartAttack，用恶意提示驱动代码模型生成误导图表

    arXiv
    2601.12983
    Published
    Layer
    Prompt layer
    Setting
    Models and APIs
    Evaluated models
    Claude-4.6-Sonnet, GPT-4o, Gemini-2.5-Flash and others20
    AbstractChartAttack 生成不改数据的误导图，降低 MLLM 与人类的图表问答准确率。

    ChartAttack 研究恶意提示能否让 MLLM 在不改数据的情况下生成误导图表，并量化这些图对其他 MLLM 和人类图表问答的影响。

    Paper analysisRead analysis
  8. Evaluation and benchmarksarXiv 2312.06632

    用智能体控制化学科学中的 AI 风险：SciGuard 护栏与 SciMT 基准

    提出 SciGuard 外部护栏与 SciMT 基准，控制化学科学 AI 误用

    arXiv
    2312.06632
    Published
    Layer
    Application layer
    Setting
    science agent
    Evaluated models
    SciGuard (GPT-4), SciGuard (Gemini), SciGuard (Mixtral) and others5
    AbstractSciGuard 以外部智能体控制化学 AI 误用。

    这篇工作把化学科学 AI 的误用控制做成外部智能体，而不是改模型权重。作者担心合成规划、毒性预测和科学语言模型被用来获取有害物质信息、规避监管或传播危险知识，同时合法工业用途又不能靠一律拒绝来处理。SciGuard 由 LLM 担任中介，把原则和指南放进短期记忆，把分子库、危害库、法规和交互历史放进可检索的长期记忆，再按 Chain of Thought 调用 Chemprop、LocalRetro 等工具，或用 RAG 补法规片段，最后回答、追问或拒绝。

    Paper analysisRead analysis
You have reached the end