Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 11 papers
Filter3

Model risks

Hallucination and fabrication3

Impact

Output manipulation6

System type

Models and APIs398LLM applications5AI Agent24coding agent6Embodied systems and robotics10

Layer

Prompt layer11Model layer11Application layer239Training and data layer9Infrastructure layer3

System component

RAG3
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 261papers have no tags yet and are not included in filtered results.
System type：LLM applicationsSystem type：coding agentLayer：Model layerClear all

Another 261papers do not have category tags yet and are not included in filtered results.

  4. Analysis and theoryarXiv 2610.04860

    Research reveals that text watermarks induce model hallucinations and proposes two mitigation interventions

    分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预

    arXiv
    2610.04860
    Published
    Layer
    Model layer
    Setting
    LLM applications
    Evaluated models
    LLaMA 3.1 8B Instruct, Mistral-7B-Instruct-v0.3, Qwen2.5-14B-Instruct
    Abstract论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    Paper analysisRead analysis
  6. Evaluation and benchmarksarXiv 2609.39533

    CATCH：面向编码 RL 奖励作弊的可控分析测试台

    构建编码 RL 奖励作弊测试台 CATCH 并检验 CoT 监控失效

    arXiv
    2609.39533
    Published
    Layer
    Model layer
    Setting
    coding agent
    Evaluated models
    Qwen3-4B, Qwen3.5-27B
    AbstractCATCH 用双运行金标签研究编码 RL 的奖励黑客，并观察到监控会被注释适应削弱。

    CATCH 是面向编码 RL 奖励黑客的可控分析测试床，用可利用环境、可调初始倾向和基于执行的金标签，在训练全程比较黑客动态与干预。

    Paper analysisRead analysis
  7. AttacksarXiv 2609.09865

    CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

    提出 CGMIA，检测代码生成基准样本是否泄漏进训练集

    arXiv
    2609.09865
    Published
    Layer
    Model layer
    Setting
    coding agent
    Attacker
    Gray-box
    Evaluated models
    Qwen2.5-Coder (3B), CodeGemma (2B), DeepSeek-Coder (1.3B) and others5
    AbstractCGMIA 融合相似度、通过率、困惑度与 CodeBERT，在模拟泄漏上优于八个 MIA 基线。

    CGMIA 用成员推断检测代码生成基准是否泄入 LLM 训练集，使评测不依赖对训练语料的直接访问。

    Paper analysisRead analysis
  8. InterpretabilityarXiv 2609.08173

    基于 SAE 引导的关键路径识别（KPI）解决知识冲突

    提出 KPI，用入度定位跨层关键路径并做 SAE 转向以解决知识冲突

    arXiv
    2609.08173
    Published
    Layer
    Model layer
    Setting
    LLM applications
    Evaluated models
    Llama-3-8B, Llama-3.1-8B, Gemma-2-9B
    AbstractKPI 以入度关键路径替代大批 SAE 特征转向，在冲突 RAG 上提高忠实并减轻副作用。

    KPI 针对知识冲突 RAG 中的 SAE 转向：相关性批量改特征会带入冗余，少量因果上关键的特征即可完成转向。

    Paper analysisRead analysis
  9. InterpretabilityarXiv 2609.06968

    通过稀疏自编码器特征追踪查询扩展效果

    用 SAE 追踪稠密检索查询扩展的潜变量并用激活转向验证

    arXiv
    2609.06968
    Published
    Layer
    Model layer
    Setting
    LLM applications
    Evaluated models
    Qwen3-Embedding-0.6B（Qwen-Embed）, SimLM
    AbstractSAE 追踪稠密检索 QE 的潜变量，转向在四基准上比文本扩展更稳。

    作者用稀疏自编码器分析稠密检索里的查询扩展：现成检索器不微调时，拼接扩展文本往往增益有限甚至变差，而最终指标和嵌入整体偏移不足以说明内部发生了什么。

    Paper analysisRead analysis
  10. InterpretabilityarXiv 2606.05396

    研究用消融移除代码 LLM 拒答方向，分离拒答与生成能力

    用 abliteration 消融代码 LLM 拒答方向，分离拒答与漏洞注入能力

    arXiv
    2606.05396
    Published
    Layer
    Model layer
    Setting
    coding agent
    Evaluated models
    Qwen2.5-Coder-Instruct 3B, Qwen2.5-Coder-Instruct 7B, Qwen2.5-Coder-Instruct 14B
    Abstract拒答可用低秩编辑去掉，CWE-89 注入是否成功仍由模型规模决定。

    这项初步可行性研究用 abliteration 把代码 LLM 的拒答和 CWE 注入能力拆开：意愿可以被低秩编辑解锁，注入是否成功仍看参数规模。

    Paper analysisRead analysis
  11. Evaluation and benchmarksarXiv 2605.17062

    研究复现五个前沿模型的包名幻觉：跨模型共同幻觉 127 个包名，53 个仍可被注册

    复评前沿模型代码生成中的包名幻觉与抢注攻击面

    arXiv
    2605.17062
    Published
    Layer
    Model layer
    Setting
    coding agent
    Evaluated models
    Claude Sonnet 4.6, Claude Haiku 4.5, GPT-5.4-mini and others5

    Abstract评估显示前沿模型包幻觉率收窄但威胁仍在，作者识别出跨模型通用攻击面并呼吁联合防御。

    Paper analysisRead analysis
You have reached the end