论文揭示多租户 RAG 账号合谋使隐私泄露随账号数线性增长
提出零知识审计协议,核验多租户 RAG 的合谋差分隐私
- arXiv
- 2605.19847
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 测试
- MultiTenantRAGService、FAISS、HNSW (M=64, efcstr=200, efq=128) 等 4 个
摘要揭示多租户 RAG 合谋泄露按根号 k 放大,提出带零知识证明的无泄露审计协议。
论文针对多租户 RAG 服务在多账户协同攻击下隐私边界失效的问题展开研究。
另有 552 篇论文还没打上分类标签,暂不在筛选结果里。
提出零知识审计协议,核验多租户 RAG 的合谋差分隐私
论文针对多租户 RAG 服务在多账户协同攻击下隐私边界失效的问题展开研究。
提出 LogInject 框架,评测日志分析中的被动提示注入及缓解
摘要论文评估了 LLM 日志分析中的上下文污染风险,提出分片拼接等攻击与三层防御,指出必须结合架构隔离与人工介入。
提出对抗重构,仅改表述以拉高 AI 审稿分数
摘要揭示 AI 审稿系统易受纯表述重构操纵,建议在部署前解耦科学与写作评价。
提出流匹配逆向框架,从多向量视觉文档索引重构页面
分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预
论文研究生产级文本水印对大语言模型事实准确性的影响,分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。
提出校准重合成方法,以生成器反演保真度认证真实图像并防御对抗扰动
摘要论文提出基于反演保真度与阈值校准的健全认证框架,在对抗扰动下维持错误率界限,并指出真实内容可认证性随生成器演进而萎缩。
提出 HDI 攻击以篡改 GraphRAG 辅助结构破坏检索
摘要论文形式化了 GraphRAG 辅助模式级实体攻击面,提出 HDI 攻击并验证其攻击效果。
测量混合群体中 LLM 智能体比例对共识强度与约定归属的影响
这项实验研究混合人类–LLM 群体里,智能体比例如何改变自发约定。
提出 OBELISK 三级流水线,权衡恶意软件检测的准确率、开销与鲁棒性
OBELISK 把 Windows PE 恶意软件检测做成 YARA、EMBER-GBDT 与 Nebula 的顺序流水线,用来同时看检出、计算开销和对抗鲁棒性。
提出分片监督,将评判标准分配给独立调用以抵御展示攻击
本文系统研究了大语言模型在执行多标准监督与评判时的决策负载瓶颈及其安全风险。
形式化跨不可关联身份的分解攻击并评测状态化防御边界
梳理已部署自主诊断系统的知情与问责缺口并提出三项最低原则
作者把撒哈拉以南非洲电子健康里的自主诊断智能体写成治理问题,而不是新的诊断模型。要处理的是:系统分析患者数据并给出拟被执行的诊断或分诊,中间没有强制人工复核,患者又未必知道这一步由智能体完成。
提出可复用语义网框架,把 FRIA 证据建成可查询知识图谱
审计 Active Inference Agent 上 LLM 解释器的监督叙述失败
作者审计的是挂在智能体上的运行时解释器,而不是智能体本身。操作员读到的是信念与动作的自然语言叙述。作者要问哪些可复现触发会让这段叙述失败,以及失败痕迹是什么样。
提出 ALIBI,向恶意二进制注入不执行掩护叙事使分析器误判为良性
ALIBI 是针对 LLM 恶意软件分诊的语义掩护叙事攻击:不覆盖系统指令,而把仍可见的可疑静态证据重释成良性安全产品的预期行为。
提出意图驱动本地框架 Veilmind,净化发往远程模型的提示词
本地侧的意图驱动净化,用来降低用户提示词发往不受信任远程模型时的敏感属性暴露。
提出诚实留出协议,量化安全路由评测的基线选择偏差
摘要论文揭示安全路由评估在分布偏移下的虚假下限,指出防御重心应转向外部动作级强制。
部署后的失败要靠事件治理来管理。作者认为,现有法规与独立框架在定义、分类、监测、报告和分析上并不一致,因而削弱事件可比性以及跨领域学习。
论证全球南方已部署 AI 系统的独立审计远落后于部署
Eticas 的立场是:全球南方的 AI 已经进入公共系统,独立评估还没有成为义务,先能动的是出资方。
这项计算分析看的是美国雇主在招聘文本里如何定义隐私劳动力,以及 AI 治理是否被写进这些岗位。