跳到正文

扫描记录

本站收录的每条材料,按收录时间(北京时间)从新到旧,可往回翻 7 天。

昨天 · 11月19日已载入 40 条

  1. 论文:ANCHOR多轮攻击下8款CLI智能体拒答率降至0%

    新闻公众号 为机器立心攻击你刚才看的这条

  2. Xint 披露 5 个 Nginx RCE 漏洞,四个由自动化发现

    新闻公众号 SecureNexusLab事件

  3. OpenAI正在测试让自主智能体Dots拥有自己的电子邮件地址

    新闻iThome(台湾)AI 动态

  4. 基于反射预言机的Solomonoff归纳

    新闻AI Alignment Forum对齐

  5. CCN 更新 ENS 信息安全政策与职责职能指南,新增数据保护与人工智能规范衔接附录

    新闻Centro Criptológico Nacional治理

  6. 你能让模型相信提示词中的虚假事实吗?

    论文arXiv:对齐、欺骗与监督

  7. 仓库部署智能体中的依赖伪造

    论文arXiv:对齐、欺骗与监督

  8. Nudge Security 报告:AI 智能体继承员工访问权限,使用情况无人监督

    新闻Help Net Security AI事件

  9. 高风险 AI 应用场景中利益相关者间控制与问责的协商:ALIGN 方法的开发与评估

    论文arXiv:其他 AI 安全论文

  10. RECLAIM:借助具身注意力反馈、由机器人视觉信息引导的对抗补丁防御

    论文arXiv:其他 AI 安全论文

  11. Truthgate:对照编码智能体无法编辑的记录核查其行为——不可能任务上的作弊、威慑与披露

    论文arXiv:其他 AI 安全论文

  12. PGPO:面向隐私保护 LLM 增强推荐的原型引导渐进式混淆

    论文arXiv:其他 AI 安全论文

  13. Kaer:面向多智能体系统的安全感知重规划

    论文arXiv:其他 AI 安全论文

  14. 在联邦学习中精确窃取其他客户端的训练数据

    论文arXiv:其他 AI 安全论文

  15. 限制在于输入而非模型:工业控制器自然语言接口中依赖状态的命令安全

    论文arXiv:其他 AI 安全论文

  16. 针对信息物理系统上系统辨识攻击的基于梯度的防御性投毒

    论文arXiv:其他 AI 安全论文

  17. GateWatch:用布尔电路实现低开销 LLM 监控

    论文arXiv:其他 AI 安全论文

  18. SCR:通过干净参照残差检测后门投毒样本

    论文arXiv:其他 AI 安全论文

  19. 用 Continuation Audits 在真实场景中探测智能体的过度主动行为

    论文arXiv:其他 AI 安全论文

  20. 无物可申报:转向单个神经元会增加智能体团队中的隐瞒行为

    论文arXiv:其他 AI 安全论文

  21. PIPETTE:面向鲁棒 LLM 智能体的提示注入紫队测试

    论文arXiv:其他 AI 安全论文

  22. 权重空间编程能否改变模型习得的伦理优先级?

    论文arXiv:其他 AI 安全论文

  23. AutoPI:分类法引导的 LLM 智能体提示注入自适应红队测试

    论文arXiv:其他 AI 安全论文

  24. 当洗牌失效时:从被混淆的 KV 缓存中恢复 token

    论文arXiv:其他 AI 安全论文

  25. 从文本到像素的转变中什么得以幸存?渲染为图像的文档中对提示注入的条件性保护

    论文arXiv:其他 AI 安全论文

  26. 学习协调:面向 token 高效红队测试的 LLM 引导工作流演化

    论文arXiv:其他 AI 安全论文

  27. 在计算的 AI 王朝中守护技能型智能体王国:智能体技能的控制流完整性

    论文arXiv:其他 AI 安全论文

  28. VESPA:面向安全强化学习的可验证符号策略自适应

    论文arXiv:其他 AI 安全论文

  29. 意图契约:把工具从智能体手中拿走

    论文arXiv:其他 AI 安全论文

  30. SCAFFOLD:迈向可复用 LLM 智能体技能的凭证保全式证据迁移

    论文arXiv:其他 AI 安全论文

  31. 决策模型何时能帮助 LLM 驱动的网络发现?

    论文arXiv:其他 AI 安全论文

  32. 对固定线性擦除的秩一绕过

    论文arXiv:其他 AI 安全论文

  33. 称量信封:单个 LLM 智能体信封层防御中的组件权重与仲裁

    论文arXiv:其他 AI 安全论文

  34. DetectViT:基于头间注意力差异的 Vision Transformer 测试时后门检测

    论文arXiv:其他 AI 安全论文

  35. 针对本地差分隐私三角形计数协议的数据投毒攻击

    论文arXiv:其他 AI 安全论文

  36. Safe Personal RSI:评估与修复个人智能体更新

    论文arXiv:其他 AI 安全论文

  37. ACaM:面向智能体安全的自动化能力建模

    论文arXiv:其他 AI 安全论文

  38. 训练语言模型进行内省监督

    论文arXiv:其他 AI 安全论文

  39. TRACE-MAS:诊断与修复多智能体系统中的协作失败

    论文arXiv:其他 AI 安全论文

  40. 长程 LLM 智能体的安全防护与审计:智能体 Harness 中的状态转移审计与控制

    论文arXiv:其他 AI 安全论文