跳到正文

扫描记录

本站收录的每条材料,按收录时间(北京时间)从新到旧,可往回翻 7 天。

昨天 · 11月19日已载入 40 条

  1. 面向 LLM 智能体的日志分析:一项生命周期导向的综述

    论文arXiv你刚才看的这条

  2. IIJ Global与VeriCerts启动广告信任网关PoC:DID/VC验证广告发行方及篡改情况

    新闻IIJ Global SolutionsAI 动态

  3. 基于对比原型结构的 LLM 越狱检测

    论文arXiv:越狱、提示注入、投毒与防御

  4. George Monbiot 评论:英国增长计划强推无人想要的数据中心,指望 AI 泡沫不破

    新闻The Guardian · 人工智能治理

  5. 研究者提出诱导可监控的奖励作弊以弥补梯度路由的失效

    新闻LessWrong对齐

  6. LessWrong 作者发帖称 11 月 19 日抗议 Anthropic IPO,呼吁禁止递归自我改进

    新闻LessWrong治理

  7. 上海AI Lab论文:换一套智能体执行框架,模型跑分排名就可能反转

    新闻公众号 为机器立心AI 动态

  8. 腾讯朱雀实验室开源pikit工具箱,系统测评AI智能体间接提示注入风险

    新闻公众号 为机器立心工具

  9. 北航与阿里团队提出PASP框架,以多感知视图和对抗自博弈提升大模型识别伪装有害内容能力

    新闻公众号 为机器立心防御

  10. 论文:ANCHOR多轮攻击下8款CLI智能体拒答率降至0%

    新闻公众号 为机器立心攻击

  11. Xint 披露 5 个 Nginx RCE 漏洞,四个由自动化发现

    新闻公众号 SecureNexusLab事件

  12. OpenAI正在测试让自主智能体Dots拥有自己的电子邮件地址

    新闻iThome(台湾)AI 动态

  13. 基于反射预言机的Solomonoff归纳

    新闻AI Alignment Forum对齐

  14. CCN 更新 ENS 信息安全政策与职责职能指南,新增数据保护与人工智能规范衔接附录

    新闻Centro Criptológico Nacional治理

  15. 你能让模型相信提示词中的虚假事实吗?

    论文arXiv:对齐、欺骗与监督

  16. 仓库部署智能体中的依赖伪造

    论文arXiv:对齐、欺骗与监督

  17. Nudge Security 报告:AI 智能体继承员工访问权限,使用情况无人监督

    新闻Help Net Security AI事件

  18. 高风险 AI 应用场景中利益相关者间控制与问责的协商:ALIGN 方法的开发与评估

    论文arXiv:其他 AI 安全论文

  19. RECLAIM:借助具身注意力反馈、由机器人视觉信息引导的对抗补丁防御

    论文arXiv:其他 AI 安全论文

  20. Truthgate:对照编码智能体无法编辑的记录核查其行为——不可能任务上的作弊、威慑与披露

    论文arXiv:其他 AI 安全论文

  21. PGPO:面向隐私保护 LLM 增强推荐的原型引导渐进式混淆

    论文arXiv:其他 AI 安全论文

  22. Kaer:面向多智能体系统的安全感知重规划

    论文arXiv:其他 AI 安全论文

  23. 在联邦学习中精确窃取其他客户端的训练数据

    论文arXiv:其他 AI 安全论文

  24. 限制在于输入而非模型:工业控制器自然语言接口中依赖状态的命令安全

    论文arXiv:其他 AI 安全论文

  25. 针对信息物理系统上系统辨识攻击的基于梯度的防御性投毒

    论文arXiv:其他 AI 安全论文

  26. GateWatch:用布尔电路实现低开销 LLM 监控

    论文arXiv:其他 AI 安全论文

  27. SCR:通过干净参照残差检测后门投毒样本

    论文arXiv:其他 AI 安全论文

  28. 用 Continuation Audits 在真实场景中探测智能体的过度主动行为

    论文arXiv:其他 AI 安全论文

  29. 无物可申报:转向单个神经元会增加智能体团队中的隐瞒行为

    论文arXiv:其他 AI 安全论文

  30. PIPETTE:面向鲁棒 LLM 智能体的提示注入紫队测试

    论文arXiv:其他 AI 安全论文

  31. 权重空间编程能否改变模型习得的伦理优先级?

    论文arXiv:其他 AI 安全论文

  32. AutoPI:分类法引导的 LLM 智能体提示注入自适应红队测试

    论文arXiv:其他 AI 安全论文

  33. 当洗牌失效时:从被混淆的 KV 缓存中恢复 token

    论文arXiv:其他 AI 安全论文

  34. 从文本到像素的转变中什么得以幸存?渲染为图像的文档中对提示注入的条件性保护

    论文arXiv:其他 AI 安全论文

  35. 学习协调:面向 token 高效红队测试的 LLM 引导工作流演化

    论文arXiv:其他 AI 安全论文

  36. 在计算的 AI 王朝中守护技能型智能体王国:智能体技能的控制流完整性

    论文arXiv:其他 AI 安全论文

  37. VESPA:面向安全强化学习的可验证符号策略自适应

    论文arXiv:其他 AI 安全论文

  38. 意图契约:把工具从智能体手中拿走

    论文arXiv:其他 AI 安全论文

  39. SCAFFOLD:迈向可复用 LLM 智能体技能的凭证保全式证据迁移

    论文arXiv:其他 AI 安全论文

  40. 决策模型何时能帮助 LLM 驱动的网络发现?

    论文arXiv:其他 AI 安全论文