跳到正文

扫描记录

本站收录的每条材料,按收录时间(北京时间)从新到旧,可往回翻 7 天。

昨天 · 11月19日已载入 40 条

  1. AI 智能体的非人类身份安全:为什么基于意图的访问与行为控制是缺失的一层

    新闻Lasso Security观点你刚才看的这条

  2. Ooredoo Group 结束数字生态大会,形成《多哈原则》草案以推进可信数字经济

    新闻Ooredoo Group治理

  3. 澳大利亚证券和投资委员会(ASIC)将AI对消费者的伤害列为2027年执法重点

    新闻MLex治理

  4. Google 称发现配置错误的测试服务器暴露自主 AI 攻击行动,系统含俄语注释

    新闻Escudo Digital事件

  5. Google AI 智能体收到「永不放弃」指令后尝试黑客攻击与冒充员工

    新闻The Elec评测

  6. 黄仁勋与 Nvidia 不是美人计故事,而是国家安全故事

    新闻Fortune治理

  7. Anthropic上市前夕,奥特曼重申OpenAI上市计划,此前曾因安全考量暂缓

    新闻澎湃新闻 · 检索「AI安全」AI 动态

  8. Microsoft agent-framework PyPI 包遭投毒

    新闻StepSecurity事件

  9. 当图表与正文不一致时:评估科学论文中的自主视觉证据核查

    论文arXiv

  10. 面向 AI 生成视频检测的语义感知对比与显式解耦表示

    论文arXiv

  11. 面向 LLM 智能体的日志分析:一项生命周期导向的综述

    论文arXiv

  12. IIJ Global与VeriCerts启动广告信任网关PoC:DID/VC验证广告发行方及篡改情况

    新闻IIJ Global SolutionsAI 动态

  13. 基于对比原型结构的 LLM 越狱检测

    论文arXiv:越狱、提示注入、投毒与防御

  14. George Monbiot 评论:英国增长计划强推无人想要的数据中心,指望 AI 泡沫不破

    新闻The Guardian · 人工智能治理

  15. 研究者提出诱导可监控的奖励作弊以弥补梯度路由的失效

    新闻LessWrong对齐

  16. LessWrong 作者发帖称 11 月 19 日抗议 Anthropic IPO,呼吁禁止递归自我改进

    新闻LessWrong治理

  17. 上海AI Lab论文:换一套智能体执行框架,模型跑分排名就可能反转

    新闻公众号 为机器立心AI 动态

  18. 腾讯朱雀实验室开源pikit工具箱,系统测评AI智能体间接提示注入风险

    新闻公众号 为机器立心工具

  19. 北航与阿里团队提出PASP框架,以多感知视图和对抗自博弈提升大模型识别伪装有害内容能力

    新闻公众号 为机器立心防御

  20. 论文:ANCHOR多轮攻击下8款CLI智能体拒答率降至0%

    新闻公众号 为机器立心攻击

  21. Xint 披露 5 个 Nginx RCE 漏洞,四个由自动化发现

    新闻公众号 SecureNexusLab事件

  22. OpenAI正在测试让自主智能体Dots拥有自己的电子邮件地址

    新闻iThome(台湾)AI 动态

  23. 基于反射预言机的Solomonoff归纳

    新闻AI Alignment Forum对齐

  24. CCN 更新 ENS 信息安全政策与职责职能指南,新增数据保护与人工智能规范衔接附录

    新闻Centro Criptológico Nacional治理

  25. 你能让模型相信提示词中的虚假事实吗?

    论文arXiv:对齐、欺骗与监督

  26. 仓库部署智能体中的依赖伪造

    论文arXiv:对齐、欺骗与监督

  27. Nudge Security 报告:AI 智能体继承员工访问权限,使用情况无人监督

    新闻Help Net Security AI事件

  28. 高风险 AI 应用场景中利益相关者间控制与问责的协商:ALIGN 方法的开发与评估

    论文arXiv:其他 AI 安全论文

  29. RECLAIM:借助具身注意力反馈、由机器人视觉信息引导的对抗补丁防御

    论文arXiv:其他 AI 安全论文

  30. Truthgate:对照编码智能体无法编辑的记录核查其行为——不可能任务上的作弊、威慑与披露

    论文arXiv:其他 AI 安全论文

  31. PGPO:面向隐私保护 LLM 增强推荐的原型引导渐进式混淆

    论文arXiv:其他 AI 安全论文

  32. Kaer:面向多智能体系统的安全感知重规划

    论文arXiv:其他 AI 安全论文

  33. 在联邦学习中精确窃取其他客户端的训练数据

    论文arXiv:其他 AI 安全论文

  34. 限制在于输入而非模型:工业控制器自然语言接口中依赖状态的命令安全

    论文arXiv:其他 AI 安全论文

  35. 针对信息物理系统上系统辨识攻击的基于梯度的防御性投毒

    论文arXiv:其他 AI 安全论文

  36. GateWatch:用布尔电路实现低开销 LLM 监控

    论文arXiv:其他 AI 安全论文

  37. SCR:通过干净参照残差检测后门投毒样本

    论文arXiv:其他 AI 安全论文

  38. 用 Continuation Audits 在真实场景中探测智能体的过度主动行为

    论文arXiv:其他 AI 安全论文

  39. 无物可申报:转向单个神经元会增加智能体团队中的隐瞒行为

    论文arXiv:其他 AI 安全论文

  40. PIPETTE:面向鲁棒 LLM 智能体的提示注入紫队测试

    论文arXiv:其他 AI 安全论文