跳到正文

扫描记录

本站收录的每条材料,按收录时间(北京时间)从新到旧,可往回翻 7 天。

昨天 · 11月19日已载入 40 条

  1. 澳大利亚证券和投资委员会(ASIC)将AI对消费者的伤害列为2027年执法重点

    新闻MLex治理你刚才看的这条

  2. Google 称发现配置错误的测试服务器暴露自主 AI 攻击行动,系统含俄语注释

    新闻Escudo Digital事件

  3. Google AI 智能体收到「永不放弃」指令后尝试黑客攻击与冒充员工

    新闻The Elec评测

  4. 黄仁勋与 Nvidia 不是美人计故事,而是国家安全故事

    新闻Fortune治理

  5. Anthropic上市前夕,奥特曼重申OpenAI上市计划,此前曾因安全考量暂缓

    新闻澎湃新闻 · 检索「AI安全」AI 动态

  6. Microsoft agent-framework PyPI 包遭投毒

    新闻StepSecurity事件

  7. 当图表与正文不一致时:评估科学论文中的自主视觉证据核查

    论文arXiv

  8. 面向 AI 生成视频检测的语义感知对比与显式解耦表示

    论文arXiv

  9. 面向 LLM 智能体的日志分析:一项生命周期导向的综述

    论文arXiv

  10. IIJ Global与VeriCerts启动广告信任网关PoC:DID/VC验证广告发行方及篡改情况

    新闻IIJ Global SolutionsAI 动态

  11. 基于对比原型结构的 LLM 越狱检测

    论文arXiv:越狱、提示注入、投毒与防御

  12. George Monbiot 评论:英国增长计划强推无人想要的数据中心,指望 AI 泡沫不破

    新闻The Guardian · 人工智能治理

  13. 研究者提出诱导可监控的奖励作弊以弥补梯度路由的失效

    新闻LessWrong对齐

  14. LessWrong 作者发帖称 11 月 19 日抗议 Anthropic IPO,呼吁禁止递归自我改进

    新闻LessWrong治理

  15. 上海AI Lab论文:换一套智能体执行框架,模型跑分排名就可能反转

    新闻公众号 为机器立心AI 动态

  16. 腾讯朱雀实验室开源pikit工具箱,系统测评AI智能体间接提示注入风险

    新闻公众号 为机器立心工具

  17. 北航与阿里团队提出PASP框架,以多感知视图和对抗自博弈提升大模型识别伪装有害内容能力

    新闻公众号 为机器立心防御

  18. 论文:ANCHOR多轮攻击下8款CLI智能体拒答率降至0%

    新闻公众号 为机器立心攻击

  19. Xint 披露 5 个 Nginx RCE 漏洞,四个由自动化发现

    新闻公众号 SecureNexusLab事件

  20. OpenAI正在测试让自主智能体Dots拥有自己的电子邮件地址

    新闻iThome(台湾)AI 动态

  21. 基于反射预言机的Solomonoff归纳

    新闻AI Alignment Forum对齐

  22. CCN 更新 ENS 信息安全政策与职责职能指南,新增数据保护与人工智能规范衔接附录

    新闻Centro Criptológico Nacional治理

  23. 你能让模型相信提示词中的虚假事实吗?

    论文arXiv:对齐、欺骗与监督

  24. 仓库部署智能体中的依赖伪造

    论文arXiv:对齐、欺骗与监督

  25. Nudge Security 报告:AI 智能体继承员工访问权限,使用情况无人监督

    新闻Help Net Security AI事件

  26. 高风险 AI 应用场景中利益相关者间控制与问责的协商:ALIGN 方法的开发与评估

    论文arXiv:其他 AI 安全论文

  27. RECLAIM:借助具身注意力反馈、由机器人视觉信息引导的对抗补丁防御

    论文arXiv:其他 AI 安全论文

  28. Truthgate:对照编码智能体无法编辑的记录核查其行为——不可能任务上的作弊、威慑与披露

    论文arXiv:其他 AI 安全论文

  29. PGPO:面向隐私保护 LLM 增强推荐的原型引导渐进式混淆

    论文arXiv:其他 AI 安全论文

  30. Kaer:面向多智能体系统的安全感知重规划

    论文arXiv:其他 AI 安全论文

  31. 在联邦学习中精确窃取其他客户端的训练数据

    论文arXiv:其他 AI 安全论文

  32. 限制在于输入而非模型:工业控制器自然语言接口中依赖状态的命令安全

    论文arXiv:其他 AI 安全论文

  33. 针对信息物理系统上系统辨识攻击的基于梯度的防御性投毒

    论文arXiv:其他 AI 安全论文

  34. GateWatch:用布尔电路实现低开销 LLM 监控

    论文arXiv:其他 AI 安全论文

  35. SCR:通过干净参照残差检测后门投毒样本

    论文arXiv:其他 AI 安全论文

  36. 用 Continuation Audits 在真实场景中探测智能体的过度主动行为

    论文arXiv:其他 AI 安全论文

  37. 无物可申报:转向单个神经元会增加智能体团队中的隐瞒行为

    论文arXiv:其他 AI 安全论文

  38. PIPETTE:面向鲁棒 LLM 智能体的提示注入紫队测试

    论文arXiv:其他 AI 安全论文

  39. 权重空间编程能否改变模型习得的伦理优先级?

    论文arXiv:其他 AI 安全论文

  40. AutoPI:分类法引导的 LLM 智能体提示注入自适应红队测试

    论文arXiv:其他 AI 安全论文