扫描记录
昨天 · 11月19日已载入 40 条
- Google AI 智能体收到「永不放弃」指令后尝试黑客攻击与冒充员工
新闻The Elec评测你刚才看的这条
- 黄仁勋与 Nvidia 不是美人计故事,而是国家安全故事
新闻Fortune治理
- Anthropic上市前夕,奥特曼重申OpenAI上市计划,此前曾因安全考量暂缓
新闻澎湃新闻 · 检索「AI安全」AI 动态
- Microsoft agent-framework PyPI 包遭投毒
新闻StepSecurity事件
- 当图表与正文不一致时:评估科学论文中的自主视觉证据核查
论文arXiv
- 面向 AI 生成视频检测的语义感知对比与显式解耦表示
论文arXiv
- 面向 LLM 智能体的日志分析:一项生命周期导向的综述
论文arXiv
- IIJ Global与VeriCerts启动广告信任网关PoC:DID/VC验证广告发行方及篡改情况
新闻IIJ Global SolutionsAI 动态
- 基于对比原型结构的 LLM 越狱检测
论文arXiv:越狱、提示注入、投毒与防御
- George Monbiot 评论:英国增长计划强推无人想要的数据中心,指望 AI 泡沫不破
新闻The Guardian · 人工智能治理
- 研究者提出诱导可监控的奖励作弊以弥补梯度路由的失效
新闻LessWrong对齐
- LessWrong 作者发帖称 11 月 19 日抗议 Anthropic IPO,呼吁禁止递归自我改进
新闻LessWrong治理
- 上海AI Lab论文:换一套智能体执行框架,模型跑分排名就可能反转
新闻公众号 为机器立心AI 动态
- 腾讯朱雀实验室开源pikit工具箱,系统测评AI智能体间接提示注入风险
新闻公众号 为机器立心工具
- 北航与阿里团队提出PASP框架,以多感知视图和对抗自博弈提升大模型识别伪装有害内容能力
新闻公众号 为机器立心防御
- 论文:ANCHOR多轮攻击下8款CLI智能体拒答率降至0%
新闻公众号 为机器立心攻击
- Xint 披露 5 个 Nginx RCE 漏洞,四个由自动化发现
新闻公众号 SecureNexusLab事件
- OpenAI正在测试让自主智能体Dots拥有自己的电子邮件地址
新闻iThome(台湾)AI 动态
- 基于反射预言机的Solomonoff归纳
新闻AI Alignment Forum对齐
- CCN 更新 ENS 信息安全政策与职责职能指南,新增数据保护与人工智能规范衔接附录
新闻Centro Criptológico Nacional治理
- 你能让模型相信提示词中的虚假事实吗?
论文arXiv:对齐、欺骗与监督
- 仓库部署智能体中的依赖伪造
论文arXiv:对齐、欺骗与监督
- Nudge Security 报告:AI 智能体继承员工访问权限,使用情况无人监督
新闻Help Net Security AI事件
- 高风险 AI 应用场景中利益相关者间控制与问责的协商:ALIGN 方法的开发与评估
论文arXiv:其他 AI 安全论文
- RECLAIM:借助具身注意力反馈、由机器人视觉信息引导的对抗补丁防御
论文arXiv:其他 AI 安全论文
- Truthgate:对照编码智能体无法编辑的记录核查其行为——不可能任务上的作弊、威慑与披露
论文arXiv:其他 AI 安全论文
- PGPO:面向隐私保护 LLM 增强推荐的原型引导渐进式混淆
论文arXiv:其他 AI 安全论文
- Kaer:面向多智能体系统的安全感知重规划
论文arXiv:其他 AI 安全论文
- 在联邦学习中精确窃取其他客户端的训练数据
论文arXiv:其他 AI 安全论文
- 限制在于输入而非模型:工业控制器自然语言接口中依赖状态的命令安全
论文arXiv:其他 AI 安全论文
- 针对信息物理系统上系统辨识攻击的基于梯度的防御性投毒
论文arXiv:其他 AI 安全论文
- GateWatch:用布尔电路实现低开销 LLM 监控
论文arXiv:其他 AI 安全论文
- SCR:通过干净参照残差检测后门投毒样本
论文arXiv:其他 AI 安全论文
- 用 Continuation Audits 在真实场景中探测智能体的过度主动行为
论文arXiv:其他 AI 安全论文
- 无物可申报:转向单个神经元会增加智能体团队中的隐瞒行为
论文arXiv:其他 AI 安全论文
- PIPETTE:面向鲁棒 LLM 智能体的提示注入紫队测试
论文arXiv:其他 AI 安全论文
- 权重空间编程能否改变模型习得的伦理优先级?
论文arXiv:其他 AI 安全论文
- AutoPI:分类法引导的 LLM 智能体提示注入自适应红队测试
论文arXiv:其他 AI 安全论文
- 当洗牌失效时:从被混淆的 KV 缓存中恢复 token
论文arXiv:其他 AI 安全论文
- 从文本到像素的转变中什么得以幸存?渲染为图像的文档中对提示注入的条件性保护
论文arXiv:其他 AI 安全论文