扫描记录
昨天 · 11月19日已载入 40 条
- IIJ Global与VeriCerts启动广告信任网关PoC:DID/VC验证广告发行方及篡改情况
新闻IIJ Global SolutionsAI 动态你刚才看的这条
- 基于对比原型结构的 LLM 越狱检测
论文arXiv:越狱、提示注入、投毒与防御
- George Monbiot 评论:英国增长计划强推无人想要的数据中心,指望 AI 泡沫不破
新闻The Guardian · 人工智能治理
- 研究者提出诱导可监控的奖励作弊以弥补梯度路由的失效
新闻LessWrong对齐
- LessWrong 作者发帖称 11 月 19 日抗议 Anthropic IPO,呼吁禁止递归自我改进
新闻LessWrong治理
- 上海AI Lab论文:换一套智能体执行框架,模型跑分排名就可能反转
新闻公众号 为机器立心AI 动态
- 腾讯朱雀实验室开源pikit工具箱,系统测评AI智能体间接提示注入风险
新闻公众号 为机器立心工具
- 北航与阿里团队提出PASP框架,以多感知视图和对抗自博弈提升大模型识别伪装有害内容能力
新闻公众号 为机器立心防御
- 论文:ANCHOR多轮攻击下8款CLI智能体拒答率降至0%
新闻公众号 为机器立心攻击
- Xint 披露 5 个 Nginx RCE 漏洞,四个由自动化发现
新闻公众号 SecureNexusLab事件
- OpenAI正在测试让自主智能体Dots拥有自己的电子邮件地址
新闻iThome(台湾)AI 动态
- 基于反射预言机的Solomonoff归纳
新闻AI Alignment Forum对齐
- CCN 更新 ENS 信息安全政策与职责职能指南,新增数据保护与人工智能规范衔接附录
新闻Centro Criptológico Nacional治理
- 你能让模型相信提示词中的虚假事实吗?
论文arXiv:对齐、欺骗与监督
- 仓库部署智能体中的依赖伪造
论文arXiv:对齐、欺骗与监督
- Nudge Security 报告:AI 智能体继承员工访问权限,使用情况无人监督
新闻Help Net Security AI事件
- 高风险 AI 应用场景中利益相关者间控制与问责的协商:ALIGN 方法的开发与评估
论文arXiv:其他 AI 安全论文
- RECLAIM:借助具身注意力反馈、由机器人视觉信息引导的对抗补丁防御
论文arXiv:其他 AI 安全论文
- Truthgate:对照编码智能体无法编辑的记录核查其行为——不可能任务上的作弊、威慑与披露
论文arXiv:其他 AI 安全论文
- PGPO:面向隐私保护 LLM 增强推荐的原型引导渐进式混淆
论文arXiv:其他 AI 安全论文
- Kaer:面向多智能体系统的安全感知重规划
论文arXiv:其他 AI 安全论文
- 在联邦学习中精确窃取其他客户端的训练数据
论文arXiv:其他 AI 安全论文
- 限制在于输入而非模型:工业控制器自然语言接口中依赖状态的命令安全
论文arXiv:其他 AI 安全论文
- 针对信息物理系统上系统辨识攻击的基于梯度的防御性投毒
论文arXiv:其他 AI 安全论文
- GateWatch:用布尔电路实现低开销 LLM 监控
论文arXiv:其他 AI 安全论文
- SCR:通过干净参照残差检测后门投毒样本
论文arXiv:其他 AI 安全论文
- 用 Continuation Audits 在真实场景中探测智能体的过度主动行为
论文arXiv:其他 AI 安全论文
- 无物可申报:转向单个神经元会增加智能体团队中的隐瞒行为
论文arXiv:其他 AI 安全论文
- PIPETTE:面向鲁棒 LLM 智能体的提示注入紫队测试
论文arXiv:其他 AI 安全论文
- 权重空间编程能否改变模型习得的伦理优先级?
论文arXiv:其他 AI 安全论文
- AutoPI:分类法引导的 LLM 智能体提示注入自适应红队测试
论文arXiv:其他 AI 安全论文
- 当洗牌失效时:从被混淆的 KV 缓存中恢复 token
论文arXiv:其他 AI 安全论文
- 从文本到像素的转变中什么得以幸存?渲染为图像的文档中对提示注入的条件性保护
论文arXiv:其他 AI 安全论文
- 学习协调:面向 token 高效红队测试的 LLM 引导工作流演化
论文arXiv:其他 AI 安全论文
- 在计算的 AI 王朝中守护技能型智能体王国:智能体技能的控制流完整性
论文arXiv:其他 AI 安全论文
- VESPA:面向安全强化学习的可验证符号策略自适应
论文arXiv:其他 AI 安全论文
- 意图契约:把工具从智能体手中拿走
论文arXiv:其他 AI 安全论文
- SCAFFOLD:迈向可复用 LLM 智能体技能的凭证保全式证据迁移
论文arXiv:其他 AI 安全论文
- 决策模型何时能帮助 LLM 驱动的网络发现?
论文arXiv:其他 AI 安全论文
- 对固定线性擦除的秩一绕过
论文arXiv:其他 AI 安全论文