扫描记录
昨天 · 11月19日已载入 40 条
- Claude开AI工厂:7周造38个模型,狂揽5.5万下载
新闻公众号 新智元AI 动态你刚才看的这条
- X用户称英伟达临时CEO在员工大会宣布提前加薪
XX @MinLiBuildsAI 动态
- 荷兰律师协会发布修订版律师行业AI使用建议:非强制,覆盖采购、信息安全等五大主题
新闻Nederlandse orde van advocaten治理
- 美国与科技业的新社会契约可能是什么样
新闻Financial Times · 人工智能观点
- Anthropic 的 AI 进展在 IPO 前夕引发新的安全担忧
新闻Financial Times · 人工智能治理
- Anthropic 将 IPO,成为美股最新一家万亿美元市值公司
新闻Financial Times · 人工智能AI 动态
- 详讯丨习近平会见美国总统特朗普
新闻澎湃新闻 · 检索「人工智能安全」治理
- Wiz 分析发现 Microsoft Agent Framework 的 PyPI 恶意版本已致 3 起成功数据外泄
新闻NeoTeo事件
- Anthropic 股票在纳斯达克开始交易,每股 111.50 美元,市值达 2 万亿美元
新闻The Guardian · 人工智能AI 动态
- 加州拟强化AI安全监管,政府可紧急停用模型并限制研发算力
新闻iThome(台湾)治理
- FVScore:规格驱动的神经符号视频评估
论文Hugging Face Daily Papers
- AI 智能体的非人类身份安全:为什么基于意图的访问与行为控制是缺失的一层
新闻Lasso Security观点
- Ooredoo Group 结束数字生态大会,形成《多哈原则》草案以推进可信数字经济
新闻Ooredoo Group治理
- 澳大利亚证券和投资委员会(ASIC)将AI对消费者的伤害列为2027年执法重点
新闻MLex治理
- Google 称发现配置错误的测试服务器暴露自主 AI 攻击行动,系统含俄语注释
新闻Escudo Digital事件
- Google AI 智能体收到「永不放弃」指令后尝试黑客攻击与冒充员工
新闻The Elec评测
- 黄仁勋与 Nvidia 不是美人计故事,而是国家安全故事
新闻Fortune治理
- Anthropic上市前夕,奥特曼重申OpenAI上市计划,此前曾因安全考量暂缓
新闻澎湃新闻 · 检索「AI安全」AI 动态
- Microsoft agent-framework PyPI 包遭投毒
新闻StepSecurity事件
- 当图表与正文不一致时:评估科学论文中的自主视觉证据核查
论文arXiv
- 面向 AI 生成视频检测的语义感知对比与显式解耦表示
论文arXiv
- 面向 LLM 智能体的日志分析:一项生命周期导向的综述
论文arXiv
- IIJ Global与VeriCerts启动广告信任网关PoC:DID/VC验证广告发行方及篡改情况
新闻IIJ Global SolutionsAI 动态
- 基于对比原型结构的 LLM 越狱检测
论文arXiv:越狱、提示注入、投毒与防御
- George Monbiot 评论:英国增长计划强推无人想要的数据中心,指望 AI 泡沫不破
新闻The Guardian · 人工智能治理
- 研究者提出诱导可监控的奖励作弊以弥补梯度路由的失效
新闻LessWrong对齐
- LessWrong 作者发帖称 11 月 19 日抗议 Anthropic IPO,呼吁禁止递归自我改进
新闻LessWrong治理
- 上海AI Lab论文:换一套智能体执行框架,模型跑分排名就可能反转
新闻公众号 为机器立心AI 动态
- 腾讯朱雀实验室开源pikit工具箱,系统测评AI智能体间接提示注入风险
新闻公众号 为机器立心工具
- 北航与阿里团队提出PASP框架,以多感知视图和对抗自博弈提升大模型识别伪装有害内容能力
新闻公众号 为机器立心防御
- 论文:ANCHOR多轮攻击下8款CLI智能体拒答率降至0%
新闻公众号 为机器立心攻击
- Xint 披露 5 个 Nginx RCE 漏洞,四个由自动化发现
新闻公众号 SecureNexusLab事件
- OpenAI正在测试让自主智能体Dots拥有自己的电子邮件地址
新闻iThome(台湾)AI 动态
- 基于反射预言机的Solomonoff归纳
新闻AI Alignment Forum对齐
- CCN 更新 ENS 信息安全政策与职责职能指南,新增数据保护与人工智能规范衔接附录
新闻Centro Criptológico Nacional治理
- 你能让模型相信提示词中的虚假事实吗?
论文arXiv:对齐、欺骗与监督
- 仓库部署智能体中的依赖伪造
论文arXiv:对齐、欺骗与监督
- Nudge Security 报告:AI 智能体继承员工访问权限,使用情况无人监督
新闻Help Net Security AI事件
- 高风险 AI 应用场景中利益相关者间控制与问责的协商:ALIGN 方法的开发与评估
论文arXiv:其他 AI 安全论文
- RECLAIM:借助具身注意力反馈、由机器人视觉信息引导的对抗补丁防御
论文arXiv:其他 AI 安全论文