扫描记录
11月17日已载入 40 条
- Cato 推出 AgentSense:在智能体执行前拦截不安全动作
新闻Cato Networks防御你刚才看的这条
- 萨斯喀彻温省政府推出《防范欺骗性人工智能法案》应对深度伪造
新闻Government of Saskatchewan治理
- 纽约州总检察长 James 宣布设立 AI 安全、标准、执法与透明度部门(ASSET)
新闻New York State Attorney General治理
- 美联航与美国多家大型银行报告系统故障
新闻SemaforAI 动态
- Sacks等质疑黄仁勋辞职与间谍报道有关
新闻The Verge AIAI 动态
- OpenAI 要求员工与外部评估者的谈话一律不可引用,作者称员工无选择权
XX @ethanelasky治理
- 加州诉 OpenAI 案文件称 OpenAI 承认测试中自主智能体失控逾 80 次
XX @ethanelasky事件
- OpenAI 被指阻挠加州政府进一步了解对齐失误事件
XX @ethanelasky治理
- OpenAI 宣布与 METR 等机构开展嵌入式评估,其前员工称条款未达 Altman 员工级访问承诺
XX @balesni治理
- 德国联邦议院技术评估办公室研究智能体应用的潜力与风险
新闻Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag治理
- 加州起诉 OpenAI,指控其在缺乏安全防护的情况下开发 AI 危及公众
新闻Los Angeles Times治理
- 移除一个捷径后,LLM 在 TASTE 基准上的表现低于随机水平
新闻LessWrong评测
- 小模型实验显示梯度路由造就先发优势,使奖励作弊集中于可移除的适配器
新闻LessWrong对齐
- npm 包 ai-apis 含恶意软件,全部版本受影响且尚无修复版本
新闻GitHub 安全公告事件
- PyRIT v1.2.1 发布:修复 wheel 包缺失许可证文件导致 PyPI 上传被拒的问题
新闻Microsoft PyRIT 版本发布工具
- Google 称其分析师认为俄语黑客实施首例全自动化 AI 攻击
新闻CyberScoop事件
- AT&T CEO 称 AI 目前让所有人都更脆弱
新闻Semafor观点
- Nvidia 财报前美股科技股延续跌势
新闻SemaforAI 动态
- OpenAI 设四个月 Apollo Research 试点,审查模型是否试图破坏安全机制
新闻TOKENPOST治理
- OpenAI 发布用于检测儿童性虐待材料的 AI 图像分类器及安全工具
新闻CDO Magazine工具
- Google 称发现攻击者搭建 AI 框架,设计用于自动将补丁转为漏洞利用
新闻VentureBeat事件
- Apollo Research将在OpenAI破坏行为试点中派驻六名评估人员
新闻Unite.AI评测
- 加州起诉 OpenAI,称其智能体侵入政府机构和学校
新闻The San Francisco Standard治理
- Kubeshark 修复 MCP 工具参数注入致集群接管漏洞
新闻GitHub 安全公告事件
- Kubeshark 修复 MCP download_file 任意文件写入漏洞,可经间接提示注入触发
新闻GitHub 安全公告事件
- Google Project Zero 大幅缩短漏洞披露期限,专家意见分歧
新闻Dark Reading治理
- TechCrunch作者:Nvidia临时CEO Kress财报会应回答黄仁勋去留等问题
新闻TechCrunch AI观点
- 加州就 AI 智能体今夏连环黑客攻击起诉 OpenAI
新闻CyberScoop治理
- code-review-mcp-server 未过滤参数导致命令注入,1.5.3 已修复
新闻GitHub 安全公告事件
- 特朗普前 AI 沙皇 David Sacks 批评外界对英伟达前 CEO 黄仁勋仓促下结论
新闻SemaforAI 动态
- 加州起诉 OpenAI,指其智能体测试中攻击 Hugging Face
新闻The Guardian · 人工智能治理
- 美国商务部出台新规,限制向海外第三方数据中心销售 AI 芯片
新闻CyberScoop治理
- OWASP AI Exchange 更新隐私页:EU AI Act 改引法规 2024/1689,修订 GDPR 引用
新闻OWASP AI Exchange工具
- 美国责任法入门:《侵权法重述》是什么,为何与 AI 产品责任立法相关
新闻Transparency Coalition.AI治理
- 加州就 AI 智能体失控攻击企业事件起诉 OpenAI
新闻The Verge AI治理
- 接诊青少年的治疗师讲述青少年使用 AI 的八种出人意料的方式
新闻Vals AI评测
- X 用户 @MariusHobbhahn 将在 MTS 讨论嵌入式评估
XX @MariusHobbhahnAI 动态
- Apollo Research 称与 OpenAI 启动嵌入式评估试点,六名评估员进驻四个月
XX @ApolloResearch对齐
- Halcyon 称 AI 或助推勒索软件攻击增加,Sophos 称零售业赎金支付下降
新闻Dark Reading事件
- 韩国警方统计:网络性暴力嫌疑人 44.6% 为 10 多岁,深度伪造犯罪中占 59.5%
新闻여론조사에 강한 신문- 천지일보事件