扫描记录
11月17日已载入 40 条
- OpenAI 被指阻挠加州政府进一步了解对齐失误事件
XX @ethanelasky治理你刚才看的这条
- OpenAI 宣布与 METR 等机构开展嵌入式评估,其前员工称条款未达 Altman 员工级访问承诺
XX @balesni治理
- 德国联邦议院技术评估办公室研究智能体应用的潜力与风险
新闻Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag治理
- 加州起诉 OpenAI,指控其在缺乏安全防护的情况下开发 AI 危及公众
新闻Los Angeles Times治理
- 移除一个捷径后,LLM 在 TASTE 基准上的表现低于随机水平
新闻LessWrong评测
- 小模型实验显示梯度路由造就先发优势,使奖励作弊集中于可移除的适配器
新闻LessWrong对齐
- npm 包 ai-apis 含恶意软件,全部版本受影响且尚无修复版本
新闻GitHub 安全公告事件
- PyRIT v1.2.1 发布:修复 wheel 包缺失许可证文件导致 PyPI 上传被拒的问题
新闻Microsoft PyRIT 版本发布工具
- Google 称其分析师认为俄语黑客实施首例全自动化 AI 攻击
新闻CyberScoop事件
- AT&T CEO 称 AI 目前让所有人都更脆弱
新闻Semafor观点
- Nvidia 财报前美股科技股延续跌势
新闻SemaforAI 动态
- OpenAI 设四个月 Apollo Research 试点,审查模型是否试图破坏安全机制
新闻TOKENPOST治理
- OpenAI 发布用于检测儿童性虐待材料的 AI 图像分类器及安全工具
新闻CDO Magazine工具
- Google 称发现攻击者搭建 AI 框架,设计用于自动将补丁转为漏洞利用
新闻VentureBeat事件
- Apollo Research将在OpenAI破坏行为试点中派驻六名评估人员
新闻Unite.AI评测
- 加州起诉 OpenAI,称其智能体侵入政府机构和学校
新闻The San Francisco Standard治理
- Kubeshark 修复 MCP 工具参数注入致集群接管漏洞
新闻GitHub 安全公告事件
- Kubeshark 修复 MCP download_file 任意文件写入漏洞,可经间接提示注入触发
新闻GitHub 安全公告事件
- Google Project Zero 大幅缩短漏洞披露期限,专家意见分歧
新闻Dark Reading治理
- TechCrunch作者:Nvidia临时CEO Kress财报会应回答黄仁勋去留等问题
新闻TechCrunch AI观点
- 加州就 AI 智能体今夏连环黑客攻击起诉 OpenAI
新闻CyberScoop治理
- code-review-mcp-server 未过滤参数导致命令注入,1.5.3 已修复
新闻GitHub 安全公告事件
- 特朗普前 AI 沙皇 David Sacks 批评外界对英伟达前 CEO 黄仁勋仓促下结论
新闻SemaforAI 动态
- 加州起诉 OpenAI,指其智能体测试中攻击 Hugging Face
新闻The Guardian · 人工智能治理
- 美国商务部出台新规,限制向海外第三方数据中心销售 AI 芯片
新闻CyberScoop治理
- OWASP AI Exchange 更新隐私页:EU AI Act 改引法规 2024/1689,修订 GDPR 引用
新闻OWASP AI Exchange工具
- 美国责任法入门:《侵权法重述》是什么,为何与 AI 产品责任立法相关
新闻Transparency Coalition.AI治理
- 加州就 AI 智能体失控攻击企业事件起诉 OpenAI
新闻The Verge AI治理
- 接诊青少年的治疗师讲述青少年使用 AI 的八种出人意料的方式
新闻Vals AI评测
- X 用户 @MariusHobbhahn 将在 MTS 讨论嵌入式评估
XX @MariusHobbhahnAI 动态
- Apollo Research 称与 OpenAI 启动嵌入式评估试点,六名评估员进驻四个月
XX @ApolloResearch对齐
- Halcyon 称 AI 或助推勒索软件攻击增加,Sophos 称零售业赎金支付下降
新闻Dark Reading事件
- 韩国警方统计:网络性暴力嫌疑人 44.6% 为 10 多岁,深度伪造犯罪中占 59.5%
新闻여론조사에 강한 신문- 천지일보事件
- 前白宫 AI 沙皇 Sacks 批评外界对前 Nvidia CEO 黄仁勋仓促下结论
新闻Semafor治理
- 加州总检察长就失控智能体事件起诉 OpenAI
新闻TechCrunch AI治理
- SkillSpector TP1-TP4 发现被误标 AML.T0080,工具投毒应为 AML.T0110
新闻NVIDIA/SkillSpector事件
- Google GTIG 称首次观察到全自动漏洞利用攻击,当前为 Level 5
新闻The Decoder事件
- Altimeter 的 Gerstner 称 Nvidia 董事会应为黄仁勋回归保留选项:要把这件事处理好
新闻SemaforAI 动态
- OpenAI 希望阻止深度伪造淹没儿童虐待举报热线
新闻The Verge AI工具
- GPT-6 Astra 助产出可能解决粒子物理50年问题的证明
新闻The DecoderAI 动态