跳到正文

全部动态

今天新收录 15条

第19页更新的内容回到最新

10月6日周二
  1. POLITICO Europe Technology · 收录 · 原文 新闻48

    欧盟拟为 Europol 扩权并翻倍预算,隐私监督争议升温(原文,在新标签页打开)

    欧盟委员会提出对 Europol 进行转型式改革,将其预算翻倍至 30 亿欧元,并让这个自 1998 年起协调欧洲警务情报的机构直接参与打击新型威胁,获取更多数据和先进技术。欧洲数据保护监督局(EDPS)局长 Wojciech Wiewiórowski 表示支持 Europol 使用数据和 AI 工具,但质疑提案中没有配套的监督安排,并警告该机构可能对与犯罪活动无关的大量人员数据在漫长且未明确的期限内保留。Europol 副执行主任 Jürgen Ebner 称 AI 让犯罪更快、更复杂且更易规模化,AI 可帮助调查人员过滤海量数字证据、串联信息并识别可行动情报。提案保留了 EDPS 对 Europol 的监督角色,但 Wiewiórowski 认为 EDPS 的权力和资源未同步增强,且内部机构权力过大而缺乏外部监督。

    1条报道 ·1个来源查看事件时间线与全部报道
  2. promptfoo · 收录 · 原文 新闻20

    promptfoo 0.124.0 发布:新增 Claude Opus 5.5、Sonnet 5.5、GPT-6 Sol/Luna 与 Grok 4.7 支持(原文,在新标签页打开)

    promptfoo 发布 0.124.0,新增 Claude Opus 5.5、Claude Sonnet 5.5、GPT-6 Sol 和 Luna、GPT-6.1 Sol 及 Grok 4.7 等模型支持,并加入 OpenAI 安全标识符。该版本含破坏性变更:移除托管 ChatKit provider,WatsonX、Langfuse、Slack、Codex Security、本地 Transformers 等 SDK 改为按需安装。同时修复断言评分、CLI 退出码与 Cloud 登录等问题,并将 MCP SDK 升级至 1.32.0 以修复重定向安全问题。

    1条报道 ·1个来源查看事件时间线与全部报道
  3. Nieman Lab · 收录 · 原文 新闻53

    ChatGPT 生成假《纽约客》漫画并伪造漫画家签名(原文,在新标签页打开)

    Nieman Lab 调查发现,ChatGPT 生成的《纽约客》风格漫画会带上真实漫画家的笔名签名,涉及 Brendan Loper、Emily Flake、Joe Dator、Pat Byrnes 等 15 位以上该刊现任及历史作者,均未获授权或补偿。Loper 的签名最早在 5 月被陌生人提醒出现在 ChatGPT 输出中,此后 Reddit 的 ChatGPT 论坛上出现大量带真实签名的仿制漫画。OpenAI 发言人称重视社区反馈的模型意外行为,在记者告知后 ChatGPT 开始提示该提示词可能违反第三方内容相似度护栏,但截至发稿仍会给部分通用漫画签上真实漫画家姓名。康泰纳仕 2024 年与 OpenAI 签署多年内容授权协议,但《纽约客》表示从未允许任何大模型开发者用其漫画训练模型;该刊漫画家合同为自由投稿制,作者保留版权。

    1条报道 ·1个来源查看事件时间线与全部报道
  4. POLITICO · 收录 · 原文 新闻41

    AI 安全团体质疑 OpenAI 缩减政治支出(原文,在新标签页打开)

    POLITICO 报道,AI 安全团体并不认可 OpenAI 缩减政治支出的姿态。由 OpenAI 总裁 Brockman 及其妻子、早期投资人 Andreessen 和 Horowitz 等支持的 Leading the Future 已投入 7500 万美元;与此同时,6 月成立的 Guardrails Alliance 筹集 500 万美元,其中部分资金来自反对 Leading the Future 的 OpenAI 员工。部分获 Leading the Future 支持的民主党候选人拒绝表态是否与该组织资金切割。

    1条报道 ·1个来源查看事件时间线与全部报道
  5. CBS News · Technology · 收录 · 原文 新闻54

    上诉法院准许 xAI 就明尼苏达 AI 去衣法获得临时救济(原文,在新标签页打开)

    CBS Minnesota报道第八巡回法院用一句话批准xAI的上诉期间禁令,没有解释理由。不能据此推断法院已裁定法律违宪,或所有公司的相关义务都被取消。报道涉及AI生成性化图像监管和受害者救济。

    推荐理由明尼苏达去衣法被上诉法院暂停执行,呈现了生成式 AI 内容监管与第一修正案之间的司法拉锯。

    1条报道 ·1个来源查看事件时间线与全部报道
  6. TechSpot · 收录 · 原文 日期未知新闻49

    佛罗里达女子把 Claude 当日记写下袭击威胁,Anthropic 人工审核后报警(原文,在新标签页打开)

    佛罗里达州 Bonita Springs 的 Carli Michelle Heller 因在 Claude 中写下计划袭击警长办公室的内容被捕,面临佛罗里达州法律下二级重罪的书面暴力威胁指控。她于 9 月 26 日写下该内容,并称自己把 Anthropic 的聊天机器人当作日记使用。Claude 的安全系统标记了这条记录并升级给人工审核员,审核员认定构成可信威胁后报告执法部门。Anthropic 表示,在认为披露信息对防止死亡或严重人身伤害确有必要时,可能在有限的紧急情况下共享用户信息。警员据此确认 Heller 身份并上门,将其无冲突拘留。

    4条报道 ·4个来源查看事件时间线与全部报道
  7. Simon Willison · 收录 · 原文 新闻26

    Anthropic 的 Cowork 将模型推理与 VM 迁至云端(原文,在新标签页打开)

    Anthropic 的 Felix Rieseberg 宣布 Cowork 新版把模型推理和 VM 都放到云端运行,每个会话拥有独立沙箱、不与其他会话共享状态。旧版在本地运行 Anthropic 提供的 VM 以执行工具调用,用户不满其磁盘、电池和性能开销,且合上笔记本工作就会中断。新版在 VM 需要访问用户设备文件时,由桌面应用负责该文件访问工具调用。

    1条报道 ·1个来源查看事件时间线与全部报道
  8. Financial Times · 人工智能 · 收录 · 原文 新闻43

    梅洛尼向欧盟申请声音商标以应对 AI 深度伪造(原文,在新标签页打开)

    意大利总理梅洛尼已向欧盟知识产权局提交声音商标申请,用两段四秒的“Io sono Giorgia Meloni”语音样本,申请目前处于审查阶段。此举发生在意大利明年大选之前,社交媒体上近期出现大量伪造她推销投资方案的深度伪造视频,她的声音克隆也已被用于劝选民让她下台的竞选广告。律师 Guido Scorza 认为,以商标侵权投诉比以个人数据投诉更容易让平台下架内容;意大利数字媒体观察站负责人 Gianni Riotta 则指出,商标保护难以遏制深度伪造的传播规模,其真正价值在于提升公众意识。

    4条报道 ·4个来源查看事件时间线与全部报道
  9. Financial Times · 人工智能 · 收录 · 原文 新闻45

    Sony Music 要求下架超 26 万首 AI 深度伪造歌曲(原文,在新标签页打开)

    Sony Music 加大打击流媒体欺诈力度,截至 9 月底已要求平台下架超过 26 万首曲目,接近 3 月底 13.5 万首的两倍。Sony 称未经许可模仿其艺人声音与形象的生成式 AI 深度伪造歌曲正大规模出现,涉及 Harry Styles、Adele、Britney Spears、Queen 和 Michael Jackson 等现役与历史艺人。除深度伪造外,流媒体平台还充斥为机器人反复播放而批量生成的 AI 曲目,Sony Music 全球数字业务总裁 Dennis Kooker 称欺诈性播放可能占流媒体平台曲目的 10%,唱片公司高管估计每年给行业造成高达 22 亿美元的损失。Deezer 表示其平台日均上传约 9 万首 AI 生成歌曲,占新音乐一半以上,去年完全由 AI 生成曲目的播放中多达 85% 属欺诈。

    2条报道 ·2个来源查看事件时间线与全部报道
  10. UC Berkeley CLTC · 收录 · 原文 新闻32

    CLTC 与 SaferAI 联合发布 AI 风险建模开放问题论文(原文,在新标签页打开)

    CLTC 的 AI Security Initiative(AISI)与欧洲非营利机构 SaferAI 于 2026 年 3 月举办线上研讨会,聚焦 AI 安全中研究不足的风险建模领域,22 名来自民间社会、学术界和政府机构的专家参会。会后 12 名参会者发布论文《Open Problems in AI Risk Modeling》,梳理了限制传统方法应用于风险建模的方法论与制度挑战,并比较了基于场景的风险估计与基于贝叶斯网络的阈值设定两种主流方案。论文指出目前尚无单一成熟的 AI 风险建模方法,并提出涵盖模型结构、范围、证据整合、验证与治理的开放问题议程。

    1条报道 ·1个来源查看事件时间线与全部报道
  11. Honolulu Civil Beat · 收录 · 原文 新闻45

    美国参议员 Schatz 推动 AI 安全监管立法,投票遭 Ted Cruz 阻止(原文,在新标签页打开)

    美国夏威夷州联邦参议员 Brian Schatz 与 Mark Warner、Andy Kim 两位民主党同僚试图推动一项法案投票,要求在美国商务部下设 AI 安全委员会,并规定新模型在向公众发布前须先提交联邦政府。该投票最终被共和党参议员 Ted Cruz 阻止,Cruz 称警告虽然可怕,但不愿把如此大的权力交给行政部门,并主张以审慎的两党方案应对关键基础设施、核与生物安全威胁。Schatz 在接受 Civil Beat 采访时表示,AI 风险是紧迫的,他无法判断灾难概率是 10% 还是 2%,但不愿容忍这种级别的灾难性风险;他提到 Hugging Face 事件是公众理解风险的一个转折点,并主张从开发阶段就引入第三方独立评测,而非等到发布前才测试。

    1条报道 ·1个来源查看事件时间线与全部报道
  12. GitHub 安全公告 · 收录 · 原文 新闻56

    vLLM 修复 cache_salt 校验过松导致 EngineCore 被单次请求击穿的拒绝服务漏洞(原文,在新标签页打开)

    vLLM 在启用 LMCache-MP KV connector 的部署上,对 cache_salt 校验不足。特殊格式会触发下游缓存键解析异常,调度链路未把它隔离为单个请求错误,导致共享 EngineCore 退出并中断并发服务。影响是特定连接器配置下的可用性,不涉及数据泄露或代码执行。 GitHub 公告标注受影响版本为 < 0.30.0,修复版本为 0.30.0。

    推荐理由公告给出了从请求字段到 EngineCore 崩溃的完整调用链与两处修复建议,运行 vLLM 推理服务的团队可据此排查自身部署。

    1条报道 ·1个来源查看事件时间线与全部报道
  13. GitHub 安全公告 · 收录 · 原文 新闻61

    vLLM 结构化输出漏洞可使引擎宕机,0.30.0 已修复(原文,在新标签页打开)

    vLLM 的三个结构化输出路径会让请求错误逃逸到共享 EngineCore,包括语法编译异常、推测解码负 token 和可选 Rust 前端接受的空结构化约束。普通 API 请求即可导致引擎终止,中断该实例上所有租户的并发及后续服务。影响限于可用性,不涉及代码执行、内存破坏或数据泄露。 GitHub 公告标注受影响版本为 < 0.30.0,修复版本为 0.30.0。

    推荐理由公告给出三个结构化输出路径导致 EngineCore 整体宕机的具体代码位置与修复补丁,部署 vLLM 的团队可据此排查版本与配置。

    1条报道 ·1个来源查看事件时间线与全部报道
  14. GitHub 安全公告 · 收录 · 原文 新闻62

    vLLM 多模态传输信任调用方字段,0.30.0 修复崩溃与缓存投毒漏洞(原文,在新标签页打开)

    vLLM 的 scale-out 多模态传输把调用方提供的 features 当作可信渲染结果,未与当前模型的渲染契约绑定校验。五处信任边界缺陷可让已认证请求造成共享引擎崩溃、跨请求编码器缓存投毒或披露,以及传输完整性损失。报告由 Patch the Planet(Trail of Bits 与 OpenAI 合作)提交,使用 GPT-5.5-Cyber 发现。 GitHub 公告标注受影响版本为 < 0.30.0,修复版本为 0.30.0。

    推荐理由公告逐条给出五个伪造字段的触发点与影响,并附修复补丁,部署 vLLM 多模态推理的团队可据此排查同类信任边界。

    1条报道 ·1个来源查看事件时间线与全部报道
  15. GitHub 安全公告 · 收录 · 原文 新闻48

    vLLM 披露 GLMGA 视频采样漏洞,可致请求驱动的 CPU 与内存耗尽(原文,在新标签页打开)

    vLLM 的 GLMGA 视频采样器按请求控制的采样参数构造索引列表,再去重和读取视频。小视频配合过大参数也可占用不成比例的 CPU 时间与内存,延迟其他媒体请求并造成部分拒绝服务。公告未报告内存破坏、数据泄露或代码执行;可在网关过滤视频选项,并限制不可信客户端选择该采样器。 GitHub 公告标注受影响版本为 >= 0.23.0rc2, < 0.30.0,修复版本为 0.30.0。

    推荐理由公告给出 vLLM 视频采样接口的拒绝服务成因与修复建议,部署多模态推理服务的团队可据此检查请求级参数边界。

    1条报道 ·1个来源查看事件时间线与全部报道
  16. GitHub 安全公告 · 收录 · 原文 新闻62

    vLLM 的 Qwen2-VL/Qwen3-VL 视频采样器未限制请求级 max_frames,可致未认证内存耗尽(原文,在新标签页打开)

    vLLM 的 Qwen2-VL 与 Qwen3-VL 视频采样器没有对请求级 max_frames 实施既有 num_frames 上限,可能导致内存耗尽。公告的 CPU-only 测试中,解码帧数从 60 增至 900,峰值 RSS 从 2,271 MiB 增至 13,629 MiB;这些数值仅对应该测试。/tokenize 等路径无需 vLLM API-key 认证;Rust 前端因拒绝相关媒体选项不受影响。 GitHub 公告标注受影响版本为 >= 0.24.0, < 0.30.0,修复版本为 0.30.0。

    推荐理由报告给出了未认证请求耗尽 vLLM 内存的实测数据与受影响版本区间,部署 Qwen-VL 服务的团队可据此核对版本与请求参数。

    1条报道 ·1个来源查看事件时间线与全部报道
  17. GitHub 安全公告 · 收录 · 原文 新闻56

    vLLM 工具续写丢失 cache_salt,恢复跨租户前缀缓存成员推断(原文,在新标签页打开)

    vLLM 在 GPT-OSS Harmony 的 /v1/responses 工具续写路径中丢失 cache_salt,让续写进入全局无盐前缀缓存。攻击者可借缓存计数推断另一租户是否处理过某个猜测的提示词或历史,破坏租户间隔离。该漏洞由 Patch the Planet(Trail of Bits 与 OpenAI 合作)报告,使用 GPT-5.5-Cyber 发现。 GitHub 公告标注受影响版本为 < 0.30.0,修复版本为 0.30.0。

    推荐理由披露了 vLLM 在 Harmony 工具续写路径上丢失 cache_salt 的具体代码位置,部署多租户推理服务的团队可据此排查前缀缓存隔离。

    1条报道 ·1个来源查看事件时间线与全部报道
  18. LessWrong · 收录 · 原文 讨论44

    自我建模干预可调节模型的突现失准(原文,在新标签页打开)

    Tagade 等研究自我识别与自我报告如何调节突现失准,发现部分训练干预可预防或逆转部分指标,同时自报数据也能传播失准。作者承认操作化较为粗糙、部分实验仅用单 seed,且 agentic 评测未接入真实工具,因此不能宣称实现了通用恢复。

    1条报道 ·1个来源查看事件时间线与全部报道
  19. Jorge García Herrero · 收录 · 原文 日期未知新闻57

    研究:九款对话式 AI 服务向第三方追踪器泄露对话标题、提示词与永久链接(原文,在新标签页打开)

    IMDEA Networks 等机构的研究者对 ChatGPT、Claude、Gemini、Grok、DeepSeek、Perplexity、Copilot、Mistral 和 Meta AI 九款对话式 AI 服务的网页客户端及其中八款的安卓客户端做了系统隐私分析,共识别出 44 个第三方组织、124 个第三方域名,每款服务都至少接入一个广告或追踪服务。研究发现 6 个网页客户端和 3 个安卓客户端会把对话 URL、标题、提示词和截图传给第三方,其中 5 个网页客户端向 9 个追踪服务泄露对话永久链接或全局对话 ID,3 个网页客户端泄露对话标题,且常与持久用户标识同时传输。部分提供商的对话永久链接默认公开可读,Grok 免费与付费层默认公开并可选择退出,Perplexity 访客层对话始终公开。

    推荐理由研究覆盖九款对话式 AI 的网页与安卓客户端,量化了对话标题、提示词和永久链接流向第三方追踪服务的规模。

    1条报道 ·1个来源查看事件时间线与全部报道
  20. Cybersecurity Insiders · 收录 · 原文 新闻43

    无需隐藏文本即可欺骗 AI 邮件摘要器(原文,在新标签页打开)

    一项针对 AI 邮件摘要器的测试显示,不含任何隐藏文本、也不含对摘要器明确指令的载荷,在 10 次试验中全部让摘要输出伪造的会议日期和发票金额。研究者用 6 封邮件组合隐藏文本与指令两类变量,每封各跑 10 次,共 60 次试验,并在两端各加 10 次干净邮件作为对照,事先登记真实与伪造事实及判定标准。结果显示,伪造信息在所有 10 次试验中都被写入摘要,而只有直接指令摘要器的邮件才会稳定移除真实事实;仅靠 30 行空白填充的样本在温度 0 下十次试验中只保留了两条真实事实。作者据此认为,隐藏文本检测和指令关键词检测都有缺口,指令检测能拦截部分攻击,但无法阻止伪造信息被摘要器照单全收。测试仅在一种邮件客户端和一个视口下进行,未验证更高温度或其他客户端下的表现。

    1条报道 ·1个来源查看事件时间线与全部报道
  21. LessWrong · 收录 · 原文 讨论44

    研究笔记:从预训练数据中过滤绕过监督相关信息(原文,在新标签页打开)

    Geodesic 与 Redwood 的作者介绍了从零预训练 30B 模型时过滤绕过监督相关知识的初步研究。作者称过滤后知识题表现下降,而一般能力保持。作者明确表示尚未测试真实的绕控行为是否因此减少。

    1条报道 ·1个来源查看事件时间线与全部报道
  22. Microsoft UFO · 收录 · 原文 新闻45

    微软 UFO 的 Mobile MCP press_key 工具可注入 ADB 命令(原文,在新标签页打开)

    微软 UFO 的 Mobile MCP 服务器 press_key 工具存在命令注入漏洞,已认证的调用者可借此在已授权的 Android 设备上执行任意 shell 命令。press_key 的 key_code 参数是自由字符串,未经校验就跟在 adb shell input keyevent 之后,而 adb 客户端会把 shell 之后的参数用空格连接成远程命令且不做转义,key_code 中的 shell 元字符因此进入 Android 远程 shell 命令。利用该漏洞需要有效的 UFO_MCP_API_KEY bearer token、可访问的 Mobile MCP 服务器,以及主机上已安装 adb 并连接已授权设备。公告称,这本身不构成宿主机操作系统命令执行、Android root 执行,也拿不到 Android shell 用户权限之外的私有应用数据。

  23. NBC 7 San Diego · 收录 · 原文 新闻58

    圣迭戈县起诉 AppLovin、Roblox 与 Polymaker,指控绕过家长控制与儿童安全风险(原文,在新标签页打开)

    圣迭戈县新成立的消费者公平与公共保护部门宣布对 AppLovin、Roblox 和 Polymaker 提起三起诉讼,涉及儿童安全、消费者隐私和 3D 打印幽灵枪。针对数字广告平台 AppLovin 的诉讼称,即便家长开启了保护控制,其技术仍绕过这些防护,在儿童使用的手机游戏中投放成人交友、酒精、电子烟、大麻、露骨色情和暴力广告,并收集可能暴露儿童住址、学校及睡眠状态等敏感设备信息。针对 Roblox 的诉讼称其向家长和儿童宣传平台是安全的游玩与社交场所,却未采取足够措施阻止成年人冒充儿童接触未成年用户。针对 3D 打印材料商 Polymaker 的诉讼称其明知产品可用于制作无序列号的幽灵枪仍进行宣传,并推出枪械主题产品、与枪械打印网红合作、付费推广。县政府依据加州虚假广告法和不正当竞争法提出指控,寻求禁令、赔偿和民事罚款。

    推荐理由圣迭戈县新设消费者保护机构的首批诉讼,展示了地方层面对广告平台绕过家长控制、收集儿童数据的具体指控路径。

  24. Failure-First · 收录 · 原文 新闻38

    FoMo-FD:用流匹配世界模型监测手术机器人模仿策略的执行失败(原文,在新标签页打开)

    Zhefeng Huang 等人提出 FoMo-FD,一种面向手术机器人模仿策略的执行级运行期失败监测器,只使用成功执行数据训练,无需收集失败示范。它把多视角相机画面经冻结的 DINOv2 与特征空间 β-VAE 压缩为视觉隐变量,用流匹配世界模型预测短时窗口的标称视觉-动作动态,再通过逆传输把实际端点隐变量回推到基高斯空间,以非符合性得分与符合预测校准的阈值比较来触发告警。在 Needle Pickup、Ring over Post 仿真任务和 dVRK 上的 Tissue Retraction、Shunt Insertion 任务中,覆盖 20 种失败模式、320 次失败与 80 次成功 rollout,腕部相机监测达到 96.6% 失败检出率与 1.3% 误报率,固定相机为 45.9% 与 10.0%。

  25. Egora · 收录 · 原文 新闻40

    巴黎公立医院 AP-HP 报案:Facebook 上 AI 克隆寄生虫学教授推销排虫产品(原文,在新标签页打开)

    巴黎公立医院集团 AP-HP 与索邦大学于 10 月 5 日通报,Facebook 上出现三段用 AI 伪造 Pitié-Salpêtrière 医院寄生虫学专家 Renaud Piarroux 教授形象与声音的视频,宣传一款号称能清除体内寄生虫的产品,未经其本人同意。AP-HP 已报案并联系 Meta 要求下架,相关视频被删除后,Facebook 上又出现新的类似视频。AP-HP 指出,这类内容不仅损害医生和医院形象,还可能误导公众使用缺乏科学数据支持的产品,危害患者健康。此前 2 月,营养学家、Nutri-score 创始人 Serge Hercberg 医生的形象也曾被同类视频冒用。

  26. Advisory Group on Mathematics and Artificial Intelligence · 收录 · 原文 新闻46

    数学与 AI 顾问组就 OpenAI 发布数学成果发表意见并重申发布准则(原文,在新标签页打开)

    数学与人工智能顾问组(AGMAI)就 OpenAI 发布由内部模型生成的大批数学成果发表意见,称 OpenAI 报告了数百个开放问题的解答,并认为这是数学界的重要事件,其影响远超单个结果本身。该顾问组由 François Charles、Timothy Gowers、Martin Hairer、Edward Witten 等数学家组成,在 OpenAI 接触部分成员提议设立外部顾问委员会后,改为独立组建,不接受任何 AI 公司报酬,也不具备决策权。顾问组此前于 9 月 29 日发布 AI 生成数学成果负责任发布的一般准则,参考了六百多份问卷回复;10 月 6 日的意见重申这些准则,表示已与 OpenAI 讨论并认可其沟通意愿,但强调评估准则落实程度仍应由数学界完成。

  27. 安特卫普大学 · 收录 · 原文 新闻35

    安特卫普大学警告 Deepfake 视频冒用疫苗学家 Pierre Van Damme 推销前列腺药物,Meta 起初拒绝下架(原文,在新标签页打开)

    安特卫普大学警告社交媒体上流传一段 Deepfake 视频,冒用该校疫苗学家兼流行病学家 Pierre Van Damme 的名义推销一款所谓前列腺问题特效药,视频中还出现 VRT 主持人 Xavier Taveirne 在演播室宣布该药上市。Van Damme 声明自己从未录制该视频,其面容、声音和姓名均未经同意被使用。校方联系 Meta 后,Meta 以内容不明确违法为由两次拒绝处理,第三次交涉后仅在一个页面删除该视频,相同或类似视频很可能仍在其他页面流传,Van Damme 与校方正在考虑进一步法律行动。

  28. JD Supra · 收录 · 原文 新闻44

    英国律师纪律庭因 AI 幻觉引文将一名律师除名(原文,在新标签页打开)

    英国律师纪律庭(SDT)因律师在法庭文件中使用 AI 生成的虚假判例引文而将其除名,Kennedys 律所对该案作出解读。该律师在事后纠错时再次借助 AI,又生成了不存在的判例,最终被除名。这是英国律师纪律庭首次因 AI 幻觉引文对律师作出处分。

  29. BigGo Finance · 收录 · 原文 新闻58

    微软 FARA 7B 在 WebVoyager 上的成功率从 74% 降至约 38%(原文,在新标签页打开)

    微软研究员 Corby Rosset 与 Browserbase 的 Miguel González Fernández 指出,微软 FARA 7B 网页智能体在 WebVoyager 基准上由官方判分器给出 74% 成功率,改用经人工标注校准的通用验证器后降至约 38%,与人类标注的 Cohen's Kappa 为 0.58。文章分析指出,现有 LLM 判分器在长轨迹评估中存在忽略评分细则与多模态上下文溢出等系统性缺陷,需通过细则对齐与过程评分改善评估可靠性。

    推荐理由同一模型同一基准,官方 GPT-4o 判分给出 74%,经人工校准的通用验证器只有约 38%,差距来自判分器设计而非模型本身。

  30. CourtListener · 收录 · 原文 新闻28

    Joshi 诉 OpenAI Foundation 案:法院就 33 项驳回动议签发命令(原文,在新标签页打开)

    佛罗里达北区联邦地区法院法官 Mark E. Walker 就 Joshi 诉 OpenAI Foundation 案(4:26-cv-00222)的 33 项驳回动议签发命令,确定合并答辩日程。被告可在 2026 年 10 月 21 日前提交不超过 12,000 词的合并驳回动议及备忘录,原告方回应截止 11 月 4 日。

  31. iXBT · 收录 · 原文 新闻25

    俄罗斯运营商 Beeline 用 AI「赛博家庭」陪聊诈骗电话:今年转接 1910 万通、拖住骗子 14 万小时(原文,在新标签页打开)

    俄罗斯运营商 Beeline 将疑似诈骗电话转接给模拟奶奶、青少年、母亲和父亲声音的语音 AI 助手,让其与骗子长时间闲聊。自今年年初以来共有 1910 万通电话被转给这套「赛博家庭」,AI 助手累计与诈骗分子通话约 14 万小时(近 6000 天)。同期 Beeline 反欺诈系统拦截超 8.7 亿通骚扰电话,积累的对话被用于再训练模型,以更有效地识别并拖住骗子。

  32. Courthouse News · 收录 · 原文 新闻61

    科罗拉多女子因 Flock 车牌命中被误控盗窃,起诉 Flock Safety 与两镇警方(原文,在新标签页打开)

    科罗拉多州女子 Chrisanna Elser 就 2025 年 9 月被误控盗窃一事,对 Flock Safety、Columbine Valley 镇、Bow Mar 镇及两名警员提起集体诉讼。起诉书称,警员 Jamie Milliman 仅凭 Flock 车牌识别系统显示她的卡车在案发时段经过 Bow Mar,便认定她盗窃了一个价值 25 美元的包裹并开出传票,且拒绝查看能证明其无罪的车辆摄像头与 GPS 记录。Elser 用两周时间自证清白后,警察局长才撤销传票。起诉书还称,Flock 向两镇出售的摄像头网络覆盖 Bow Mar 全部三个出入口,警员可无搜查令、无合理怀疑、无上级批准地检索任意车辆的历史行踪,并援引专利文件与审计日志称该系统具备人脸识别、预测性警务和人口特征分析能力,且长期缺乏搜索理由与多因素认证等管控。

    推荐理由起诉书详述 Flock 车牌识别系统在无搜查令、无合理怀疑下被警方检索,导致一名科罗拉多女性被误控盗窃,可供评估 ALPR 部署的合规风险。

  33. VRT NWS · 收录 · 原文 新闻35

    安特卫普大学警告 Deepfake 视频:病毒学家 Pierre Van Damme 被伪造代言前列腺药物(原文,在新标签页打开)

    安特卫普大学警告一段 Deepfake 视频,视频中病毒学家 Pierre Van Damme 被伪造代言一款前列腺问题药物,他本人强调从未录制该视频,其面部、声音和姓名均未经同意被使用。视频由主持人 Xavier Taveirne 在虚假电视演播室中引出,Van Damme 的伪造形象随后推销产品约 2 分钟,已有观众询问是否应停用现有治疗。校方向 Meta 举报后,前两次均被以内容不违法为由拒绝删除,第三次举报后视频才从 1 个页面移除,但疑似仍有相同或类似视频在其他页面流传,Van Damme 与校方正在考虑进一步法律行动。

  34. vLLM Semantic Router · 收录 · 原文 新闻43

    vLLM Semantic Router / KR Labs 发布 Vela 2.0 开源路由与护栏模型族(原文,在新标签页打开)

    vLLM Semantic Router 与 KR Labs 发布 Vela 2.0 开源模型族,含 0.3B、0.8B、4B、9B 四个尺寸,用于路由、安全检查和 span 级决策,权重与代码以 Apache-2.0 发布。模型在请求时接收选项、标签和评分标准,返回带概率与字符偏移的结构化答案,一次调用可同时处理路由、安全、PII 和幻觉问题。官方称 9B 在未见攻击家族的提示攻击检测上达到 0.989 AUC,高于 Vela 1.0 Guard 的 0.792;多语言仇恨言论 0.855 AUC,高于 0.646。0.3B 可在 CPU 运行,A40 上单次完整路由请求耗时 0.09 秒,9B 为 0.60 至 0.71 秒。

  35. Ouest-France · 收录 · 原文 新闻44

    巴黎公立医院 AP-HP 报案:AI 深度伪造寄生虫学教授代言排虫产品(原文,在新标签页打开)

    巴黎公立医院集团(AP-HP)就 Facebook 上利用 AI 克隆其医生形象和声音推销排虫产品的虚假广告报案。AP-HP 称,三段视频未经同意使用了 Pitié Salpêtrière 医院寄生虫学专家、索邦大学教授 Renaud Piarroux 的形象,宣传一款号称能清除体内寄生虫的产品,实为 AI 合成的伪造内容。AP-HP 已向 Meta 投诉并成功使三段视频下架,但此后仍有类似视频不断出现。AP-HP 同时警告健康风险,指出这类内容可能让网民相信虚假信息,或使用缺乏科学数据支持有效性与安全性的产品,并强调该机构不会在社交网络上为任何产品或服务做商业推广。

  36. Beeline · 收录 · 原文 新闻20

    俄罗斯运营商 Beeline 用 AI「赛博家庭」陪聊诈骗电话:今年转接 1910 万通、拖住骗子 14 万小时(原文,在新标签页打开)

    俄罗斯运营商 Beeline 将疑似诈骗电话转接给由 AI 语音助手组成的「赛博家庭」陪聊,用奶奶、少年、妈妈、爸爸等声音拖住骗子。公司总经理 Сергей Анохин 称,自今年年初以来已有 1910 万通电话被转给「赛博家庭」,累计通话时长 14 万小时,约合 6000 天;同期反欺诈平台还拦截了超过 8.7 亿通骚扰电话。这些对话还被用作模型再训练素材,使 AI 助手能力不断增强。

  37. MDPI · 收录 · 原文 新闻48

    研究评估嵌入预过滤,将百万级 LLM Agent 社交网络消息筛查成本降低最高 65.6%(原文,在新标签页打开)

    研究者提出用轻量嵌入预过滤器先筛掉明显安全的内容,再交给前沿 LLM 判定,以降低对 Agent 社交网络 Moltbook 全量消息做安全筛查的成本。团队用 GPT-5.5 以高推理强度标注了 1 万条 Moltbook 帖子与评论,其中 9.2% 被判定为严重度 3 及以上的不安全内容;两名人类标注者之间一致性较高(κ=0.823),但与 LLM 判定仅为中等一致(κ=0.578)。在召回率校准到 0.80 时,扫描 787,226 条消息的预估成本从 7085 美元分别下降 49.9%(MiniLM-L12-v2)、55.6%(BGE-M3)和 65.6%(有监督分类器),其中 MiniLM 的推理速度约为分类器的 32 倍。数据集 MoltSafe-10K 与复现代码已公开。

  38. The Indian Express · 收录 · 原文 新闻46

    印度昌迪加尔法院因 AI 伪造政治视频下令 Facebook 暂停三个页面(原文,在新标签页打开)

    印度昌迪加尔法院于 10 月 5 日下令 Facebook 暂停三个页面,理由是这些页面发布了针对旁遮普国大党人士 Amandeep Kumar 的 AI 生成视频。法院认为相关内容超出正常公共批评范围,可能损害民主与公共共识的形成,并指出视频带有政治倾向、偏向旁遮普执政党。涉案页面为 Batale di Rajneeti、Kachi laan 和 Thanedar uncle,分别约有 2200、1100 和 11000 名关注者,相关视频播放量约 17.8 万、18 万和 4.78 万次。法院批准临时禁令,要求页面在下次开庭前停止传播涉及 Kumar 的 AI 生成内容,并指示平台暂停这三个页面的公开访问,案件将于 10 月 22 日再次开庭。