跳到正文

字节跳动 · News

10月12日 · 周一

字节跳动 · News

按原发与事件进展排列
字节跳动

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
今天10月12日周一
  1. CNBC · TechnologyCNBC · Technology · ↑320

    TikTok CEO 预计三年内AI带来重大科学突破

    TikTok CEO 周受资表示，AI 将在未来两到三年内带来物理、生物技术、化学和材料科学领域的科学突破。他同时提出模型对齐问题，警告用户可能在不了解后果时授予 AI 智能体大量权限，并指出模型能力提升正降低恶意行为者制造安全问题的成本。

10月9日周五
  1. 量子位量子位 · 55

    字节研究揭示DeepSeek-V4检索波动原因

    字节 Seed 团队发现，DeepSeek-V4 系列在长上下文检索中的准确率会随目标信息在输入中的位置周期性起伏，并将原因指向其采用的分块 KV Cache 压缩。在 128K Token、约 1.6 万个键值对的大海捞针测试中，DeepSeek-V4-Flash-Base 不同位置间的最大准确率差距达 40.2 个百分点，DeepSeek-V4-Pro-Base 为 34.8 个百分点；后训练后差距缩小。

10月7日周三
  1. The Asia Business DailyThe Asia Business Daily · 48

    中国用户盲信AI致伤害与财产损失

    《纽约时报》10月2日报道称，中国在鼓励民众使用人工智能的同时正面临过度依赖技术的问题。中国互联网络信息中心9月29日发布的报告显示，今年上半年中国生成式人工智能用户规模突破7亿、普及率超过50%。报道列举多起事故：8月中旬浙江一名王姓男子用AI识别应用判断野生蘑菇无毒后食用，被诊断为横纹肌溶解症及急性肾衰竭，经血液透析保住性命；7月一名9岁儿童同样因AI判断无毒食用山中蘑菇，在重症监护室治疗8天；8月江苏苏州一名杨姓男子按AI

  2. epoch.ai、Epoch AI 等 3 个来源epoch.ai 等 3 个来源 · 4篇报道 · 62

    Epoch AI 评测：前沿模型尚难独立复现 ML 创新

    Epoch AI 发布 InnovationEval 基准，测试前沿 AI 能否独立发现对其而言全新的机器学习算法创新，对标人类论文提出的 Self-Distillation Policy Optimization（SDPO）。任务要求智能体从 GRPO 出发开发新的后训练改进方法，在 Qwen3-8B 上提升短答与编程任务表现，预算为 3,000 GPU 小时。结果显示 GPT-5.6 Sol 与 Claude Fable 5 均未接近 SDPO：Sol 的方法按相同墙钟时间调整后仅达 SDPO 增益的 15%，宽松评分下约为 35%；Fable 5 无可测量改进。两者都只是复用已知技术。Epoch AI 另估算，按 2027 年前出货的 AI 芯片计算，若运行廉价模型，全球可支撑近 20 亿个并发 AI 智能体，运行前沿模型则约为 3000 万至 1.7 亿个；达到固定 AI 性能水平的成本过去三年约每季度下降 47%。

10月6日周二
  1. AI & SocietyAI & Society · 41

    六款生成式AI聊天机器人心脏健康问答多维评测

    一项横断面研究评测六款生成式AI聊天机器人的心脏骤停公众咨询表现。研究用56个心脏骤停相关公众咨询问题，在2026年5月10日至16日间对ChatGPT Plus 5.5 thinking、Gemini 3.5 Flash、Microsoft Copilot smart、DeepSeek-V4-pro、Doubao和Perplexity各提问一次，共获得336条回答，由五名盲评心内科专家从安全性、准确性、共情、DISCERN、EQIP、JAMA和GQS等维度评估。

9月24日周四
  1. bytedance/UI-TARS-desktop · 60

    字节 Agent TARS 修复 agent-server 未鉴权远程命令执行漏洞

    字节 Agent TARS（UI-TARS-desktop）的 agent-server 存在未鉴权远程命令执行问题：会话创建时未过滤的 agentOptions 会被展开进 Agent 构造函数，调用方可覆盖 mcpServers（经 StdioClientTransport 启动本地进程）、aioSandbox（把沙箱部署降级为主机执行或重定向到攻击者 MCP 服务器）以及模型端点；服务端绑定所有网卡且无鉴权，因此构成未鉴权远程命令执行。相同注入还可经 runtimeSettings（未配置服务端 transform 时）和 agent-server-next 的 sessionInfo.metadata.agentOptions 触发。这是破坏性变更，依赖网络访问的部署需将 server.host 设为 0.0.0.0 或指定地址。

9月2日周三
  1. 中国网信网 · 46

    网信办通报清朗专项行动第二阶段AI技术滥用治理情况

    中央网信办通报“清朗·整治AI应用乱象”专项行动第二阶段进展，聚焦AI制作虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等问题，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。各地网信部门推出针对性措施，北京指导平台升级审核策略，上海推出AI应用“知识普及包”，浙江开展“一企一策”合规指导，广东对多款应用点对点督促整改。抖音、快手、微博、腾讯、百度等平台优化多模态识别模型并动态扩充人脸库、声纹库和违规样本库，豆包、元宝、千问、文心一言等严把原始语料审核并强化AI生成合成内容标识，华为、小米、OPPO、vivo等应用商店加强APP准入与抽检。

7月24日周五
  1. AI Incident Database · 48

    调查：AI 生成诈骗广告借 TikTok 投放系统诈骗尼日利亚用户

    一项为期五周、覆盖 130 条广告的调查发现，AI 生成的深度伪造视频和克隆语音冒充 OPay、UBA、MTN 等品牌及尼日利亚政商人物，以赞助广告形式在 TikTok 投放，将用户导向站外骗取手机号、邮箱和账户信息。报道记录了多起受害者案例，其中一名用户账户内约 15 万奈拉（108.86 美元）经博彩平台代金券交易被转走，另一名用户的邮箱与 Bybit 钱包被接管、加密资产全部消失；被冒充品牌以 OPay 最多，出现在 28 条广告中，广告覆盖英语、皮金语、约鲁巴语和豪萨语。调查还发现多数广告关闭评论区、无法转发，广告主身份与注册国家信息未公开。TikTok 撒哈拉以南非洲传播负责人回应称已移除记者标记的相关广告，并表示平台禁止欺诈性广告；尼日利亚 NITDA 表示平台有义务强化广告主验证与检测。报道称记者随后又收集到 20 多条新增诈骗广告。

已经到底了