跳到正文

防御与护栏 · News

10月13日 · 周二

防御与护栏 · News

按原发与事件进展排列
防御与护栏

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架

当前：防御与护栏

10月6日周二
  1. Beeline · 20

    俄罗斯运营商 Beeline 用 AI「赛博家庭」陪聊诈骗电话：今年转接 1910 万通、拖住骗子 14 万小时

    俄罗斯运营商 Beeline 将疑似诈骗电话转接给由 AI 语音助手组成的「赛博家庭」陪聊，用奶奶、少年、妈妈、爸爸等声音拖住骗子。公司总经理 Сергей Анохин 称，自今年年初以来已有 1910 万通电话被转给「赛博家庭」，累计通话时长 14 万小时，约合 6000 天；同期反欺诈平台还拦截了超过 8.7 亿通骚扰电话。这些对话还被用作模型再训练素材，使 AI 助手能力不断增强。

10月5日周一
  1. Valor Econômico · 22

    Itaú 聘请心理学家训练 AI 助手，帮诈骗受害者脱离“恍惚”状态

    巴西 Itaú 银行聘请心理学家团队训练其对话式 AI 助手，用于在客户遭遇诈骗时将其从“恍惚”状态中拉出。该行已能通过 AI 识别用户通话中打开银行 App 的诈骗场景，并弹出近 40 种定制化警告，但仍有用户无视提示继续转账。Itaú 还将真实受骗客户请入总部“镜像室”，由精神分析师评估其行为以定位干预触发点。

8月14日周五
  1. Beeline · 23

    俄罗斯运营商 Beeline 用 AI「赛博家庭」反制诈骗电话：7 月以来拦截约 500 万通，骗子被拖住近 3.9 万小时

    俄罗斯运营商 Beeline 将疑似诈骗来电转接给 AI「赛博家庭」陪聊，7 月以来已拦截约 500 万通诈骗电话，其中 7 月 390 万通、8 月第一周超 100 万通，骗子累计耗费近 3.9 万小时。该 AI 家庭由十个声音组成，会根据来电号码生成带性格、职业与爱好的随机角色，并保留五小时内近期对话记忆，使同一骗子重拨时遇到同一角色。通话数据还用于改进防护算法，服务面向「Моя безопасность」免费基础套餐用户。

7月21日周二
  1. Google DeepMind · 17

    Google DeepMind 推出 Gemini 3.6 Flash、3.5 Flash-Lite 及面向网络安全的 3.5 Flash Cyber

    Google DeepMind 发布三款新 Gemini 模型：主力模型 Gemini 3.6 Flash、最快最便宜的 3.5 Flash-Lite，以及与代码安全智能体 CodeMender 搭配的网络专用模型 3.5 Flash Cyber。据 Artificial Analysis Index，Gemini 3.6 Flash 比 3.5 Flash 减少 17% 的输出 token，价格降至 $1.50/1M 输入 token 和 $7.50/1M 输出 token，并在 DeepSWE（49% vs. 37%）等多个基准上升。

已经到底了