跳到正文

AI 动态

安全不是主角的 AI 圈大事:头部实验室的旗舰模型发布、重大融资并购和行业级事件。

151条动态与论文相关主题OpenAIAnthropic政策与监管
在这个话题内搜索或按分类筛选

新闻与论文

第 101–120 条 · 共 151 条
10月2日周五
  1. Microsoft On the Issues · 收录 · 原文 8

    微软启动 Check. Recheck. Vote. 计划,帮助选民应对 AI 生成的选举信息

    微软在 2026 年中期选举前推出选民教育计划 Check. Recheck. Vote. 的新阶段,帮助选民识别 AI 生成选举信息中的风险。该计划要求选民核查 AI 答案的来源与引用、通过原始来源复核关键细节,并依据州或地方选举官网的当前信息投票。微软同时与 NASS、NASED 合作将计划推广至全美五十州及属地,并与 iCivics 合作推出 Minecraft Education 公民学习体验 Village Square。

10月1日周四
  1. Help Net Security AI · 收录 · 原文 8

    调查:多数人预计 AI 进入 SOC 会让初级安全岗位更难获得

    Swimlane 对 500 名已使用 AI 的安全运营中心(SOC)人员的调查显示,近九成受访者称 AI 让工作更满意,但约四分之一认为 AI 阻碍了自身安全技能的积累,且这两类人的满意度几乎相同(91% 对 92%)。近半数预计初级岗位将因要求更高或机会更少而更难获得,仅 1% 认为分析师职业路径会维持原状。约四成受访者所在组织已围绕高价值工作正式重写分析师岗位,其中 71% 称 AI 显著提升了满意度,无正式调整者仅为 29%。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  2. arXiv:可解释性 · 收录 · 原文 论文8

    动物重识别模型学到了什么?DINOv3 中线性生物概念及其来源

    基于 DINOv3 骨干、用 triplet-margin loss 微调的西部低地大猩猩重识别模型,其表征中性别与年龄以线性方向存在,对留出个体可达 0.91 AUROC,且每个个体仅需一张图像即可恢复。激活引导显示性别方向被模型因果使用,能显著改变预测性别;对比现成与微调骨干表明重识别训练并未创造这些概念,而是将其在网络中重新分布。数据归因进一步显示该表征反映渐变的生物轴、在群体中冗余编码,并受视觉模糊个体影响。

  3. arXiv:危险能力与安全评测 · 收录 · 原文 论文13

    DocTalkBN:孟加拉语专家远程医疗对话数据集

    DocTalkBN 是孟加拉语真实专家远程医疗对话的大规模多模态数据集,采集自全国播出的远程医疗节目,含 557.63 小时配对音文、1,515 通多轮患者来电、10,274 组主持人与医生问答,共 1.7M tokens,覆盖 26 个医学专科。数据集保留低资源语言下真实医患交互的口语特征,并构建医疗分诊分类、建议安全评估和医疗命名实体识别三项下游任务,对多种大语言模型与编码器基线进行评测,结果显示其在临床推理类任务上尤为实用。数据集与源码已公开。

  4. arXiv:危险能力与安全评测 · 收录 · 原文 论文43

    研究分析 185 份真实报告:AI 聊天机器人使用相关的妄想与伤害

    一项对 2025 年 8 月至 2026 年 2 月间收集的去标识化在线调查回复的横断面二次分析,刻画了与 AI 聊天机器人使用相关的心理健康伤害。研究分析了 95 份第一手和 90 份第二手叙述,中位年龄 35.0 岁。配对评分者将 102 份报告(55.1%)编码为与妄想信念一致,其中 50/102(49.0%)出现聊天机器人对信念的认可。常见后果包括孤立、关系破裂、住院、失业和财务损失,另有 4 份第二手报告描述了自杀死亡。作者强调样本为自我选择的便利样本,报告为回顾性且未经核实,结果应视为初步信号检测,而非流行率或因果证据,并呼吁开展前瞻性监测和基于轨迹的安全评测。

  5. arXiv:危险能力与安全评测 · 收录 · 原文 论文15

    防技能退化设计:元认知反馈减少对 LLM 助手的认知卸载

    一项预注册在线实验(N=704,2×2 设计加无 AI 对照组)发现,元认知反馈能减少用户向 LLM 助手卸载答案的行为(OR=0.47),并提升随后无辅助测试的成绩(OR=1.51)。实验任务是借助仅在明确请求时才给出解答的 LLM 助手练习分数运算,之后进行无辅助测试。基于努力的奖励对卸载行为和测试成绩均未产生可检测影响。

  6. arXiv:危险能力与安全评测 · 收录 · 原文 论文50

    研究称 GPT 系列安全训练把性别歧视转化而非消除

    一项被 EMNLP 26 主会接收的研究分析了 GPT-2 到 GPT-5 共 15 个模型、45 万条性别指向的补全文本,提出“harm laundering(伤害洗白)”概念,认为显式歧视内容在安全训练后是被转化而非被移除。研究发现 GPT-2 中针对女性的性暴力聚类到 GPT-4 已消失,而针对男性的补全获得了照护、情感表达、盟友身份等正向表征空间,女性指向的补全没有;在 GPT-5 上,一个含 1,997 篇文档的主题聚类把乳腺癌框定为男性权利议题,女性指向输出中没有对应聚类,三个独立分类器都将其判为非毒性。

  7. AI Incident Database · 收录 · 原文 21

    Parkview High 今年收到第 4 起 AI 生成炸弹威胁

    美国佐治亚州 Gwinnett County 的 Parkview High School 本学年收到第 4 起 AI 生成炸弹威胁,最新一起于周一送达,学校一度进入封锁状态后恢复正常运转。校警称近期威胁呈现使用遮蔽电话号码的模式,正与 Georgia Bureau of Investigation 和 FBI 联合调查,目前尚未逮捕或锁定任何嫌疑人。

  8. AI Incident Database · 收录 · 原文 11

    斯坦福大学违反自身 AI 政策,将一名西班牙裔学生 AI 换脸成虚构黑人女性用于校园横幅

    斯坦福大学在校园“Welcome Home”横幅中,用生成式 AI 将西班牙裔学生 Billy Ramirez 替换为一名不存在的黑人女性,另两名同学的面部也被 AI 修改得更瘦。校方发言人 Charlene Gage 确认该做法违反学校 AI 政策——禁止用 AI 生成或修改斯坦福人物、事件、研究、设施或成就的图像,且未披露同样违规,校方称正为员工提供额外培训并加强材料审核。Ramirez 表示校方至今未联系或道歉,横幅已被撤下。

  9. AI Incident Database · 收录 · 原文 8

    斯坦福大学确认在争议中使用了 AI 编辑的学生照片

    斯坦福大学确认,其 R&DE 部门用生成式 AI 修改一张宣传图中多名学生的外貌,包括更换服装、为两名学生瘦脸,并完全改变一名学生的种族、性别和外貌。校方称该做法违反禁止用 AI 生成或修改斯坦福人物、事件、研究与设施图像的 AI 政策,且未披露,正为员工提供额外培训并加强材料审核。涉事图片原用作 Governor's Corner 学生宿舍中心横幅,现已撤下。

  10. AI Incident Database · 收录 · 原文 7

    斯坦福 R&DE 用 AI 篡改学生广告照片中的种族与外貌

    斯坦福 Residential & Dining Enterprises(R&DE)被曝用 AI 修改其广告照片中学生的种族与外貌。学生 Billy Ramirez ’27 发现自己在原照片中被移除,替换为一名 AI 生成的 Black 女性,其右侧两名学生也被修图显得更瘦。Ramirez 表示自己感到被消音和抹除,并反对校方如此呈现学生形象。

  11. AI Incident Database · 收录 · 原文 8

    斯坦福用 AI 修改照片,将 Hispanic 学生替换为 Black 女性

    斯坦福大学承认使用 AI 修改了一张校园照片,将原本出镜的 Hispanic 学生 Billy Ramirez 替换为一名 Black 女性,并调整其他学生外貌使其显得更瘦。校方称此举违反其禁止用 AI 生成或修改斯坦福人物、活动、研究及设施图像的政策,正与住宿与餐饮部门合作加强培训与审核,并已撤下相关横幅。该照片最初于 2024 年发布于校方餐饮服务账号,上周被用于校园横幅。

  12. 雷峰网安全频道 · 收录 · 原文 6

    安恒信息范渊:AI+安全不是从0开始

    安恒信息董事长范渊在2023西湖论剑·数字安全大会上表示,ChatGPT证明AI应用于安全领域这条路可以走通,而安恒做“AI+安全”并非从0开始。他指出AI大模型本身带来新的网络安全风险,类ChatGPT技术可使自动化生成网络攻击工具和病毒木马的效率提升几百倍,同时“AI+安全大脑”已在产品、平台和服务三个维度加速投入。安恒利用自然语言模型通过迁移学习做数据分类分级,新行业效率提升5倍以上,已积累行业提升10倍到20倍以上。

  13. 雷峰网安全频道 · 收录 · 原文 6

    知道创宇赵伟8年前提出“GPT”概念:从APT到AI+大数据驱动的实战防御

    知道创宇创始人赵伟早在2015年就提出网络安全领域的“GPT”概念,主张以超级大数据和AI技术支撑更高维度的全局攻防视角。他将网安行业划分为手动分析、自动分析、信息、智能四个时代,并推动知道创宇以“安全产生数据、数据驱动安全”的闭环构建云防御、云监测、云测绘等产品体系。他认为AI已进入“智能时代”,未来攻防趋势是“用云攻击云、用云防御云”。

  14. 雷峰网安全频道 · 收录 · 原文 6

    对话安恒刘思宇:做数字资产的守门人

    安恒信息副总裁、终端安全负责人刘思宇在2023西湖论剑·数字安全大会上表示,终端安全将朝体系化、一体化方向发展,安恒以EDR切入市场,通过无极架构实现单一客户端按需组合安全能力。据赛迪顾问《中国终端安全检测与响应产品市场研究报告(2022)》,安恒EDR占全国市场份额5%、排名第三。安恒还推出勒索行为检测引擎与智能备份引擎,前者可识别已知和未知勒索病毒,后者基于AI机器学习和内核级技术备份关键数据,两项技术已完成储备、即将推向市场。

  15. 雷峰网安全频道 · 收录 · 原文 6

    AGI 大时代,企业安全为什么需要“新进化”?

    面对 AGI 时代攻击面扩大与生成式人工智能被用于编写攻击脚本、恶意软件和钓鱼邮件,雷峰网提出企业安全需从单点防御转向“数字安全免疫力”。腾讯安全与 IDC 于 6 月 13 日“数字安全免疫力研讨论坛”联合发布数据安全免疫力模型及《加强数字安全免疫力,促进数字化时代下的韧性发展》白皮书,强调前置投入、动态轻量实时响应,把安全融入战略、管理与运营流程。

  16. 雷峰网安全频道 · 收录 · 原文 6

    对话亚信安全:为什么我们需要新一代终端安全?

    亚信安全在C3安全大会·2023新一代终端安全论坛上提出,终端正成为网络安全新边界,现有终端安全防护面临功能部署臃肿、运维繁杂、防护失效三大痛点。亚信安全终端安全产品总经理汪晨称,85%的黑客攻击潜伏在网络加密流量中,需在终端侧增强才能看清威胁。6月29日,亚信安全推出新一代终端安全品牌TrustOne,以“极简新”为理念,集产品能力、部署、管理、运维一体化,具备原子能力化、攻击面管理、风险治理数字化、已知未知攻击检测响应和一体化平台化五方面能力。

  17. 雷峰网安全频道 · 收录 · 原文 2

    ISC 2023:360 智脑支持的 AI 数字人如何成为大模型入口

    ISC 2023 第十一届互联网安全大会以"安全即服务,开启人工智能时代数字安全新范式"为主题,打造全球首场 AI 数字安全峰会,开幕式由 360 智脑驱动的数字主持人"可心"全程主持。大会还开设线上数字小镇,50 位企业家、学者与技术专家以 AI 数字人身份围绕漏洞检测、威胁流量检测、数据安全等话题展开 50 余场演讲。周鸿祎称 AI 数字人是大模型最重要的应用入口,360 将借此降低 prompt 使用门槛,推动大模型在消费级与企业级场景落地。

  18. 雷峰网安全频道 · 收录 · 原文 13

    安全大模型层出不穷:安恒、360、奇安信等网安厂商也忍不住了

    安恒信息、360、奇安信等多家安全厂商相继发布安全大模型,网络安全行业加速拥抱GPT。安恒恒脑·安全垂域大模型已用于成都大运会及杭州亚运会,安全运营成效提升70%以上;奇安信推出Q-GPT安全机器人,360则以安全大模型打造智能中枢系统。但多位