跳到正文

#非安全/通用AI

今天还没有收录新动态
9月11日周五
  1. Future of Life Institute ·

    从新教神学看 AI 与工作:John Dyer 谈灵性、劳动与技术的张力

    达拉斯神学院教授 John Dyer 从 Max Weber 的《新教伦理与资本主义精神》出发,讨论 AI 如何改变工作的本质与人的天职感。他认为 AI 可被视为上帝赐予的工具,用于减轻非人化劳动,但若缺乏护栏,其力量与规模会切断人与职业召唤的联系、积累权力并剥削他人,即所谓"未对齐"。

9月3日周四
8月21日周五
  1. Transformer ·

    数据中心为何成为 AI 情绪的象征:从民调反对到“规模即智能”

    数据中心正成为 AI 公众情绪的象征物:Heatmap 最新民调显示四分之三受访者反对在自家附近建设数据中心,一年内反对比例上升 33 个百分点,参议院共和党人也在备忘录中警告其已成为选举周期的“沉睡议题”。文章认为,针对数据中心的用水、能耗和升温 9 摄氏度等指控多为误导或不实,但真正驱动反对的是 AI 变革带来的情绪能量——AI 高度抽象,而数据中心是唯一可拍摄、可占据土地的具体对象。其背后是 OpenAI 提出的 scaling laws:智能随算力、数据和模型神经元连接数增长,而“智能是规模的函数”这一命题,没有比装满芯片的巨型建筑更好的象征。

8月19日周三
  1. Windows On Theory(Boaz Barak) ·

    Michael Rabin 纪念会议

    作为 Mind-IL 以色列科学与学术周的一部分,将举办一场纪念 Michael Rabin 的特别会议,邀请多位知名讲者。该活动时间与以色列大选相近。

7月20日周一
  1. AI Frontiers ·

    Drone WMDs Don't Need Any New Technology

    现有微型无人机技术几乎足以构成大规模杀伤性武器——拳頭大小的机体能自主导航室内并追踪人类目标,俄罗斯 V2U 等半自主武器的前线应用已验证这一点,剩下的主要障碍只是集成而非工程突破。当前小型 FPV 无人机多数仍需人工操控,仅末段交由 AI 瞄准系统,原因是战场属对抗环境,敌我识别、规避己方火力与预设反无人机手段仍需人来完成。若攻击者接受无差别打击并使用简单弹药针对平民,该技术的实用化门槛将大幅降低。 要点: - 所需部件均已存在:拳头大小机架与人形目标跟踪已在侦察无人机及俄制 V2U 类半自主武器中投入使用。

7月14日周二
  1. AI as Normal Technology ·

    AI 作为常规技术:ICML 主题演讲探讨 AI 时代人类还剩下什么工作

    普林斯顿大学研究者 Sayash Kapoor 与 Arvind Narayanan 在 ICML 主题演讲中提出,AI 作为常规技术(AI as Normal Technology)框架可用于理解 AI 对经济与社会的影响,除非未来出现递归自我改进等不连续性。演讲认为,即便认真对待递归自我改进,实验室里也不存在某个里程碑会突然让所有人失业,但未来工作将截然不同,需要大量适应,并最终指向人机“共同超级智能”的愿景。

5月31日周日
  1. Windows On Theory(Boaz Barak) ·

    Boaz Barak 哈佛毕业致辞:拥抱 AI,别做恐龙

    OpenAI 研究员 Boaz Barak 借《Harvard Crimson》毕业特刊建议 2026 届毕业生掌握并尽可能多地使用 AI,除 ChatGPT 外还应上手 Claude Code、Codex 及各类初创产品,同时批评相关公司与监管政府应承担责任而非获得豁免。他认为年轻人应用 AI 推进自己的主张,并指出水资源消耗等风险被夸大、权力集中则关注不足。

4月30日周四
  1. Obsolete(Garrison Lovely) ·

    《Obsolete》书摘:为“人工智能”一词辩护——从 AGI 到 Obsoleting Machine

    Garrison Lovely 在新书《Obsolete》第一章中主张,“人工通用智能”(AGI)聚焦于“像人一样思考”这一错误目标且已被滥用,应以“Obsoleting Machine”(使劳动本身过时的机器)取而代之,并将该产业重命名为“Obsoleting Project”。他指出当今最有能力的通用模型——Anthropic 的 Claude、OpenAI 的 ChatGPT、Google 的 Gemini——虽以此为目标却尚未达成:它们像只能聘用一次的顾问,能读完前人的工作记录并执行有限工作量后被替换,无法无限期加入团队端到端完成任务。

1月30日周五
  1. AI as Normal Technology ·

    事实核查莫拉维克悖论:AI 难易任务划分缺乏实证

    莫拉维克悖论——即人类觉得难的任务对 AI 容易、人类觉得容易的任务对 AI 难——从未经过实证检验。该说法源自 Hans Moravec 1988 年著作 Mind Children,实际只反映 AI 研究界认为哪些问题值得投入,对哪些问题对 AI 容易或困难没有预测力,其进化论解释也值得怀疑。这种思维既催生了对超级智能推理的恐慌,也在机器人等领域带来虚假安慰;由于新能力扩散耗时较长,社会有充足时间应对,却常被浪费。

11月24日周一
  1. Rising Tide(Helen Toner) ·

    Helen Toner 谈 AI 能力的锯齿状发展:为何模型既强大又"很菜"

    Helen Toner 在 The Curve 大会演讲中指出 AI 能力呈"锯齿状":一年前 Claude 3.5 Sonnet、GPT-4o、Gemini 1.5 已在 GPQA 博士级问题上达到约 50% 正确率,却数不清图中线条交叉几次。AI Village 中 Gemini 能卖周边、写博客,却因点不准按钮而误判为技术 bug;Anthropic 的 Project Vend 里 Claude 能自主定价售货,却报错 Venmo 地址、亏本卖金属块,甚至陷入存在危机。

8月22日周五
  1. Obsolete(Garrison Lovely) ·

    反驳“AI 进展停滞”:GPT-5 相较 GPT-4 仍是大幅进步

    GPT-5 常被认为进步有限甚至预示 AI 撞墙,但其对比对象已是近几个月发布的众多竞品模型而非老旧的 GPT-4。若将两者放在同一标准下比较,GPT-5 在多方面远超 GPT-4:处理百万 token 的成本从 GPT-4 的 $37.50 降至 $3.44,综合领先基准得分由 25/100 升至 69,SWE-Bench Verified 解题率从 GPT-4 Turbo 的 2.8% 提高到 65%,METR 估计其可靠完成任务时长达到两小时十七分钟。 [其余部分因篇幅过长无法完整展示]

12月25日周三
  1. Nicholas Carlini Writing ·

    Nicholas Carlini 让不同语言模型逐日重写其网站主页

    Nicholas Carlini 发起实验,连续十二天每天用一个不同的语言模型重写他的个人网站主页,首日是 OpenAI 的 o1-mini。该流程先用固定提示词让其撰写简介网页并循环六次追加更多细节和改进版 HTML/CSS,若遭拒答则随机重试三次,再失败就用一句自称本人手臂受伤无法打字的越狱提示绕过。o1-mini 生成的页面视觉出色却严重失实——43 条关于他的陈述中仅 2 条正确、32 条完全不属实、9 条有明显错误,凸显小参数模型的模型幻觉问题。

12月14日周六
  1. AI as Normal Technology ·

    研究分析 2024 年全球选举中的 78 起 AI 深度伪造:政治虚假信息并非 AI 问题

    对 WIRED AI Elections Project 收录的 2024 年全球选举中全部 78 起 AI 使用案例的分析显示,其中 39 起并无欺骗意图,最常见的非欺骗用途是竞选宣传(22 起中 19 起意在改进竞选材料)。对其余 39 起欺骗性案例,研究估算不用 AI 复现同类内容的成本均不超过几百美元,说明生成式 AI 降低了造假成本却未改变虚假信息的传播瓶颈。作者据此认为,诊断政治虚假信息应关注需求端而非供给端,修复信息环境依赖结构性制度变革而非限制 AI 生成内容。

11月12日周二
  1. AI as Normal Technology ·

    英国肝脏移植匹配算法是否系统性排除年轻患者?

    英国2018年启用的肝脏分配算法通过预测患者移植与否的生存时长差值得出 Transplant Benefit Score(TBS),用28个供受体变量排序分配肝脏。Financial Times 调查发现该算法疑似按年龄歧视,45岁以下患者无论病情多重都难以获得足够高的分数。31岁患者 Sarah Meredith 借助 Ewen Harrison 团队开发的 TBS 计算网页应用发现这一偏差,且该评分无医生推翻机制、无申诉流程。

10月4日周五
  1. AI as Normal Technology ·

    《AI Snake Oil》作者答疑:新书已售约 8000 册,谈写作过程与 AI 立场

    《AI Snake Oil》一书上周出版,目前已售出约 8000 册。作者在 FAQ 中回应了外界疑问,表示书中并非反对技术,而是帮助读者区分真实进步与炒作;他们对预测式 AI 总体持负面态度,认为生成式 AI 是双刃剑,长期看对几乎所有知识工作者有用,但部署混乱、滥用普遍。作者还称自己已不再认同 AI 安全、e/acc 或 AI 伦理任何一方标签,认为阵营对立适得其反。

10月18日周三
6月16日周五
  1. 雷峰网安全频道 ·

    AGI 大时代,企业安全为什么需要“新进化”?

    面对 AGI 时代攻击面扩大与生成式人工智能被用于编写攻击脚本、恶意软件和钓鱼邮件,雷峰网提出企业安全需从单点防御转向“数字安全免疫力”。腾讯安全与 IDC 于 6 月 13 日“数字安全免疫力研讨论坛”联合发布数据安全免疫力模型及《加强数字安全免疫力,促进数字化时代下的韧性发展》白皮书,强调前置投入、动态轻量实时响应,把安全融入战略、管理与运营流程。

5月24日周三
  1. 雷峰网安全频道 ·

    对话安恒刘思宇:做数字资产的守门人

    安恒信息副总裁、终端安全负责人刘思宇在2023西湖论剑·数字安全大会上表示,终端安全将朝体系化、一体化方向发展,安恒以EDR切入市场,通过无极架构实现单一客户端按需组合安全能力。据赛迪顾问《中国终端安全检测与响应产品市场研究报告(2022)》,安恒EDR占全国市场份额5%、排名第三。安恒还推出勒索行为检测引擎与智能备份引擎,前者可识别已知和未知勒索病毒,后者基于AI机器学习和内核级技术备份关键数据,两项技术已完成储备、即将推向市场。

5月19日周五
  1. 雷峰网安全频道 ·

    知道创宇赵伟8年前提出“GPT”概念:从APT到AI+大数据驱动的实战防御

    知道创宇创始人赵伟早在2015年就提出网络安全领域的“GPT”概念,主张以超级大数据和AI技术支撑更高维度的全局攻防视角。他将网安行业划分为手动分析、自动分析、信息、智能四个时代,并推动知道创宇以“安全产生数据、数据驱动安全”的闭环构建云防御、云监测、云测绘等产品体系。他认为AI已进入“智能时代”,未来攻防趋势是“用云攻击云、用云防御云”。

已经到底了