印度《消费者保护法》能否覆盖 AI 产品损害？工作论文指出归责缺口

印度《消费者保护法》（2019，下称 Act）能否覆盖缺陷 AI 产品或服务造成的伤害，并在价值链上按比例分配责任。

• 场景：作者称，消费者或有意或无意接触聊天机器人等 AI，企业也将其接入供应链。不合意结果可能伤害自主与福祉，风险包括隐私侵入、有偏结果和不可靠。
• 既有法：作者称，Act 废除 1986 年法时首次写入 product liability，使供应链各方对产品或服务造成的损害负责；主体分为 manufacturer、seller、service provider。
• 不清楚之处：作者称，尚不确定该条款能否充分且按比例覆盖 AI 伤害，以及价值链主体能否归入这三类。摘要称现有框架缺少按比例处理多主体伤害的机制。
• 本文范围：系列第一篇回答两问：Act 是否覆盖 AI 相关伤害，以及是否按比例分配供应链责任。指南举例的是应用；作者把底层 AI 模型也纳入。

印度治理与金融部门报告

• India AI Governance Guidelines：作者称其问责建议包括分级责任制度（graded liability regime）和 AI 价值链透明度，并主张用既有法律治理 AI 应用，例子是聊天机器人。
• RBI FREE-AI Committee（2025）：作者援引其判断，AI 部署模糊利益相关方的责任界限，机构可能面临法律风险和监管制裁，尤其当决策影响客户权利、信贷批准或投资结果时。

产品责任学说

• 加州陪审团对 Meta、Google 的裁决：作者把它当作观察设计缺陷责任的框架。原告是一名在儿童时期使用平台的女性，主张推荐、自动播放和点赞被用来最大化参与。脚注称，据新闻报道公司将上诉。
• chain-of-distribution liability：作者援引美国 Vandermark v. Ford Motor Co. 一脉学说，称其对思考 AI 责任可能有用；该思路让每个把产品送到消费者手中的当事人都承担责任。

技术论文与暗黑模式监管

• Zhao 等（2024）与 Chandra 等（2026）：作者援引这些技术论文，称它们显示 AI 幻觉是设计特征而非缺陷，并由此提出当局或需审查设计而不只是效果。
• CCPA 暗黑模式指南（2023）：禁止有损消费者决策或自主的若干暗黑模式。作者还提到 CCPA 近期就误导性广告和默认平台功能执法（脚注案号 CCPA-2/94/2025-CCPA），称当局更趋向在伤害发生前行动。

价值链参照

• NIST AI RMF：作者称，依据其 Figure 1，价值链上大致有 developer、deployer、user。作者只用这一点说明主体构成。

论文未列出对比基线或基准数据集。作者把本文放在「用既有法律治理 AI」的建议下，检查 Act 的覆盖与比例责任，并把指南所谈的应用扩到 AI 模型。

作者不提出新的责任规则，而是对照 Consumer Protection Act, 2019 的定义，看 AI 伤害和价值链主体能否落入既有 product liability。

问题设定

• 两问：Act 是否覆盖 AI 相关伤害；是否给供应链上不同主体分配了按比例的责任。
• 服务范围：Act 列举银行、金融、保险、交通和娱乐。作者认为定义宽到可以覆盖提供医疗建议或健康服务的聊天机器人，并把 AI 模型一并纳入。
• 免费服务：第 2(42) 条不包括免费提供的服务。作者称这可能排除使用免费 AI 应用时发生的事件。

伤害与责任事由

• product liability：manufacturer、product service provider 或 product seller，就缺陷产品或有缺陷的服务造成的伤害向消费者赔偿。
• harm：包括产品本身以外的财产损害，人身伤害、疾病或死亡，以及伴随人身伤害、疾病或财产损害的精神痛苦或情绪困扰。不包括违反保证条件的财产损害，也不包括商业或经济损失。
• deficiency：包括服务中的过错或瑕疵，以及造成消费者损失或伤害的过失。作者称 harm 与 deficiency 技术中立，宽到可以覆盖 AI 相关事件。
• 事由：作者列举不符合条款与条件、防止伤害的使用说明不充分，后文又提到制造缺陷。作者称还有其他事由，正文未逐条列出。

Table 1 把伤害分成三类并对应 Act 事由。作者称该表只是说明，须由执法机关和司法机关解释。

因果关系

• 要建立的联系：作者称，即便假定 Act 覆盖该伤害，仍须说明缺陷产品或有缺陷、有过错、不完美或不充分的服务是实际原因或近因。
• 作者看到的困难：以监管者检验传统产品的方式检验缺陷和因果联系会很难。摘要称，AI 故障往往来自设计选择而非离散缺陷。
• 设计与印度制度：作者借用美国设计缺陷裁决和技术论文，提出当局或将审查设计而不只是效果；同时写明印度更侧重缔约过程与履行，须与该美国诉讼区分。
• 暗黑模式：作者认为，AI 进入广告、定价算法和聊天机器人可能的胁迫场景后，重访 2023 年指南并收集证据可能有意义。这是建议，不是已完成的收集。

主体映射

• Act 的三类：manufacturer 制造产品，seller 分销或销售，service provider 使用产品提供服务。product 指「任何物品、货物、物质、原材料，或该产品的延伸周期」。作者称 Act 没有专门处理 AI，也没有说明如何分责。
• 作者的归类：数据提供者与模型开发者或可视为 manufacturer。为不同用途微调者或可视为 seller；若自己提供服务，也可归入 service provider。仅用微调模型提供服务的公司归入 service provider。
• 覆盖与错位：作者认为宽定义很可能覆盖 AI 模型和应用，技术上 Act 似乎覆盖链条各方。作者又称，Act 假定角色和增值可被区分，而 AI 责任碎片化且重叠。NIST Figure 1 的三类是 developer、deployer、user。
• 比例：作者用有偏数据导致的贷款拒绝、医院诊断工具把癌症误判为良性等情形发问，称也许各方在不同程度上负责，但 Act 没有给出按比例分配的框架。连锁分销责任只被称作可能有用的思考方式。

作者给出的路径

• 澄清主体：作者建议由 AI Governance and Economic Group、Technology and Policy Expert Committee 与 CCPA 研究适用性和缺口，并澄清与数据保护法等部门法的重叠。
• 能力：作者建议 AI Safety Institute 建设消费者论坛的技术能力，CCPA 开展 AI 与消费者保护方面的认知工作。
• 补充制度：作者称也许还要探索补充性法律制度；回应将随情境、个性化、所收集个人信息，以及偏见或决策的个人与社会后果而变化。作者计划在后续工作论文中讨论。

实验设置

• 无实证实验：论文未报告被测模型、数据集或基准、指标、评审模型、阈值、样本量或重复次数。
• 对照文本：Consumer Protection Act, 2019，以及 India AI Governance Guidelines、NIST AI RMF 的 Figure 1、RBI FREE-AI Committee（2025）、CCPA 2023 年暗黑模式指南。
• 事例性质：加州陪审团裁决和 Claude 编程智能体删除数据库的报道是作者援引的事件。贷款拒贷、医院误诊、自动驾驶覆盖指令是作者设定的情形，不是判决。
• Table 1：作者称该表只是说明，适用与否取决于执法机关和司法机关的解释。

主结果

下表转录 Table 1，不是实验指标。摘要另将 psychological harm、biased outputs 列为定义或可适用的情形；这两项不在表中。

伤害类型	论文中的例子	Act 中或可覆盖的事由
Personal injury to consumers	聊天机器人鼓励自伤	人身伤害、疾病或死亡；伴随人身伤害、疾病或财产损害的精神痛苦或情绪困扰
Inaccurate/false outputs	聊天机器人就退款政策给出虚假信息	Deficiency in services
Loss of control	编程智能体未经授权清空数据库，或自动驾驶汽车覆盖用户指令	Deficiency in services、人身伤害、财产损害

• 作者的覆盖判断：harm 与 deficiency 被作者称为技术中立，表只用来说明 product liability 或可适用，最终取决于执法与司法解释。
• 摘要与表不一致处：摘要还列出心理伤害和有偏输出。有偏输出出现在第 4 节的贷款例子里，Table 1 没有这一行。
• 定义上的排除：第 2(42) 条可能使免费服务落在外面。harm 不包括违反保证的财产损害，也不包括商业或经济损失。作者没有据此对 AI 经济损失案件下结论。

因果关系

• 讨论的问题：缺陷或有瑕疵的服务是否为伤害的实际原因或近因。论文没有案件统计。
• 作者的判断：用传统产品的方式检验缺陷和因果联系会很难。摘要称困难在于故障往往来自设计选择而非离散缺陷。作者以聊天机器人回应如何被认定为促发有害行为为例，未给出判定程序。
• 设计审查：作者称所引技术论文把幻觉写成设计特征而非缺陷，并认为当局或需审查设计而不只是效果；同时称印度更侧重缔约与履行。

责任归属

• 作者的归类：数据提供者与模型开发者或可视为 manufacturer；微调者或可视为 seller，自行提供服务时也可视为 service provider；仅用微调模型提供服务者归入 service provider。作者认为技术上 Act 似乎覆盖各方。
• 未对齐：作者认为 Act 假定角色可区分，而 AI 责任重叠，因此没有按比例归责的框架。作者没有把 NIST 的 developer、deployer、user 写成与 Act 三类一一对应。
• 援引的判断：RBI FREE-AI Committee（2025）称部署会模糊责任，机构可能面临法律风险和监管制裁。Claude 驱动的编程智能体删除一家公司全部数据库及备份的报道，被用来追问责任在 AI 公司、部署工具还是授予访问权的公司。论文未给结论。

法院案件与后续建议

• 案件观察：作者称尚未见到 AI 相关消费者案件进入法院，并称这与人格权案件的频繁诉讼相对。作者认为执法能力与消费者认知这两个因素可能是原因。论文未报告检索范围或案件数。
• 建议的研究：作者建议 AI Governance and Economic Group、Technology and Policy Expert Committee 与 CCPA 研究适用性和缺口，并澄清与数据保护法等部门法的重叠。
• 能力与制度：作者建议 AI Safety Institute 建设消费者论坛的技术能力，CCPA 做认知工作；并称也许需要补充性法律制度，留待后续工作论文。

其他消融与分析

• 论文未报告消融、参数分析或统计检验。

作者指出的局限与后续方向

• 仍有缺口：作者称，就面向消费者的系统而言，Act 似乎足以处理 AI 相关案件，但也有一些缺口（第 5 节）。
• 交由机构研究：作者称，适用性与缺口可由 AI Governance and Economic Group、Technology and Policy Expert Committee 连同 CCPA 研究；它们应澄清与数据保护法等部门法的重叠并给出建议（第 5 节）。
• 能力与认知：作者称，执法机构的制度与技术能力以及消费者认知是另一问题；这两个因素可能是尚未见到 AI 相关消费者案件的原因，并与人格权案件的频繁诉讼相对（第 5 节）。
• 建议的工作：作者建议 AI Safety Institute 建设消费者论坛的技术能力，CCPA 开展围绕 AI 与消费者保护的认知工作（第 5 节）。
• 补充制度：作者称也许还要探索补充性法律制度。回应将随情境、个性化程度、所收集个人信息，以及偏见或决策的个人与社会后果而变化；某些情境需要伦理与公平使用方面的政策与价值。作者计划在后续工作论文中讨论（第 5 节）。

实验覆盖范围

• 分析对象是 Act 的 product liability、harm、deficiency，以及 manufacturer、seller、service provider；服务举例包括银行、金融、保险、交通、娱乐（第 2、4 节）。
• Table 1 对应三类伤害：人身伤害、不准确或虚假输出、失控。作者称该表须由执法机关和司法机关解释（第 2 节、Table 1）。
• 讨论材料包括 NIST AI RMF Figure 1 的 developer、deployer、user，RBI FREE-AI Committee（2025），CCPA 2023 年暗黑模式指南及案号 CCPA-2/94/2025-CCPA 的执法命令，加州陪审团对 Meta 与 Google 的裁决，以及 Claude 编程智能体删除数据库的报道（第 3、4 节）。
• 论文未报告实证实验、被测模型、样本量、评审协议或 AI 相关消费者案件的数量；「尚未见到此类案件」是第 5 节的陈述。
• 作者在第 3 节写明，须把美国设计缺陷产品责任诉讼与印度制度区分开，印度更侧重缔约过程与产品履行。

Kumar、Sridhar、Mithal 与 Ravindran 的工作论文检查，印度消费者保护成文法能否处理面向消费者的 AI 伤害。

• 问题：聊天机器人等应用可能伤害自主与福祉。作者要回答 Consumer Protection Act, 2019 是否覆盖这类伤害，以及供应链主体是否获得按比例的责任。
• 对照方法：作者逐项读 product liability、harm、deficiency 和 manufacturer、seller、service provider。harm 包括他人财产损害、人身伤害或死亡及伴随的精神痛苦，但不包括商业或经济损失。
• 伤害：Table 1 把聊天机器人鼓励自伤、虚假退款信息、未经授权清空数据库或自动驾驶覆盖指令，分别对应人身伤害或服务缺陷等事由。作者称此表仅为说明。摘要还把心理伤害和有偏输出算入或可适用的情形。
• 排除与因果：第 2(42) 条可能使免费 AI 应用上的事件落在外面。作者称还须证明实际原因或近因；故障往往来自设计选择，传统缺陷检验很难用。
• 主体：作者认为数据提供者与模型开发者或可视为 manufacturer，微调者或可视为 seller，纯服务使用者视为 service provider。作者同时称角色重叠，Act 没有按比例分配的框架。
• 结论：作者称，对面向消费者的系统，Act 似乎足以处理相关案件，但仍有缺口，执法需要澄清部门法交叉。作者建议指定委员会与 CCPA 研究这些缺口，由 AI Safety Institute 和 CCPA 分别补能力与认知，并计划在后续论文讨论补充制度。作者还称法院中尚未见到此类消费者案件。