面向 EU AI Act 基本权利影响评估的可复用语义网框架

欧盟《人工智能法》第27条所要求的基本权利影响评估，缺少可互操作的证据基础设施。

• 出现场景：作者称欧洲政府机构正在规模部署 LLM，用于福利资格分拣、公民聊天机器人、招聘筛选和个案工作者决策支持。作者称偏见放大、幻觉输出和不透明会关系到个人获得工作与基本服务的机会，且并不总是可挽回。
• 作者举出的后果：作者以荷兰税务局算法风险评分、SyRI 案和 Mobley v. Workday 诉讼（文中作指称）为例，称评估不足时，高利害公共部门 AI 会造成大范围权利损害。作者转述 FRA 的看法：许多部署仍缺少做评估所需的工具和证据基础。
• 现有材料：AIAAIC 与 AIID 使用自由文本和社区标签，而非 AI 法术语；DPV、VAIR、AIRO 提供机器可读分类，但作者称未进入 FRIA 工作流。AI 法义务与《欧盟基本权利宪章》以自然语言写成，作者称因此不支持自动化，部署者须手工对照。
• 本文提出的对象：针对附件 III(4) 就业与劳动者管理、附件 III(5)(a) 获得基本公共服务，作者提出可复用的语义网框架，把策展证据做成可 SPARQL 查询的知识图谱，并比较关键词、LLM 与混合标注。作者称完整技术实现写在配套学位论文中，本文是扩展摘要。

引言按证据来源分组讨论，没有单独的 Related Work 节。

事件库与事件报告

• AIAAIC（Pownall, 2024）与 AIID（McGregor, 2021）：汇集现实世界 AI 事件。作者称二者用自由文本叙述和社区标签，不用 AI 法术语。
• OECD（2025）：讨论 AI 事件的共同报告框架。第5节称本文有助于正在形成的事件报告标准化，未具体批评该框架。

语义网风险词表

• DPV（Pandit 等, 2024；W3C, 2022）、VAIR（Golpayegani 等, 2024）、AIRO（Golpayegani 等, 2022）：提供与监管框架对齐的机器可读风险分类。作者称这些词表尚未整合进 FRIA 工作流。
• FRIA ontology（Rintamäki and Pandit, 2025）：面向 AI 法基本权利影响评估的本体。本文模式与之对齐；论文未批评该本体。

法规文本与影响评估

• 欧盟 AI 法第27条与附件 III（2024）、基本权利宪章（2000）：要求公共部门高风险系统部署前做 FRIA，权利例子包括不歧视、隐私和良好行政。作者称这些文本以自然语言表达，不支持自动化。
• FRA（2025）：作者转述其看法，许多部署仍缺少有意义评估所需的工具和证据基础。
• Golpayegani 等（2023, 2024）被局限节称为已经点出高风险分类覆盖上的缺口；Rintamäki 等（2026）被第5节称为给 GDPR 与 AI 法影响评估要求提供互补法律框架。论文未与这两项做定量对比。

案例与模型风险论述

• 荷兰儿童保育津贴丑闻（Amnesty, 2021）、SyRI 案（2020）及后续评论（Wieringa 等, 2023）、Mobley v. Workday：作者用来说明评估不足时可能出现的权利损害。SyRI 被作者称为认定公共福利中的自动画像可以构成对欧洲人权公约的违反。

• Bender 等（2021）、Weidinger 等（2021）、Bommasani 等（2021）：引言用来交代 LLM 部署与权利风险，论文未做方法对比。

• 基线与数据：比较对象是同义词扩展的关键词词典匹配、Claude Sonnet 分类器，以及二者的混合法；领域分类另与 GPT-4o-mini 比较。数据是自建 150 条语料和其中 69 条金标准，不是外部命名基准。

作者把本文定位为用语义网连接事件证据、风险词表和监管义务的 FRIA 框架，范围限于上述两类附件 III 应用。

框架把两类高风险场景的事件、政府用例和判例沿四轴标注，再序列化为可查询知识图谱。 作者称完整实现在配套学位论文，这里只给出框架和主要经验结果的设计。

语料与四条轴

• 三类来源：AIAAIC 约 100 条、美国联邦 AI 用例清单 30 条、HUDOC 中的欧洲人权法院案件 20 条，合计 150 条，覆盖就业与基本公共服务中与 LLM 相关或同类的部署。作者称三者分别对应现实失败、在用的政府部署和权威法律分析。
• 四轴：附件 III 领域（就业或基本服务）；牵涉的宪章权利（多标签）；风险模式（偏见/歧视、隐私泄露、程序不公、缺乏透明度或其他）；因果因素（数据质量、模型设计、部署情境或监督失败）。

模式与知识图谱

• 对齐对象：模式基于语义网标准，并与 DPV、VAIR、AIRO 和 FRIA ontology 对齐。作者称复用既有词表可降低采用者的学习负担，并提高与现有合规工具的互操作。
• 两种序列化：Turtle RDF 知识图谱含 1,351 条三元组（193 个节点、965 条边），用 SPARQL 检索；另有 150 条 JSON-LD。
• 监管对照：把附件 III(4) 与 III(5)(a) 的义务映射到宪章具体条款。作者称该映射并未在 AI 法中逐条列出；对照表把它写成机器可读链接，供多标签权利轴使用。

三种标注

• 关键词基线：对受控词表做同义词扩展后的词典匹配。
• LLM 分类器：Claude Sonnet，零温度采样、few-shot 提示、结构化输出约束。论文未写示例条数。
• 混合法：用优先级逻辑消解冲突。作者称在各自表现更好的轴上保留结果：领域用关键词，权利用 LLM。支持这一选择的分轴 κ 未在本摘要给出。

查询与演示场景

• 界面：Flask 应用启动时加载知识图谱，按附件 III 领域、宪章权利和风险模式过滤。作者称这朝第27条(5)所预期的交互式合规工具推进。
• 五个场景：福利资格 AI、公共部门招聘筛选、公共住房中的监控、个案工作者的 LLM 决策支持、国家监管机构的跨领域专题审查。
• 对照用的人工子集：150 条中 69 条由一名标注者按书面指南、依据原始材料标注，作为金标准。指标为 Cohen's κ 与 percentage agreement，解释采用 Landis and Koch 尺度。

实验设置

• 分类模型：Claude Sonnet（零温度、few-shot、结构化输出）；领域分类另比较 GPT-4o-mini。正文模型名写 Claude Sonnet。
• 语料：150 条。AIAAIC 约 100 条，美国联邦 AI 用例清单 30 条，HUDOC 20 条。领域为附件 III(4) 与 III(5)(a)。
• 金标准：69 条（46%），一名标注者，按来源和两个领域分层；查阅原始材料，并使用写有各轴决策标准的书面指南。作者称子集用于分轴一致性估计，把 150 条全部人工标注会取消流水线要避免的成本。
• 方法：关键词词典匹配、Claude Sonnet、混合法（领域保留关键词，权利保留 LLM）。
• 指标：Cohen's κ 与 percentage agreement，按 Landis and Koch 尺度解释；检索用各场景命中条数和五场景并集覆盖率。论文未报告重复次数。percentage agreement 的具体百分比未出现在本扩展摘要正文。

主结果

表格较宽，可左右滑动

条件	指标	数值	出处
就业域，表现最好的方法；摘要另称 LLM 辅助分类	Cohen's κ	0.045	第3.2节；摘要
基本服务域，表现最好的方法	Cohen's κ	0.525	第3.2节
GPT-4o-mini，领域分类（未按两域拆分）	Cohen's κ	0.196	第3.2节
五个 FRIA 场景的并集，150 条语料	覆盖率	68.7%（103 条）	第3.3节、Figure 1
关键词基线，风险模式	未知分类占比	61.3%	第3.3节
混合法，风险模式	未知分类占比	14.0%	第3.3节

• 作者称就业域一致性为 near-chance，该领域自动标注目前不能在无人工复核时被信任；并称若据此为 FRIA 汇集就业风险证据，证据基础可能既不完整也有误导。
• 作者把两域差异归因于附带出现的劳动力市场用语，称关键词和 LLM 都会把含这类用语的记录过度预测为就业；并称与 GPT-4o-mini 的比较支持困难来自任务而非单一模型。该 κ 未按就业与基本服务拆开。
• 作者称五场景未命中的记录主要是流水线低分类产生的未知标签，并称这是领域一致性失败的直接后果。正文写未命中比例为 31.3%。论文未点名两个领域上“表现最好的方法”各是三种方法中的哪一种。

演示场景与福利资格用例

• 测了什么：对已填充知识图谱做五个部署者情境查询，场景可以重叠。列表为福利资格 AI、公共部门招聘筛选、公共住房监控、个案工作者的 LLM 决策支持、国家监管机构的跨领域专题审查。
• 结果：第3.3节与 Figure 1 将最大的两个池写作福利资格 57 条和 cross-domain profiling 50 条，并将就业向招聘场景写作 17 条。图注称招聘命中最少，与就业域 near-chance 分类相符。结果用语 cross-domain profiling 与场景列表中的“跨领域专题审查”不完全相同，论文未逐项对照其余名称与条数，因此公共住房监控和个案工作者决策支持的条数不能从正文单独读出。并集为 103 条。
• 用例：第3.4节中，准备部署社会福利用资格支持系统（附件 III(5)(a)）的公共机构，按基本服务记录及宪章第34条、第21条筛选。作者称返回即 Figure 1 场景 A，记录带风险模式、因果因素和来源，可追溯到荷兰儿童保育津贴丑闻与 SyRI 案；并称这使监督机构日后能按第27条(5)核对可比部署者是否考虑了相同权利。

风险模式轴

• 测了什么：未知风险模式占比，以及该轴与金标准的一致性。正文只给定性区间，未给 κ。
• 结果：占比见主结果表。作者称程序不公和缺乏透明度是分歧最大的类别，主因是事件常有并存的失败模式、伤害为多标签。
• 作者的解读：作者称混合法扩大了可供合规查询的证据基础；该轴一致性仍在 slight-to-fair。

其他消融与分析

• 权利轴、因果因素轴：论文未报告 κ。
• percentage agreement：论文称已计算，扩展摘要正文未给百分比。
• GPT-4o-mini：只报告领域分类一个 κ，未说明记录是否为全部 69 条，也未按领域拆分。
• few-shot 示例条数、关键词词典规模：论文未报告。
• 混合法相对关键词或 LLM 单独使用的分轴 κ：论文未报告，只给出优先级规则（第2.3节）。
• 第3.2节未点名两个领域上表现最好的方法各是哪一种标注法。

作者指出的局限与后续方向

• 单标注者：金标准由一名标注者产生。作者称在流水线输出可以不经人工复核使用之前，用 Fleiss' κ 做多标注者一致性是必要的下一步（第4节）。
• 类别范围：语料只覆盖附件 III 八类中的两类。作者称模式按可扩展性设计，但生物识别、执法和移民尚未测试，并称先前关于高风险分类的工作已经点出这一缺口（第4节）。
• 语言与地理：作者称 AIAAIC 以英语为主，且大量取材于美国和英国来源，在欧盟监管情境中引入地理偏差（第4节）。
• 就业域使用：作者称就业分类质量不足以无人监督部署，任何依赖该领域证据的 FRIA 都需要人工监督（第4节）。

实验覆盖范围

• 语料 150 条，来源为 AIAAIC（约 100）、美国联邦 AI 用例清单（30）和 HUDOC（20）；四轴为领域、宪章权利、风险模式、因果因素（第2.1节）。
• 金标准 69 条（46%），一名标注者，分层包括三个来源以及附件 III(4) 与 III(5)(a)（第3.1节）。
• 自动标注为关键词、Claude Sonnet（零温度、few-shot、结构化输出）和混合法；领域分类另报告 GPT-4o-mini 的一个 κ（第2.3、3.2节）。
• 检索实验为五个命名的 FRIA 演示场景；正文与 Figure 1 写出 57、50、17 三条。结果中的 cross-domain profiling 与场景列表用词不完全相同，公共住房监控和个案工作者决策支持的条数未单独写出（第3.3节）。
• 正文给出的一致性数字是两个领域的 κ，以及风险模式的未知占比。权利轴和因果因素轴的 κ、percentage agreement 的百分比、重复次数和 few-shot 示例条数未写。作者称完整实现在配套学位论文，本文为扩展摘要（第1节）。

这是一篇面向欧盟 AI 法公共部门 FRIA 的语义网证据框架扩展摘要，并附带对自动标注一致性的检验。

• 要解决的问题：第27条要求高风险系统部署前记录对基本权利的影响，但事件库、风险词表和法规文本不能直接对接。范围收在附件 III(4) 就业与劳动者管理、III(5)(a) 获得基本公共服务。
• 做法：约 100 条 AIAAIC、30 条美国联邦 AI 用例和 20 件 HUDOC 案件组成 150 条语料，按领域、宪章权利、风险模式和因果因素标注，序列化为 1,351 条 RDF 三元组。标注比较关键词、零温度 few-shot 的 Claude Sonnet 和混合法；另有法规—宪章对照和按领域、权利、风险模式过滤的网页。
• 主要数字：69 条金标准上，基本服务域表现最好的方法 κ=0.525，就业域为 0.045；摘要把该就业数字归于 LLM 辅助分类，第3.2节未点名方法。GPT-4o-mini 的领域分类 κ=0.196，未按两域拆开。五场景并集覆盖 103/150（68.7%）。Figure 1 写出福利资格 57 条、cross-domain profiling 50 条、就业向招聘 17 条。混合法把未知风险模式从 61.3% 降到 14.0%。
• 作者的结论：作者称就业域 near-chance 对自动公平性证据检索是警示性结果，依赖该领域证据的 FRIA 需要人工监督；并称模式构件、标注数据和流水线代码已公开，供监管机构、国家主管机关和中小企业采用、扩展到更多附件 III 类别。