EU AI Act合规指南：高风险AI系统要求清单【2026】

核心摘要

EU AI Act 合规不是只写法律文件。对高风险 AI 系统而言，它会变成工程架构要求：风险管理、数据治理、日志、透明度、人类监督、准确性监控、鲁棒性、网络安全和上市后监控都必须内建到产品中。最快的稳妥路径，是在 AI 系统旁边建设合规证据层：模型注册表、数据集血缘、决策日志、人工复核工作流、评估报告和事故监控。

目录

• 核心要点
• 什么算高风险 AI
• 技术义务清单
• 合规参考架构
• 风险管理系统
• 数据治理
• 日志与审计轨迹
• 人类监督
• 准确性、鲁棒性与网络安全
• 实施清单
• 常见问题
• 总结

核心要点

• 高风险取决于使用场景，不是模型开源还是闭源。
• 合规证据应由系统自动生成，不能等审计时手工补。
• 人类监督需要工作流设计：复核队列、升级路径、覆盖记录和责任人。
• 日志要保留上下文，同时避免泄露个人数据和敏感 Prompt。
• 上市后监控是持续过程：漂移、事故、投诉和性能下降都要跟踪。

🔧 实用工具：使用 JSON 格式化工具 校验审计事件 payload；使用 文本差异对比工具 审查技术文档和策略版本变更。

什么算高风险 AI

EU AI Act 按使用场景对 AI 系统分类。通用模型本身不一定是高风险，但基于它构建的应用可能是高风险。

常见高风险领域包括：

如果 AI 产品影响用户的权利、机会、安全或基本服务获取，应先按高风险处理，再进一步确认。

可参考 EU AI Act 合规实操清单 和 开源 AI 许可证合规指南。

技术义务清单

高风险 AI 系统需要以下技术基线：

合规参考架构

证据收集器是关键组件。它记录每个决策用了哪个模型版本、数据集版本、Prompt 模板、检索上下文、策略版本和人工复核人。

风险管理系统

风险管理应该是一个持续运行的系统：

{
  "riskId": "HR-AI-EMP-001",
  "useCase": "candidate screening",
  "severity": "high",
  "hazard": "qualified candidates may be unfairly filtered",
  "mitigation": "human review required for all negative recommendations",
  "metrics": ["false_negative_rate", "demographic_parity_gap"],
  "owner": "ai-governance"
}

工程团队应把风险登记表连接到测试和监控。如果风险里写了要监控 demographic parity，那就应该存在对应 dashboard 和告警。

数据治理

数据治理关注血缘与质量。需要记录：

• 数据来源和收集依据。
• 标注流程和复核一致性。
• 受保护属性处理方式。
• 数据最小化和保留周期。
• 训练/验证/测试集切分。
• 已知偏差和覆盖缺口。

推荐使用数据集清单：

interface DatasetManifest {
  datasetId: string;
  source: string;
  purpose: string;
  piiFields: string[];
  retentionDays: number;
  qualityChecks: Array<{ name: string; passed: boolean }>;
  approvedForHighRiskUse: boolean;
}

日志与审计轨迹

审计日志要回答：发生了什么、为什么、用了哪个模型和数据、遵循哪个策略、谁复核过。

{
  "eventType": "ai.decision.created",
  "decisionId": "dec_123",
  "modelVersion": "risk-model-2026-06-01",
  "promptVersion": "candidate-screen-v4",
  "inputHash": "sha256:...",
  "output": {"recommendation": "review_required"},
  "policyVersion": "eu-ai-act-v2",
  "humanReviewRequired": true,
  "timestamp": "2026-06-07T12:00:00Z"
}

除非必要且有保护措施，不要记录原始敏感输入。使用哈希、脱敏、加密和基于角色的访问控制。

人类监督

人类监督不是“理论上可以覆盖模型”这么简单，而需要产品和工作流设计：

• 复核人要知道为什么这个案例被升级。
• 覆盖、通过、拒绝都要记录。
• 复核人需要策略指引。
• 复核人分歧要被衡量。
• 当需要人工批准时，AI 输出不能被展示为最终决策。

糟糕设计：“人类理论上可以覆盖。”
良好设计：“所有负向招聘建议必须经训练过的复核人确认后才能发送。”

准确性、鲁棒性与网络安全

高风险系统应覆盖正常、边界和对抗场景测试。

安全控制可参考 LLM Guardrails 工程指南 和 Prompt Injection 防御。

实施清单

1. 按 EU AI Act 风险类别分类 AI 使用场景。
2. 建立模型注册表和数据集清单。
3. 为决策和建议增加不可篡改事件日志。
4. 对高影响结果实现人工复核。
5. 按用户群体和场景生成评估报告。
6. 监控漂移、事故、投诉和覆盖率。
7. 上线前创建技术文档包。
8. 审查开源模型许可证和 GPAI 义务。
9. 做 Prompt 注入和数据泄露安全测试。
10. 指定上市后监控负责人。

常见问题

EU AI Act 下什么是高风险 AI 系统？

当 AI 系统用于招聘、教育、信贷、医疗、执法、移民或关键基础设施等受监管场景时，通常属于高风险。应用场景比底层模型类型更重要。

高风险系统需要哪些技术控制？

需要风险管理、数据治理、技术文档、日志、透明度、人类监督、准确性监控、鲁棒性测试、网络安全和上市后监控。

开源 AI 模型能否免除 EU AI Act 义务？

不能。开源豁免范围有限，也不会免除部署方在高风险场景下的义务。招聘、信贷、医疗等应用仍需完整控制。

工程团队应先建设什么？

先建设模型注册表、数据集血缘、决策日志、风险分类和人工复核工作流。这些能产生审计和产品安全评审所需证据。

AI 日志需要多详细？

足以复原决策上下文：模型版本、Prompt 版本、输入哈希、输出、策略版本、检索上下文和复核动作。避免无必要存储原始敏感数据。

总结

高风险 AI 系统的 EU AI Act 合规是一项工程能力。把风险登记、模型与数据血缘、决策日志、人工复核、评估报告和监控内建到架构中。合规不是上线后补 PDF，而是一套生产系统。

相关资源

• EU AI Act 合规实操清单
• 开源 AI 许可证合规指南
• LLM Guardrails 工程指南
• 生成式 AI 术语解释
• 大语言模型术语解释