**一句话结论：模型卡片（Model Card）是随模型发布的标准化说明书——它讲了什么、没讲什么、在哪些人群上表现如何、不该用在哪；数据卡片（Datasheet）是它的上游对应物，记录数据集的来龙去脉。**这两个 2018 年前后的学术框架，如今长成了两副骨架：一副托着开源社区的事实标准，一副被欧盟 AI Act 写进了法定义务。理解它们，是读懂任何模型「披露材料」的通用语法。
先看问题：模型交易的成本黑洞
接入一个第三方模型的团队要回答的问题清单很长：训练数据有没有我们的语言？在长尾人群上表现如何？哪些用法被测过、哪些没测过？已知失效模式是什么？在标准化文档出现之前，这些问题只能靠「问厂商」或「自己评测」来回答——前者是黑盒里的口头承诺，后者是一笔每个接入方都要重复支付的成本。
更隐蔽的问题是报告的选择性：只发布最好看的那个基准、只提有优势的场景、不提评估的样本构成。没有规定「至少要披露什么」，选择性报告就是默认策略。
两份奠基文献：各管半张表
Model Cards（Mitchell 等，ACM FAccT 2019，arXiv:1810.03993）管「模型」这半张：随模型附一份简短文档，核心要求是分群体披露性能——同样的模型，在不同人种、性别、地域、肤色类型（Fitzpatrick 分型）上的表现分别是什么。论文用笑脸检测与毒性文本检测两个模型示范：整体 95% 的准确率完全可能掩盖某个子群体上 70% 的惨状，不分组的数字等于没说。卡片还要求写清预期用途与超出预期的失效场景。「模型卡」这个名字借自金融行业的模型报告惯例——那是个早已被监管逼着写文档的行业。
**Datasheets for Datasets（Gebru 等，CACM 2021，arXiv:1803.09010）**管「数据」那半张：借鉴电子元件说明书的思路，要求数据集发布时回答四组问题——为什么收集（动机）、里面有什么（构成）、怎么收集的（过程）、推荐/不推荐什么用途。它的洞察在于：模型的偏见大多在上游就被数据决定了，可下游用户拿到的往往只有一个「清洗过的最终版」，无从审计。
| 文档 | 对象 | 核心字段 | 落点 |
|---|---|---|---|
| 模型卡片 | 模型 | 分群体评测、预期用途/禁用场景、评估程序、已知局限 | 开源社区事实标准、商用模型披露 |
| 数据卡片 | 数据集 | 动机、构成、采集过程、标注方式、推荐用途 | 数据集发布、训练数据合规 |
从自愿到法定：欧盟 AI Act 的三步棋
2025 年 8 月 2 日起，写文档对通用 AI（GPAI）模型供应商不再是美德，而是义务（AI Act 第 53 条）：
- 技术文档（附件 XI）：模型架构、训练方法（数据、算力、过程）、测试与评估结果、已知局限——持续更新，应监管要求提交；
- 下游信息包（附件 XII）：给所有「把你的模型装进自家产品」的集成方一份足够信息，让他们能履行自己的合规义务——这是模型卡片逻辑的制度化；
- 训练数据摘要 + 版权政策（第 53 条 c/d 款）：公开一份训练内容概要。
配套的 GPAI 行为准则（2025 年 7 月定稿）给出自愿合规路径；2025-08 之前已上市的模型宽限到 2027 年 8 月；违规罚款上限 1500 万欧元或全球营业额 3%。开源免费模型有豁免通道，但系统性风险模型不在豁免之列（义务口径截至 2026-10 的公开解读）。
现实差距：卡片会撒谎，但没卡片更糟
必须诚实地说：模型卡片在实践中常被打折执行——有的卡片写成了营销文案，评测部分空空如也；「禁用场景」一栏变成免责声明堆砌；分群体评测在缺乏合规压力时往往被整体数字替代。文档本身不产生透明，它只是把「说不说」变成「说了没说」——从无法归责变成可审计。这依然是实质进步：采购时能指着缺失字段问问题，监管时能指着法定条款开罚单。
怎么读一张模型卡：四步顺序
- 先看分了什么组：只报整体指标的卡片，透明度直接打对折；
- 再看「没测什么」：局限一栏写「略」的，等于告诉你作者没做这部分工作；
- 对照你的场景：卡片的评测分布与你业务的分布差多远——这是比绝对分数更重要的信息；
- 查数据上游：有没有对应的训练数据说明（数据卡片/训练数据摘要）？没有的话，偏见评估就断了一半证据链。
小结
模型卡片与数据卡片做的是同一件事：把 AI 系统从「口口相传的口碑品」变成「有说明书的工业品」。它们不会让模型变得更好，但让「这个模型适不适合我的场景」从一个玄学问题变成一份可以逐项核对的清单——在模型即服务的时代，这张清单就是交易的基础设施。
参考资料
- Mitchell et al., Model Cards for Model Reporting（arXiv:1810.03993）（ACM FAccT 2019，分群体性能披露框架）
- Gebru et al., Datasheets for Datasets（arXiv:1803.09010）（CACM 2021，数据集说明书四组问题）
- 欧盟 AI Act 第 53 条与附件 XI/XII：GPAI 技术文档义务（2025-08-02 生效，义务口径截至 2026-10）
- EU GPAI Code of Practice（2025-07 定稿，自愿合规路径）
读者留言
COMMENTS 暂无还没有留言，来说第一句？