责任分层：AI 出了事，谁负责

AI 系统造成损害时，第一个问题是「谁负责」：模型把用户引向错误的医疗决策——训练模型的厂商负责？提供应用平台的负责？接入 API 做成产品的负责？还是听信答案的用户自担？传统法律有现成的两套框架——产品责任（缺陷产品致损，生产者担责）与服务责任（专业过失，服务者担责）——但生成式 AI 恰好卡在两者之间：它不是传统意义的「产品」（每次输出都不同、依赖用户输入），也不是传统意义的「服务」（没有专业人员做个案判断）。责任在法律框架的缝隙里变得模糊——而「责任不清」本身正在成为一种系统性风险。本篇讲清责任分层的逻辑、主要司法辖区的方案、以及对企业与个人的实操含义。

四个角色：责任链条的解剖

AI 价值的链条上有四个角色，法律上看他们的责任各不相同。角色一：模型开发者（developer）——训练与发布基础模型的厂商。他们对「模型本身的缺陷」负责的空间最大（训练数据的问题、已知风险的未披露、安全训练的失职），但「模型输出造成损害」的直接归因困难（输出的多样性使「缺陷」的证明极难——这是产品责任在生成式 AI 上的适用难题）。角色二：平台与 API 提供者（provider）——向开发者提供模型能力的中介。责任通常以合同与条款界定（本库《模型窃取》的条款语境），外加平台的法定义务（滥用监控、内容责任——作为「中介」的定性决定其义务档位：纯管道还是内容参与者，天差地别）。角色三：部署者（deployer）——把 AI 接入自己的产品与决策流程的企业（用 AI 做招聘筛选、信贷评估、内容审核的公司）。这是当前法律焦点最集中的角色：欧盟 AI Act 对 deployer 设了独立的义务档（按用途高风险的部署者有监督、透明、人工复核的义务），逻辑很清楚——离损害最近的参与者，承担最直接的保护义务；「我只是用了别人的模型」在多数司法辖区的最新态度里不再是免责金牌。角色四：终端用户（user）——直接使用 AI 的个人。责任最小但非零（故意滥用——用 AI 生成诽谤、深度伪造——用户是第一责任人）；而「合理信赖」的边界（用户多应该信任 AI 的输出）正在被司法个案逐步刻画（盲信 AI 的错误建议起诉厂商的案件，判决在「用户应有合理审慎」与「厂商不应制造过度信赖」之间摇摆——本库语境里谄媚与幻觉的研究让「合理信赖」的判定更复杂）。

监管方案：欧盟的分层设计与其影响

欧盟是责任分层最成体系的辖区。AI Act 本身不含民事责任条款，但它的义务分层（provider / deployer / importer / distributor 各自的义务清单）实际上构建了行政责任的多层结构——每个角色对自己的义务档负责（provider 负责模型评估与披露、deployer 负责监督与人工复核），违反各算各的；同时 AI 责任指令（AI Liability Directive）的草案曾试图为民事赔偿建立「证据与推定」的便利（降低受害者的举证难度——与 AI 系统的「黑箱性」对冲；该草案的立法进程有反复，其思路——受害者友好型的证据推定——持续影响着各国判例）。对企业界的实际影响：欧盟方案确立了三个可迁移的原则。原则一：责任跟随能力——谁有能力预防损害（provider 有模型信息，deployer 有部署现场的控制权），谁承担对应层级的义务与责任——「能力与责任对齐」是分配的元规则。原则二：留痕即护身——deployer 的免责空间主要靠「履行了义务的证据」（人工复核的记录、监督的日志、合规的评估——本库《企业部署 AI 的安全治理清单》的「模型清单」与留痕要求，正是责任防御的工事）；在黑箱系统面前，文档就是清白。原则三：合同不能对抗受害者——企业间可以用合同划分责任（模型厂商与部署者的赔偿约定），但对外部受害者，链条上的每方都可能被追索（连带之后再内部追偿）——「条款免责」只在商业关系内有效，对消费者市场无效。

实操含义：把责任分层装进企业的风险账本

把责任分层的法律逻辑翻译成企业（尤其 deployer 角色）的实操账本。账本一：部署即担责的意识升级——企业接入任何 AI 能力（哪怕只是 SaaS 里嵌的 AI 功能）的那一刻，就成为了法律意义上的 deployer——评估的不是「模型好不好」，是「我把责任接了多少」：高风险用途（招聘、信贷、医疗、教育）接的是重义务档，用前先问「这个场景的 AI 决策，我有没有人工复核与监督的制度与记录」。账本二：与上游的责任合同——与模型/API 供应商的合同里明确：数据使用的边界、安全能力的承诺（内容过滤的规格）、事故的通知义务、赔偿与追偿的安排——合同是企业间责任的唯一防线（对消费者无效的那种防线），它是追偿权的依据，不写就没有。账本三：留痕的制度化——人工复核的签名、决策的日志、政策的版本、评估的报告（本库《企业治理清单》与《事故报告》的产物全部在这一章变现）——deployer 的每一层免责空间，都是用留痕换的。账本四：用户的合理预期管理——面向用户的产品，对 AI 能力的表述（「AI 生成，仅供参考」的披露、能力边界的告知）既是透明度义务，也是「合理信赖」边界的自我定义——过度营销 AI 的可靠性，就是在给未来的诉讼预付定金。

保险与风险转移：AI 责任的金融基建

责任分层的讨论延伸出一个金融基建的问题：AI 的风险能不能被保险——保险是现代社会转移风险的通用机制，而 AI 责任的保险化正在早期。AI 保险的现状：传统的科技 E&O（错误与遗漏）保险与网络安全保险已覆盖部分 AI 风险，但专门的「AI 责任险」仍在成型；承保的核心难题与责任分层同构——风险难以定价（AI 损害的频率与幅度缺乏历史数据——精算的基础是数据，AI 事故数据刚在积累（本库《事故报告制度》的数据库正是保险精算的上游基建））；长尾与系统性（一个被广泛部署的模型的系统性偏见，损害面是千万级的——巨灾式的风险结构）；不可保性的边界（故意的造假与违规不可保——保险只覆盖「善意的意外」）。正在成型的保险形态：按用途分档的 AI 责任险（高风险用途——招聘、医疗——的高保费档）、模型厂商的产品责任险（发布模型的「质保」）、以及「安全评估驱动的费率」（有第三方安全评估与合规认证的投保人获得费率优惠——保险与认证的耦合：保险公司成为事实上的安全审计驱动者）。对企业与治理的双向启示：企业侧，保险是「责任分层的财务镜像」——买得到保险且保费合理，本身就是市场对「你的 AI 风险管理合格」的认证；治理侧，保险业作为风险的定价者，会成为 AI 安全标准的强制推动者（承保要求的最低安全标准 = 事实上的行业门槛）——当保险公司开始要求「发布前评测」才承保时，那本评测手册就成了全行业的必修课。

责任的哲学角落：「可以 blame 谁」之外的第三问

责任讨论的哲学角落有一个常被跳过的问题：归责（找谁负责）之外，还有「学习」（下次怎么防）——两套逻辑经常被混为一谈而互相伤害。归责逻辑的形态：向后看、找主体、分配责任、执行处罚——它的功能是公正与威慑；学习逻辑的形态：向前看、找原因、修补系统、防止复发——它的功能是改进。混用的伤害是双向的：用归责逻辑做学习（出事后先找「谁搞砸的」）——一线员工学会隐瞒与自保，信息的流动被切断（本库《事故报告制度》的心理安全原则：报告文化的敌人就是追责文化）；用学习逻辑做归责（「系统已经改进了所以不用罚」）——受害者得不到正义，威慑归零（本库三株案的反面：连司法的追责都要做足）。两套逻辑的正确关系是「分时、分场、有接口」：分时——学习的复盘先于归责的结论（复盘阶段不预设追责，结论阶段不回避责任）；分场——内部复盘的无责性与对外追责的严肃性分开进行（内部说真话的通道与对外的责任承担并行不悖）；有接口——学习的产出（根因与整改）成为归责量刑的输入（「系统已修复」可以作为减轻项，但「修复」不能豁免「应为」）。AI 时代的责任哲学最终要回答的，不是「可以 blame 谁」，而是「一个既有个人、又有组织、又有算法的复合系统造成伤害时，公正与改进如何同时被满足」——这个问题没有现成答案，但每一个 AI 事故的处理，都是在为答案积累判例。

小结

责任分层收成四条：AI 价值链的四个角色（developer/provider/deployer/user）责任各不相同，传统产品责任与服务责任框架在生成式 AI 面前出现缝隙；欧盟方案的三个可迁移原则——责任跟随能力（谁有预防能力谁担责）、留痕即护身（黑箱面前文档就是清白）、合同不能对抗受害者（对外连带，对内追偿）；deployer 是当前法律焦点的角色——接入 AI 即接责，高风险用途先问人工复核与监督的制度；过度营销 AI 的可靠性，是给未来诉讼预付定金。责任分层的终极逻辑只有一句：法律还在追赶 AI，但「离损害最近且有控制能力的人」这条古老的归责直觉，已经先一步到场了。

参考资料

• 欧盟 AI Act 关于 provider / deployer 义务分层的条款（Art. 25-27 等）
• 欧盟 AI 责任指令草案（AI Liability Directive）的思路与立法进程
• 本库前篇：《欧盟 AI Act 两年记》《企业部署 AI 的安全治理清单》《AI 事故报告制度》《模型窃取与蒸馏攻击》