模型合并与模型编辑：不重训就能改模型的知识

意外的发现：权重可以相加

深度学习的直觉是「模型是高度非线性的黑箱，权重没有可解释的结构」——直到 2022 年的 task arithmetic（任务算术）给出反例：把「微调后模型」的权重减去「基座模型」的权重，得到一个「任务向量」；任务向量可以相加（同时获得多项能力）、可以取负（遗忘某项能力）、可以在多个模型间迁移。两个在不同任务上微调的同基座模型，权重直接平均，常常能同时保留大部分双方能力——这在直觉上像「两个大脑的平均也是两个大脑」，却在大量实验中成立。

可行的机制解释：微调通常只让权重离开初始点一小段距离（学习率与步数的约束），不同任务的位移方向近似正交——相加不互相破坏。合并可行的边界也由此清楚：微调幅度越大、任务间越冲突（数据的知识矛盾），合并的损失越大；跨基座的模型不能直接合并（权重空间不对齐）。

合并方法族：从平均到智慧加权

任务算术之后，合并方法演化出一个家族，按复杂度排序。简单平均（linear soup）：权重直接平均，零成本，是多数场景的基线。SLERP（球面插值）：考虑权重向量的方向性，两模型合并的精度略优。TIES-Merging 与 DARE：解决「合并时的符号冲突与冗余」——先修剪掉每个模型里幅度小的变化（冗余），再按多数票统一冲突参数的符号，最后按重要性加权合并；DARE 进一步用随机丢弃（drop and rescale）降低任务间的干预。进化算法搜索合并权重：把「每个参数怎么混合」当作搜索问题，用进化算法在合并配置空间里找最优—— expensive 但在 benchmark 上常拿最高分。

flowchart LR
    A["模型 A 微调权重"] --> C["任务向量 ΔA = A − 基座"]
    B["模型 B 微调权重"] --> D["任务向量 ΔB = B − 基座"]
    C --> E["合并策略<br>平均 / TIES / DARE / 进化搜索"]
    D --> E
    E --> F["合并模型 = 基座 + 组合后的任务向量"]
    F --> G["验证：双任务能力保留度"]

开源社区的实践让合并走出论文：Mistral 时代的社区「MergeKit」文化里，大量受欢迎的开源模型是社区合并产物（多个微调模型的混合体在开放评测榜上名列前茅）——合并把「微调生态」变成了「可组合的乐高」，这是开源大模型生态独有的现象（闭源模型没有可合并的权重）。

模型编辑：外科手术式的知识修改

模型合并是「能力层面」的组合，模型编辑（model editing）更精细：修改模型内部的单条知识。「模型知道埃菲尔铁塔在巴黎」——能不能把它改成「在罗马」，且不破坏其他知识？ROME（Rank-One Model Editing, 2022）的回答是能：先用因果中介分析（causal tracing）定位「这条事实存储在哪一层哪些位置」，再用一次秩一更新直接改写对应权重。MEMIT（2023）把方法扩展到批量编辑（一次改几千条事实），后续工作持续改进「编辑后不影响无关知识」的特异性。

知识定位的研究本身就是重要产出：事实知识在 Transformer 里主要存储于中层的 MLP（前馈网络）模块——「键值记忆」的解释（MLP 的第一层是键、第二层是值，对应「输入模式 → 输出事实」的查表结构）是当前最被接受的框架之一。这解释了为什么编辑瞄准 MLP：那里是知识的「仓库」。表达层（后续层）负责把这些事实组织进生成——「编辑成功但表达失败」（改了仓库但模型说话时还是旧答案）是编辑研究里另一类有趣问题。

应用与边界：什么时候真的有用

合并与编辑的应用清单要务实。合并的真实价值：多任务能力的低成本组合（省去多任务联合微调）、社区生态的模型混搭（开源独有优势）、以及遗忘控制（负任务向量做能力删除——对齐研究里「移除危险能力」的候选工具，效果与风险都还在研究早期）。编辑的真实价值：知识修正（过时事实的更新——模型训练截止后世界变了，编辑提供比重训便宜几个量级的更新路径）、隐私与版权的定向移除（删除特定个人的记忆——监管需求驱动的研究方向）、以及实验台（知识修改作为探针，反推知识的存储与使用机制——它是因果研究的工具）。

边界同样清晰：合并不能创造新能力（只能组合已有的），编辑远未到生产可靠性（特异性失败、批量编辑的级联干扰、编辑后的推理路径变化都是开放问题），两者的对象都是开放权重——闭源 API 模型用户与此无关。对开源生态，合并已经是现实生产力；编辑是「正在从实验室走向工具链」的技术，它的成熟度大概率决定未来「模型知识维护」的形态——就像数据库的 UPDATE 之于数据库，模型编辑是「模型知识的 UPDATE 语句」的雏形。

合并的暗面：模型合并的安全与生态问题

模型合并的自由度带来了三个必须正视的暗面。安全能力在合并中流失：对齐研究反复观察到「微调会侵蚀安全训练的效果」，合并更甚——多个微调模型的权重平均，可能把各自「残余的不对齐」叠加强化，安全评测不过关的合并模型在开源平台大量存在。开源平台的合并文化（Namespaced 模型的魔改混搭）因此是 AI 安全的灰色地带：合并产物的谱系不可追溯——一个模型可能融合了十个上游，任一上游的问题都会遗传，而下游用户无从知晓。评测的失效：合并模型可能在公开 benchmark 上表现优异（合并恰好过拟合了评测风格），实际能力虚高——「刷榜」的成本被合并技术进一步降低，评测可信度的问题（本库评测篇）雪上加霜。法律与许可的模糊：多个不同许可证的模型合并，产物的许可义务如何继承（最严许可传染？各按比例？）——没有判例，只有社区惯例。这三个暗面的对策都还在早期：合并声明与谱系登记（社区自发的元数据实践）、合并后强制安全评测（个别平台的政策方向）、许可的合规审查（企业使用合并模型前的尽调）。对开源使用者的建议：下载合并模型前看「谱系清单 + 许可证 + 安全卡」三样，缺一样就当它是来路不明的食品。

任务向量的应用实例：遗忘与个性化的工程化

任务算术（正文）的两个应用方向已经走出论文。能力遗忘的工程化：负任务向量（基座 − 微调模型）可以「减掉」一项能力——安全研究用它做「能力移除」的候选方案（移除危险能力而不影响其他能力），相比重新训练便宜得多；实测的边界是「特异性」——减法常带走相邻能力（删掉「写恶意代码」的同时伤了「写代码」），精细的定向遗忘（结合可解释性定位能力相关的参数子空间）是活跃方向。个性化即合并：用户专属的适配 = 基座 + 个性化任务向量——个人数据微调出的轻量增量与公共模型合并，个性化以「向量外挂」的形态分发（与 LoRA 的差别在合并的数学处理更简单）；多用户服务的架构里，「公共基座 + 每用户向量」比「每用户全模型」的存储与切换成本低得多。数据融合的合并用法：不同隐私桶训练的模型（合规要求隔离的数据）可以用合并融合能力而不共享原始数据——联邦学习的轻量替代（合并的「模型即数据摘要」属性）。三个应用的共同工程前提：同基座（合并只对共享初始点的模型有效）——这个约束决定了任务向量生态是「基座为中心」的星形结构，基座的每一代更新都会重建整个生态（开源社区每次基座换代的合并潮）。

MergeKit 的实践速览：开源社区怎么玩合并

模型合并在开源社区的工业化程度超出多数人想象，MergeKit 工具链的用法值得速览。典型工作流：选定基座 → 挑选若干微调模型（HuggingFace 上按任务与口碑筛）→ 在 MergeKit 里写合并配置（方法：linear/slerp/ties/dare；权重：各模型的混合系数；处理：是否剪枝、符号统一）→ 一条命令产出合并模型 → 在公开评测与自建任务上验证。社区的默认工艺：多数受欢迎的合并用 TIES/DARE（处理冲突更稳）+ 按模型「专长领域」分配权重（代码模型高权重、角色扮演模型低权重）；「进化合并」（用遗传算法自动搜索权重配置）在追求极限的玩家中流行。合并的验证纪律：公开 benchmark + 自建任务 + 安全评测三件套——只看公开分的合并模型经常「虚胖」。这套工具链的存在，让「不训练一个模型」的玩家也能参与模型供给——合并是开源生态的「混音工程」：原料是别人的，混音是你的，成品的价值取决于混音的品味与验证的严格。

小结

任务算术揭示微调权重可加（任务向量相加/取负/迁移），合并方法族从简单平均进化到 TIES/DARE 的冲突处理与进化搜索，开源社区的 MergeKit 文化把微调生态变成可组合的乐高——机制是「微调位移小且方向近似正交」。模型编辑用因果中介定位知识（中层 MLP 是事实仓库），ROME/MEMIT 实现秩一更新式的单条/批量知识修改，应用指向知识修正、隐私移除与因果实验台。两者的共同边界：只对开放权重有效、合并不创造新能力、编辑未达生产可靠。下一篇继续「不重训改变模型」的主题，但换一个更工程化的方向：把大模型的能力装进小模型——知识蒸馏与压缩。