语言模型的训练目标浓缩为一个损失函数——交叉熵。但围绕它的变体（label smoothing、辅助损失、对比损失）各自解决不同的问题。本篇拆解交叉熵的直觉与数学、label smoothing 为什么能防过自信、辅助损失在 MoE 与多任务中的角色，以及对比损失在 Embedding 训练里的位置。

RLHF 要同时养四个模型、跑采样流水线，DPO 只用「好回答与差回答的对数概率比」做二元分类——推导只走三步，训练不用采样、不用奖励模型、不用价值网络。本文拆解 DPO 的完整推导链与全部关键实验，以及 IPO、KTO、SimPO、GRPO 组成的后训练方法论家族谱系。

根据发表在《Scientific Data》期刊上的一项研究，地球暖化正加速两大冰盖的融化。卫星数据显示，自 1979 年以来格陵兰岛和南极洲损失了 12.5 万亿吨冰量。这些冰融化为 11.3 千万亿升的水，导致 1979 年以来全球海平…

训练换 FP16 提速省显存，小梯度却会成批归零。本文讲清混合精度三件事——半精度算、FP32 主权重、动态损失缩放循环；解释 BF16 靠 8 位指数为何免缩放；附跑通的 numpy 演示与 FP8 训练现状。

量化把模型权重从 FP16 压到 INT8 甚至 INT4——显存省一半到四分之三，本地部署因此成为可能。但「压完损失多少」取决于方法： naive 量化会毁掉模型，精心设计的量化几乎无损。本篇拆解量化的数学原理、PTQ 与 QAT 两条路线、per-channel 粒度与分组量化的意义，以及一张「什么位宽选什么」的决策表。

应用要的是 JSON，模型给的是散文加一段 JSON——结构化输出是大模型工程化的第一道坎。本篇拆解三种方案的能力与代价：提示词祈祷法（零保证）、语法约束解码（100% 合法但不保证语义）、以及原生 JSON mode 的折中——读完知道你的场景该用哪层、以及「格式合法」与「内容正确」是两件事。

混合专家（MoE）让模型参数量与计算量解耦，但代价是引入了一个训练时最容易翻车的部件——路由器。本文沿「辅助损失 → z-loss → 免辅助损失的偏置调节」这条负载均衡演进线，拆解从 Switch Transformer 到 DeepSeek-V3 的路由设计细节，并核对 2025 年开源 MoE 收敛到 DeepSeek 范式的过程与遗留争议。

过去五年基金平均年化净值增长率 19.57%，基民拿到手的却少了一大截——被自己的操作吃掉的。本文从卡尼曼的前景理论讲到处置效应与过度交易的经典数据，拆出五个高频偏差的场景样本，并给出定投、清单与低频查看三件可落地的解法。

收益是风险的报价。本文以 10 年期国债的无风险利率为尺子拆解风险溢价，用上证、标普、日经的历史回撤数字讲清波动、回撤与永久损失的区别，并给出 R1–R5、资管新规、庞氏骗局三特征在内的「免费午餐」识别清单。

2025-2026 年发布的前沿模型几乎清一色是 MoE：Llama 4、gpt-oss、Qwen3、Kimi K2，直到 2026 年 2.78T 参数的 Kimi K3。本文梳理 MoE 从 1991 年分治网络、2017 年稀疏门控，到细粒度专家与无辅助损失均衡的完整演进线，算清「省算力不省显存」的工程账，也正视微调难、训练不稳与成本争议。

传统数值预报靠超级计算机解物理方程，一次中期预报要算数小时。GraphCast、盘古气象、伏羲等 AI 模型把 10 天预报压缩到单块芯片一分钟内，ECMWF 已将 AI 模型正式业务化。但 2025 年的新研究提醒：破纪录的极端天气仍是 AI 模型的软肋。

过去几年极端气候频发，美国佛蒙特州每年都会因此发生十几次持续数小时的断电事故。当地电力公司 Green Mountain Power(GMP)记录到的 10 场最具有破坏性的飓风有 7 场发生在过去十年，造成了逾 2.25 亿美元的损失。为…

WHO 的数据显示，全球逾 10 亿人有心理健康障碍，其中焦虑症和抑郁症等病症造成了巨大的个人痛苦和经济损失。全世界约有七分之一 10-19 岁青少年有心理障碍，占该年龄段疾病负担的 15%。抑郁症、焦虑症和行为障碍是导致疾病和残疾的主因，…

把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点，并给出优先级表与算法工程师/产品经理的行动建议。

Mamba 把 SSM 参数改成输入的函数，让固定大小的状态学会按内容取舍；再靠并行扫描与 kernel 融合把状态装进 SRAM，线性复杂度落地——3B 匹敌两倍大的 Transformer，5 倍推理吞吐，线性扩展到百万长度。文末梳理截至 2026-10 它与 Attention 的分工现状。

2011 年 3 月 15 日，央视曝光双汇子公司收购「瘦肉精」喂大的生猪。作为中国最大肉类加工企业，双汇的应对经历了从措手不及到「万人经销商大会」的完整弧线—— anual 损失以十亿计。这个案例的价值在于它演示了「渠道型企业」的危机特殊性：你伤的不只是消费者，还有整条供应链的信心。

2018 年 10 月至 2019 年 3 月，波音 737 MAX 8 连续两起空难带走 346 条生命，祸根是 MCAS 系统依赖单一传感器且未对飞行员培训。埃航次日波音声明「对安全性充满信心」，三天后才被中国民航局率先停飞倒逼全球停飞；公司用「飞行员反应」甩锅，用四个月才承认 MCAS 在两起事故中均被激活。最终代价：全球停飞 20 个月、超 200 亿美元直接损失、与司法部 25 亿美元和解——罪名不是事故本身，而是「欺骗监管者」。本系列第十八篇复盘人命级安全危机：当公关的一切技巧失效后，剩下的唯一形态是说真话的时点与彻底的技术修复。

IT之家 10 月 26 日消息，据央视财经报道，在近期结束的 2026 金融街论坛年会上，**全国首个人工智能应用风险综合保障方案正式发布。**通过保险产品分别对人工智能服务给第三方造成的损失，和人工智能供应方自身费用损失进行保障，**填…

出了问题找谁、怎么留证据、哪些钱能追回——本文给出一张可执行的维权地图：12378/12363/12386 三条监管热线的分工、96110 与国家反诈中心 App 的反诈体系、AI 换脸与虚假投资等新型骗局的拆解、虚拟货币「损失自担」的法定口径，以及从协商到诉讼的纠纷解决阶梯和三年诉讼时效。

70B 模型 FP16 要 140 GB 显存，量化到 4-bit 只剩 35 GB——一张 RTX 4090 就装得下，代价是平均每个权重从 2 字节压到 0.5 字节后的精度损失。本文拆解 GPTQ 的二阶误差补偿、AWQ 的激活感知保护、GGUF k-quants 的命名规则，以及「量化伤推理」争议的实测边界。

Embedding 模型把文本映射成向量，「相似的文本向量相近」——这个能力靠对比学习训练出来，而它的成败几乎完全取决于训练数据：正例对怎么构造、难负例怎么挖。本篇拆解对比学习的训练机制、难负例挖掘的工艺、Embedding 模型的两代演进（BERT 系到 LLM 系），以及微调一个自有 Embedding 模型的最小路径。

预训练是所有大模型能力的源头，但它的完整流程常被一句「在海量文本上训练」带过。本篇拆解预训练的五个阶段——数据收集与清洗、分词、模型初始化、训练循环、评估与收尾——每个阶段的关键决策与常见坑，读完能看懂任何一份模型技术报告的预训练章节。

据报道，Anthropic 已拟定前沿 AI 安全法案草案并私下向美国国会议员推介，拟设政府干预门槛：可能造成超 10 亿美元损失或 50 人以上死伤时方可阻止模型发布。

九年过去，Transformer 的骨架纹丝未动，外围部件却几乎换了一遍：归一化从 Post-LN 走到 QK-Norm，位置编码从正弦函数走到 RoPE 与 NoPE 混布，注意力从 MHA 走到 GQA 与 MLA。本文以 12 家旗舰模型的官方配置为据梳理这条演进主线，并回答一个问题——模型之间的差距，还剩多少在架构里？

从 FunSearch 把 cap set 下界从 496 推到 512，到 AlphaEvolve 五十六年来首次改进 4×4 矩阵乘法，再到陶哲轩带着 AlphaEvolve 一次测了 67 个问题——AI 正在从「解出已知的题」走向「产出人类未知的新构造」。本文梳理这条机器发现路线的方法演进与代表结果，也整理 METR 与陶哲轩本人最直接的质疑：这到底是数学发现，还是高级暴力搜索。

「对齐（Alignment）」是 AI 安全的核心词，但它常常被误解为「让 AI 说出得体的话」。真正的对齐问题要尖锐得多：如何让一个能力可能远超人类设计者预期的系统，可靠地追求人类真实的意图？本文讲清对齐的三个层次、古德哈特定律为什么是对齐的宿敌、以及「对齐税」这个被低估的概念。

显存不够时的两板斧——梯度检查点（用计算换显存）与 offload（用传输换显存）——是让「消费级硬件跑大模型训练」成为可能的关键技术。本篇拆解两者的机制、各自的代价曲线、怎么组合使用，以及什么时候该承认「硬件真的不够」。

传统嵌入向量要么全存要么全废，维度定死；嵌套表示（MRL）训练出的向量有个特殊性质——只取前 128 维依然可用，取前 256 维更好。本文讲清它的直觉原理、两种用法（截断降维与级联检索）、以及「普通模型向量不能随便截」这条红线。

2024 年 9 月 o1 用「先想一会儿」在 AIME 上打出 83% 对 13%，2025 年 1 月 DeepSeek-R1 把整套方法开源复现，到 2026 年 10 月，推理档位已成各大模型 API 的标准旋钮。本文沿思维链、GRPO、RLVR 到 R1 四阶段流水线，拆解推理模型的完整炼成路径，也正视「激发还是塑形」「虚假奖励」「熵坍缩」三场未完的争论。

向量检索毫秒级出结果却常常「差一口气」，交叉编码器足够准却快不起来——Reranker 用两阶段管线把两者拼在一起：先粗召回 50-100 条，再精排挑出 5-10 条。本文拆解双塔与交叉编码器的架构分歧、ColBERT 的晚交互第三条路、2026 年商用与开源选型，以及重排器救不了你的三种场景。

「AI 编程是资深工程师专属」的知乎高赞论断，恰好可以拿一年来的硬数据逐条检验：METR 随机对照实验里资深开发者被 AI 拖慢 19% 且自认为快了 20%，Uplevel 追踪 800 名开发者发现缺陷率上升 41%，GitClear 遥测显示重构行为塌缩到 3.8%、遗留维护骤降 74%。本文梳理 2025–2026 年九项重量级研究，论证真正的门槛不是「会不会用工具」，而是验证 AI 输出的能力——它恰恰由经验构成。

2017 年 4 月，美联航因超售需要机组座位，强行将一名亚裔乘客拖下飞机，满脸是血的视频引爆全球。CEO 的两轮回应——内部信指责乘客「好斗」、公开声明称乘客被「重新安置（re-accommodate）」——让一场运营事故升级为品牌战争，市值一度蒸发数亿到十亿美元级。这个案例把「声明措辞的权重」写到了极致。

选对了资产、配好了比例，还剩最后一个问题：每次出手押多大？本篇讲清凯利公式的来历与算法、为什么「满仓最优」在数学上不成立、半凯利与分数凯利的实践惯例、凯利思想在定投与个股仓位上的三个应用，以及仓位管理比选股更决定长期成败的原因——复利的数学不对称。

GPT-3 有 1750 亿参数却不会「听懂指令」，InstructGPT 用 13k 条示范、33k 条偏好排序和 PPO 强化学习，让 1.3B 的小模型在人类评测里反超大 100 倍的前辈。本文逐层拆解 RLHF 三阶段——SFT、奖励模型、PPO——以及 KL 惩罚、标注员分歧、模式坍缩这些决定成败的细节。

「这个元素我见过吗？」——这个问题哈希表要用全部 key 的内存来回答，布隆过滤器只需要每元素不到 10 个 bit：它可能把没见过的说成见过（1% 概率），但绝不会把见过的说成没见过。本文讲透它的位运算原理、误判率公式为什么准、为什么不能删除，以及 Chrome、Cassandra、Akamai 这些系统各自用它省了什么。

精读 DeepSeek-R1 论文（arXiv 2501.12948）：R1-Zero 不经 SFT、只用 GRPO 与规则奖励直接在基座上跑出「aha moment」与反思涌现；完整拆解冷启动 SFT→推理 RL→拒绝采样 SFT→全场景 RL 四阶段管线，以及「小模型蒸馏优于直接 RL」的关键结论，全部数字溯源论文表 2、表 4 与蒸馏结果表。

预训练模型会「续写」但未必「听话」，对齐要解决的就是这件事。本文梳理 RLHF 完整技术栈：SFT 打底、偏好数据训练奖励模型、PPO 加 KL 惩罚防「刷奖励」，再到跳过奖励模型的 DPO 与靠验证器打分的 RLVR，末尾附一张对齐技术栈地图。

一份关于递归自我改进（RSI）的 2026 年全景深度研究：从 Good 1965 的智能爆炸命题讲到 MetaRSI 的平方时代，从 Anthropic >80% 合并代码由 Claude 撰写讲到 OpenAI-Hugging Face 事件中智能体攫取集群管理员权限，区分"主机节点接管已发生"与"全球接管仍是预测"三层口径；并新增 AI Futures Project《AI 2040: Plan A》专章——买时间、完全研究透明、广泛扩散、相互确保算力毁灭，以及一份"协议 10 年衰退概率 48%–62%"的现实账。

预训练数据墙（本库已有专篇）逼出了另一条路：用模型生成数据来训练模型。合成数据从「禁忌」（模型吃了自己会退化）进化为「主流」（前沿实验室的数据配方里都有它）。本篇拆解模型崩塌的警示、phi 系列的教科书路线、R1 式推理数据的可验证合成，以及合成数据的边界与风险。

为什么同一段对话，用对 chat template 的模型表现天差地别？对话模型的一切行为都由一张「模板」定义：角色标记、特殊 token、系统提示的位置。本篇拆解 chat template 的结构、各家模板的差异、它如何决定「模型以为自己在跟谁说话」，以及微调与应用时最容易踩的模板坑。

评级是债券世界的通行证：AAA 与 BBB 之间隔着的不只是几个字母，是融资成本、可投性资格与危机生死线。本篇讲清评级符号体系与投资级/投机级的分水岭、评级如何通过利差决定融资成本、下调评级的连锁反应（被迫卖出螺旋），以及发行人付费模式的结构性利益冲突——读完能带着折扣使用评级，而不是盲信。

「上下文切换 1 微秒」是流传最广的性能迷信——直接成本确实小，间接成本才是大头。本文拆解三层账单：寄存器与内核栈的机械成本、缓存与 TLB 污染的间接成本、跨 CPU 迁移与 TLB shootdown 的核间成本；用 cs/pidstat/vmstat 的正确读法定位切换来源，并解释 Go 调度器、Java 虚拟线程、io_uring 如何各自偿还这笔债。

谷歌 Cloud AI Research 开源 Harness²：把智能体执行框架拆成 8 个可编辑组件，用「任务级递归 + 元级递归」双层循环在无标准答案的开放任务上自动改框架——冻结 GLM-5 与 Gemini 3.5 Flash 权重，WorkBuddy-Bench 最高涨 11.5 分，LAB 基准涨 11.8 个百分点。本文拆解它的 Propose-Probe-Compose 机制、经验库硬约束与实验成绩，也整理了社区最尖锐的质疑。

OpenBMB 的 2B 语音基础模型：把 TTS 流水线里的分词器整个删掉，在连续潜空间端到端建模，一个骨干同时装下 30 语言、9 种中文方言、自然语言造声与三层克隆，48kHz 原生输出、Apache-2.0。本文拆解四阶段管线、FSQ 瓶颈与非对称 AudioVAE，并如实标注 8GB 显存门槛与运行间波动。

★58,992、AGPL-3.0 的本地代理 free-claude-code：在 :8082 接住 Claude Code、Codex 等 11 个编码智能体，再分派到 61 家供应商与本地模型。拆解双协议入站、四档模型映射、有序 fallback 与流式四态恢复，以及 Python 3.14.7 锁版本、密钥集中等真实边界。

从 Attention Is All You Need 的 encoder-decoder 原型，到 MLA、MoE、iRoPE 缀满一身的 2026 旗舰，本文系统拆解基础 Transformer 的架构原理，梳理八年来 KV 压缩、位置编码、稀疏专家三条演进主线，并给出 DeepSeek、Llama、Qwen、Gemini 等旗舰架构的横向对比地图。

给已有 Agent 框架做 RL 后训练，通常要把业务逻辑重写成训练代码。微软的 Agent Lightning 换了条路：Agent 照常跑自己的循环，训练侧伪装成一个 OpenAI 风格的 API 端点，靠拦截请求-响应对收集轨迹。v1.0 技术报告里，Qwen3.5-9B 编码 Agent 在 SWE-bench Verified 上从 41.8% 提到 56.4%。本文拆解它的架构、算法与社区争议。

Anthropic 发布 Mods 系统，开发者可用 JavaScript/TypeScript 函数通过挂钩工具调用、用户提示和 UI 渲染等事件来修改 Claude Code 的外观与功能，部分内置功能如 /diff 命令已用 Mods 实现。

论文分析线性注意力循环状态量化误差在时间与空间维度上的不同影响，提出时空后训练量化框架STEPQuant以降低低精度量化带来的精度损失。

IT之家 9 月 21 日消息，AI 评测机构 Vals AI 利用游戏《我的世界（Minecraft）》对 OpenAI 最新大模型 GPT‑6 Astra 开展长时自主游戏测试，全程在 Twitch 直播，总测试时长达到 141 小时。…