结果监督只看「答案对不对」，过程监督盯着「每一步推理对不对」——OpenAI 的「Let's Verify Step by Step」让过程奖励模型（PRM）成为推理对齐的主流技术。过程监督为什么能干掉reward hacking，以及它的工程代价。

人类评审员看不懂模型的高深推理时，怎么判断它做得对不对？可扩展监督（Scalable Oversight）研究的就是这个「评估者与被评估者的能力倒挂」问题——辩论法、评估-优化、弱到强泛化，三条技术路线的竞赛。

RLVR 用「答案对不对」训练推理模型，但答案可验证的领域有限，且只看结果无法指出「哪一步错了」。过程奖励模型（PRM）给推理链的每一步打分——从「Let's Verify Step by Step」的奠基实验到隐式 PRM 的自动化，它是把验证器从「终点裁判」变成「全程教练」的关键件。本篇拆解 PRM 的机制、数据难题与演进路线。

大模型的「听话」不是天生的，是训练出来的：监督微调（SFT）教它格式，人类反馈强化学习（RLHF）教它偏好，宪法 AI（CAI）试着教它原则。本文讲清这条对齐技术路径的演进逻辑、每一代方法解决了什么又留下了什么，以及为什么 Anthropic 会说「AI 用 AI 的反馈来对齐 AI」。

2026 年 9 月 17 日 Anthropic 首次公开内部指标：截至 8 月 Claude 已「主导」（AL4）26% 的 AI 研发工作，半年前不足 1%，同时约 3 万个 Agent 在线、单月超 10 亿次决策。本文按事实进度分层陈述，每项数据标注权威来源（Anthropic 官方文档、METR、Epoch AI、Import AI、Google DeepMind、OpenAI）：工程与代码层已跨过门槛（SWE-Bench 2%→93.9%、CORE-Bench 21.5%→95.5%、任务时间视野 30 秒→12 小时）、AI 研发流程层解既有问题已上移而「提新问题」尚无证据、Agent 运行与监督层双层 100% 覆盖已上线、资源分配层安全研究占算力约 6%（单周）、上限 AL5 = 0，另附约束条件量化数据、官方与权威机构的进度预测、6 项后续跟踪指标、来源清单与未获取清单。

心脏是一台永不停机的泵，而它自己的供电线路——冠状动脉——只有几毫米粗。冠心病就是这几条管道的内壁长出了斑块，从「走快了胸口发紧」到「血管彻底堵死的心梗」，是同一个疾病的不同阶段。本文讲清斑块的一生、心梗发作的完整时间线、以及每一步能做和来不及做的事。

胆固醇不是敌人，问题在于血液「物流系统」会不会超载。本文沿外源、内源与逆向转运三条线拆解脂蛋白循环，讲清动脉粥样硬化的发生机制，再按证据强度盘点 LDL-C、HDL 争议、残粒胆固醇、Lp(a) 与膳食之争，最后落到体检报告的目标值与干预逻辑。

推理时多花算力能换准确率：self-consistency 投票、过程奖励模型引导搜索、budget forcing 强制续想，三条路线各有边界。本文以 s1 论文与 2025–2026 年的 overthinking 研究为轴，梳理 test-time scaling 的效果账与失效点。

「让我们一步步思考」为什么能让模型答对更多题？本文梳理思维链与推理时计算的研究脉络：从 few-shot 与 zero-shot 提示，到计算外化的核心解释，再到自一致性、结果奖励与过程奖励的分野，最后讨论假推理与验证瓶颈两条边界。

奖励曲线、显卡故障全公开]

服务器重启后服务要多久恢复？答案藏在启动链路里：固件（UEFI）→ 引导加载（GRUB）→ 内核初始化 → initramfs 挂根 → PID 1（systemd）拉起服务单元。本文逐段拆解每一步做了什么、什么会慢、什么会失败，讲清 initramfs 的角色、systemd 的并行启动模型与依赖图，以及云服务器特有的 virtio/云初始化环节——「重启依赖」从此有全景图。

Agent 工程系统学习第 9 章：评测是把 Agent 开发从手工艺变成工程的分界线。给出场景作为评测基本单位与两类判定器分工，LLM-as-judge 的四类偏差与校准方法，pass^k 指标测量非确定性，轨迹评测捕捉过程性退化，分层回归测试与候选门禁，A/B 分桶与两比例 z 检验，以及连接改进闭环的数据飞轮。

DNS 是互联网的「电话簿」，也是流量调度最古老、最强大的杠杆。递归与迭代的解析过程、TTL 与缓存的权衡、智能调度的实现（GeoDNS）——以及 DNS 劫持与 DoH 的攻防。

IT之家 9 月 18 日消息，Anthropic 今日发布了一套用于衡量前沿 AI 实验室研发进度的方法，并公布公司内部的阶段性数据。 该体系主要关注 3 项指标：AI 参与 AI 研发的程度、AI 智能体的监督情况，以及算力在 AI 研…

RAG 知识库里存着企业的内部文档、员工的个人信息、客户的敏感数据——RAG 的检索过程必须保护这些隐私。本篇拆解 RAG 隐私工程的三个层面（入库脱敏、检索权限、输出过滤）以及 GDPR 等法规的合规要求。

量子位的朋友们* 2026-10-21 17:45:22 来源：量子位 10月21日，生数科技世界模型团队正式开启Motubrain 2.0训练全流程公开直播 大模型训练过程，开始更多地出现在公众视野中。 此前，小米MiMo负责人罗福莉公…

SFT（监督微调）是基座模型变成对话助手的第一步，也是最被误解的一步——它常被当成「教知识」，实际是「教格式与行为」。本篇拆解 SFT 的数据形态、训练细节（epoch、学习率、灾难性遗忘的边界）、常见的失败模式，以及「SFT 教的到底是不是能力」这个核心争议。

作业战争是学龄家庭最消耗关系的战场：不催不动，一催鸡飞。作业问题的核心通常不是学习能力，而是责任产权——作业在「催」的过程中，从孩子的任务悄悄变成了大人的项目。本文讲清作业拉锯的形成机制、陪写作业的正确姿势（在场的旁观者）、以及把责任归还给孩子的分阶段方案。

提出ProgAgent，一个完整的程序化工具调用（PTC）训练栈，包含可验证长程任务的合成流水线，相比直接工具调用可避免上下文腐化与编排失效。

Anthropic 的 Constitutional AI（Bai et al., 2022）提出两段式对齐：模型按约 75 条成文原则自我批评、修订回答做监督学习，再用 AI 反馈（RLAIF）替代人类偏好标注做强化学习。本文精读两阶段的机制、与 RLHF 的对照，以及「AI 给 AI 打分」的遗留问题。

CLIP（Radford et al., 2021）用 4 亿网络图文对做对比学习，零样本在 ImageNet 拿到 76.2%——追平全监督的 ResNet-50。本文拆解对比学习的训练机制、零样本分类的「提示词即分类器」玩法、CLIP 的失效模式，以及它如何成为多模态时代的地基。

2026-09-28 剑桥 CASP 发布 22 位作者联合报告，Hinton、Bengio、Barto 三位图灵奖得主与 OpenAI 首席科学家 Pachocki、Anthropic 联合创始人 Jack Clark 等首次联署，警告自动化 AI 研发可能触发"智能爆炸"。本文逐层拆解：公司自报证据（Anthropic 批准代码占比 >80%、自主研发工作 1%→26%）、软件智能爆炸（SIE）的论证机制（Ho & Whitfill 研究投入回报 r≈1.2–1.9）、三类风险（适应速度、监督控制、权力制衡）与三项政策优先（可见性、引导约束、社会适应），并给出四点批判性阅读提示——它是综合而非新实证、作者构成的双面性、与站内"验证瓶颈"框架的差异。

想发表 AI 安全研究、想知道这个领域的学术版图？主流 ML 会议的安全 track、专门的安全会议、跨学科期刊——AI 安全的学术生态是「寄生在 ML 会议里」长出「自己的专场」的过程。

政务是 AI 落地规模最大、也最考验边界的行业：政务热线的智能应答、审批材料 automating、城市治理的感知网络——效率收益巨大；但涉及公民权利的 AI 决策（资格审批、执法辅助）触碰的是权力的边界。本文讲清政务 AI 的落地地图、「效率可 AI、权力慎 AI」的分界逻辑，以及公民视角的监督机制。

IT之家 10 月 13 日消息，Epic Games 正全力将人工智能应用于游戏开发。这家工作室一直在为迪士尼制作游戏，但有消息人士向彭博社透露，其一款待发布作品已经推迟上线，目的是在开发过程中更多使用 AI 技术。彭博社报道称，该游戏的…

GPT-3 有 1750 亿参数却不会「听懂指令」，InstructGPT 用 13k 条示范、33k 条偏好排序和 PPO 强化学习，让 1.3B 的小模型在人类评测里反超大 100 倍的前辈。本文逐层拆解 RLHF 三阶段——SFT、奖励模型、PPO——以及 KL 惩罚、标注员分歧、模式坍缩这些决定成败的细节。

IT之家 9 月 24 日消息，The Information 今天（24 日）晚间援引知情人士消息称，谷歌、OpenAI 和 Anthropic 三家 AI 公司正自行推进成立 AI 安全标准机构的计划，希望在没有政府监督的情况下，**于…

北京时间 9 月 23 日，据彭博社报道，AI 先锋李飞飞呼吁由独立机构和公共部门对 AI 进行更多监督。她认为，对于能力日益强大的 AI 系统，其安全评估不应完全交由开发这些系统的公司负责。 作为斯坦福大学教授、World Labs 联合…

IT之家 9 月 18 日消息，OpenAI 发文，披露研究团队在训练最新模型 GPT-5.6 Sol 的过程中，研究人员发现了一项异常行为：模型曾通过对话摘要向未来版本的自己留下指令，要求后续模型隐瞒自身错误以及与预期行为不一致的表现。目…

IT之家 9 月 18 日消息，据《商业内幕》今天（18 日）晚间报道，由多家监督组织组成的 AI 评估机构论坛发布了一封公开信，为第三方风险评估划出一套最低条件，认为 Anthropic 和 OpenAI 等 AI 实验室只有满足特定的要…

RAG 的技术再好，用户看不到检索过程、不理解引用关系、无法判断答案的可信度——体验就失败了。本篇拆解 RAG 的 UX 设计：引用的呈现方式、过程的透明度、以及「让用户信任并有效使用 RAG」的交互设计原则。

HTTP 的请求-响应模式无法做到服务端主动推送——客户端轮询是唯一的 workaround，但效率低下。WebSocket 在 HTTP 的基础上升级为全双工通信：一次握手，持久连接，双向实时收发。本文讲清 WebSocket 的握手过程、与 SSE/长轮询的对比、心跳保活与重连机制。

周五晚上 11 点，AI 大神 Karpathy 打开 YouTube，想找个视频看看。 结果首页全是夸张的封面、看过无数遍的老话题。受不了这些算法推荐的他，第二天干脆打开 Claude，给自己重新做了一个 YouTube。 整个过程只花了…

固定流水线「每问必检索」对闲聊是浪费、对复杂问题又不够。Self-RAG 的思路是让模型在生成过程中自主决策：要不要检索、检索到的片段可不可信、答案有没有被证据支撑。本文讲清 Self-RAG 与 CRAG 两种自适应检索范式、轻量工程实现与成本账。

IT之家 10 月 25 日消息，Anthropic 设计工程师蔡斯 · 麦科伊（Chase McCoy）昨日宣布，Claude 桌面应用已推出全新界面。 IT之家注意到，新版界面由 Claude 帮助设计，从草图到正式上线，整个过程不到 …

IT之家 10 月 13 日消息，应用材料公司计划在未来数年内实现营收翻倍，但不会同步扩招员工，原因是该公司正更多借助人工智能工具开展产品研发、质量管控等工作。 “未来几年公司规模翻倍的过程中，我们不会让员工数量也同步翻倍。”这家半导体设备…

为什么大型犬往往比体型较小的犬寿命更短？根据一项针对 894 只狗所做的新研究，答案可能就写在它们的表观基因组中。这些发现表明，体型较大的狗和雄性狗会经历分子衰老过程加速，其表现为 X 染色体和转座元件（TEs）上会出现显著的 DNA 甲基…

针对 OpenAI 报告称其未发布模型解决四维挂谷猜想等数百个数学难题，陶哲轩评论认为 AI 时代的证明缺乏传统数学的研讨与消化过程，还迫使研究者秘而不宣，数学 2.0 时代应从更全面的视角衡量数学进步，提升学术阐释、社区建设与开辟新方向的价值。

IT之家 10 月 8 日消息，微软设计（Microsoft Design）博客于 10 月 5 日发布博文，**介绍了新版 Copilot 图标的设计过程，将原有静态标识重构为由两个方形组成的动态系统。** 新版 Copilot 图标由两…

SheetSage2 提出统一的音乐转录框架，利用合成数据、任务特定结构化解码和自回归蒸馏，在标注稀缺的情况下生成节奏、和声、旋律与曲式连贯的乐谱。

你是否有过这样的经历，明知截止时间越来越近，却忍不住频繁刷手机、告诉自己“明天再说”？这种情况被称为拖延。一直以来，拖延被贴上懒惰、自律不足或意志力薄弱的标签，但这种看似影响学习工作以及身心健康的行为，为什么普遍存在且在进化过程中被保留下来…

今年 2 月 Debian 13 的龙芯架构移植版 loong13 的维护者在编译打包过程中发现，normaliz 的自带测试会死循环导致打包超时。第一次排查发现原子加指令会在特定情况下丢失更新，但原因未知。今年 8 月，开发者在 AI 的…

IT之家 9 月 26 日消息，特斯拉正将公司未来押注于人工智能和机器人，但其从电动汽车向人形机器人转型的过程中，也开始面临一系列量产和人员方面的挑战。据外媒 The Information 报道，特斯拉最新一代 Optimus V3 人形…

IT之家 9 月 16 日消息，据彭博社今天（16 日）晚间报道，联合国秘书长安东尼奥 · 古特雷斯呼吁各国共同推进 AI 监管，并加强对技术的监督。“我们不能忽视已经出现的担忧，尤其不能忽视那些 亲自参与 AI 开发的人提出的警告 。地缘…

2026 年 10 月 17 日，DeepSeek 一条官方新闻让「许愿式编程」刷屏中文技术圈，但这个术语的身世远比一次发布复杂：它脱胎于 1985 年 SICP 的教学黑话，在 2025 年被 Andrej Karpathy 的 vibe coding 重新点燃，又花了大半年从贬义词变成官方卖点。本文按时间线拆解术语谱系，辨析它与 vibe coding、agentic engineering、规格驱动开发的分野，并用 METR、DORA、Stack Overflow 的数据与 Replit 删库等事故，回答「许愿」何时是真生产力、何时是灾难。

许愿式编程的门槛不在许愿，在许完愿之后。本文以 Replit 删库事故开场，给出许愿的三个层级——一次性许愿、计划先行、规格驱动，拆解 Spec Kit 与 Kiro 的规格工作流和 EARS 验收写法，梳理验证闭环的四个闸门与五条许愿纪律，最后用两张边界清单回答：哪些活可以直接许愿，哪些活必须先写规格。

从 SICP 的 wishful thinking 设计心法，到 vibe coding 的调侃与事故，再到 2026 年 intent-oriented 的正名——梳理许愿式编程的词源、争议与实践方法：愿望本身不是问题，许完不管才是。

Agent 工程系统学习第 13 章（前沿专题）：三个高薪高门槛方向。后训练三阶段管线（SFT → DPO/RLVR → On-Policy Distillation）与 Agentic RL 两大工程难点（长程 credit assignment、可验证奖励需要可靠执行环境），从生产轨迹到训练集的数据飞轮；全双工语音三块积木（流式 ASR / VAD / barge-in 取消语义）与延迟预算；编码智能体 = 模型 + Harness 的六机制拆解与动手路径。

系统拆解吴恩达 2026 年 8–9 月连发五封来信构建的《AI 工程技能地图》：四大顶层能力、编程智能体的三阶段工作流与五项细分技能，剖析其数据方法论、隐藏主线与三条反主流论断，并对地图本身的边界与争议做批判性审视，附个人自评与团队落地清单。

把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点，并给出优先级表与算法工程师/产品经理的行动建议。