在提示里放几个输入-输出示例，模型一次前向传播就把新任务干得像模像样——没有梯度更新，没有训练循环，这就是上下文学习（ICL）。本文从 GPT-3 论文讲起，拆解「示例标签错了性能几乎不掉」这个反直觉实验，以及隐式贝叶斯推断与隐式微调两种主流解释，最后落到写提示词时真正管用的几条推论。

《Language Models are Few-Shot Learners》（Brown et al., 2020）把 GPT-3 推到 175B 参数，真正的发现却是另一个：只靠提示词里放几个例子，模型就能完成没训过的任务——in-context learning 从此改写了 NLP 的工作方式。本文精读这篇论文的机制、数据与遗留争议。

Agent 工程系统学习第 3 章：上下文工程取代 prompt engineering 成为核心技能。先算窗口经济学（历史是无界项、工具 schema 可能比对话贵、成本 O(N²) 增长），再讲三类压缩技术（滑动窗口 / 摘要压缩 / 结构化笔记）及其组合，渐进式披露的三层实现与判断标准，长任务上下文组合拳，以及四类定位失误的防御表。

现代大模型的百万上下文，几乎都建立在 2021 年的旋转位置编码与 2023 年的一系列外推算法之上。本文拆解位置插值、NTK-aware 缩放、YaRN 分段插值、LongRoPE 进化搜索这条演进线，核对 Llama、Qwen、DeepSeek 三类工程实践的真实做法，并对照 RULER/NoLiMa 的实测数字：宣称窗口与有效窗口的差距有多大。

2026 年，1M token 上下文已成为头部旗舰的标配，但 RULER 与 NoLiMa 评测反复证明「宣称上下文」远大于「有效上下文」。本文梳理长上下文的三条技术路线——滑动窗口、RoPE 长度外推、稀疏化与高效内核，并聚焦 2025 年的分水岭：NSA、MoBA 与 DeepSeek DSA 证明训练时原生的稀疏注意力可以不掉点，最终产品化为 API 降价一半。

从自注意力不识顺序的痛点讲起，用二维复数把旋转位置编码的推导一次讲透：内积为何只依赖 m−n、高维频率如何分配，配一份本地跑通的 numpy 最小实现与整体平移不变性实验，再谈 PI、NTK-aware、YaRN 的长上下文扩展路线与 ALiBi 的取舍。

上下文窗口是预算不是仓库。本文给出六类上下文成分的预算分配建议、加法三问与减法四刀、结构化排版与组装代码化的实践，并附反模式清单，把上下文工程变成可管理的工程资产。

OpenAI 发布 GPT-4，支持图文多模态输入，在律师资格考试等专业基准上达到人类前 10% 水平，并引入 32K 长上下文版本。

AI 改不动大项目的首要原因不是模型不够聪明，而是它看不到相关的代码。本文拆解三层上下文策略——人工指定、仓库地图（Aider 的 tree-sitter + PageRank）、智能体检索（grep 自探索）——并给出上下文预算与防「上下文腐烂」的实操守则。

长上下文常被当成大模型的头号卖点，但它有三层代价：平方级注意力计算、线性增长的 KV Cache 显存，以及塞得进去未必用得好的召回衰减。本文讲清长度受限的原理、显存的估算方法与三条扩长路线，并给出上下文预算分配的实操建议。

把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点，并给出优先级表与算法工程师/产品经理的行动建议。

IT之家 9 月 18 日消息，腾讯 Chatterfly 输入法现已开启内测，支持 macOS 和 Windows 系统，iOS 与 Android 版显示为即将发布。 官方表示，这款输入法除了将语音变成文字外， 还能理解上下文 ，识别不…

从控制流与上下文的所有权出发，给出四条可执行的 Agent 工程原则：一切外部接入以工具体系形式接入且不注入系统提示词；逐级披露贯穿技能、工具发现、工具执行与记忆四个环节；Workflow / Agent / Agentic Workflow / Graph 各有场景、不是替代关系；并逐层拆解四者的技术原理——DAG 与状态机、ReAct 循环、宏观图加微观循环的混合架构，以及 State/Node/Edge、超步执行、reducer 合并语义、checkpointer 恢复、interrupt 人审与递归上限。

开源办公套件 ONLYOFFICE 发布 10.0 秋季大版本，带来编辑器内上下文感知 AI 工具、模块化应用架构与更强的安全机制。

大模型的数据泄漏横跨训练记忆、上下文残留与日志供应链三条路径。本文给出应用侧 PII 脱敏流水线、多租户检索越权这一隐蔽坑的对策，以及按输入-输出-日志-训练四段分别设防的思路。

把吴恩达 2026 年 8–9 月连发五封信构建的《AI 工程技能地图》从"看懂"变成"照做"：给出 20 格可打分自评表（四大顶层能力 × 全部细分项，每格配一句过关判定问题），逐格拆解"学什么—怎么练—什么算过关"，并附三条不同起点的学习路径、一张 12 周计划表、三个必做练手项目与七个反模式清单。全部细项定义来自吴恩达原文，判定问题与计划表为本文延伸并已标注。

推理模型改写了提示词的规则——OpenAI 官方文档明确写着「避免思维链提示」「通常不需要 few-shot 示例」；Anthropic 则把叙事重心移交给了「上下文工程」。提示工程死了吗？没有，它收缩了：从话术技巧收缩成「先建评估、再写规格、管好上下文」的工程实践。本文以三家官方文档为一手依据，对照出仍然有效的技巧清单、官方明确说可以省掉的技巧，以及实证研究给出的边界。

2017 年 6 月，八位 Google 研究员在一篇机器翻译论文里抛弃了循环网络，标题只有五个词：Attention Is All You Need。此后九年：GPT-3 证明规模即能力、ChatGPT 两个月一亿用户、Scaling Laws 驱动军备竞赛、DeepSeek 用十分之一成本撼动算力叙事、推理模型开启第二条扩展曲线。本文是「机器学习简史」系列完结篇，所有 2024 年后的关键事实均经联网核实，带你看清截至 2026 年 10 月的大模型版图，与依然悬而未决的终极争论。

「Agent 工程系统学习」专题导读：一套教材型 AI Agent 工程学习资料的总览。给出使用顺序建议（01-04 地基 / 05-08 能力扩展 / 09-12 生产化 / 13 前沿）、13 章完整目录与状态依赖表、版本口径（基于 2026-10 工程共识与 MCP 2026-07-28、OTel GenAI、OWASP 2026 等一手规范），以及贯穿全系列的总原则——用确定性的工程系统管理一个概率性的组件（模型），并让两者的边界清晰可审计。

Agent 工程系统学习第 5 章：工具是 Agent 的手脚。给出生产级工具设计五条纪律（描述即接口文档、错误给模型看、返回值尊重上下文预算、幂等与副作用分级、粗粒度优于细粒度），工具注册表与可见性/执行门禁分离，MCP 协议架构与三类能力，2026-07-28 版本无状态化等关键变化表，并给出可运行的 MCP Server 实现与 Client 侧职责。

深度学习不是 2012 年凭空出现的——1986 年反向传播论文就登上了 Nature，LeCun 的 LeNet 在 1990 年代替银行处理了一成支票。但同期的 SVM 凭理论保证把神经网络压到学科边缘，「两种文化」之争贯穿整个中场。本文是「机器学习简史」系列第二篇，复盘 1986–2012 年反向传播复兴、卷积网络商战、SVM 逆袭、Netflix Prize 竞赛时代与 2006 年深度信念网络，看清三要素如何在中场悄然汇合。

系列第 ③ 篇，对应技能地图第 2 格「Grounding」。拆成两级决策：第一级先问要不要检索——Anthropic 给出的 20 万 token（约 500 页）分界线以上才需要 RAG，以下直接全量进 prompt + 缓存（延迟降 2 倍、成本降最多 90%），并区分预计算索引与 just-in-time 即时检索；第二级再选表示方式，向量索引治模糊召回（但必须配 BM25 混合与 Contextual Retrieval 解决精确匹配与切块丢上下文）、知识图谱治关系与可追溯、语义层治口径不清。附可量化收益表（检索失败率 5.7% → 3.7% → 2.9% → 1.9%）、四个实现注意项、context rot 与上下文压缩/笔记/子智能体三件套，以及一张可抄的选型决策树。

论文提出Long-WAM框架，在实时控制约束下扩展因果世界-动作模型的视觉历史上下文，发现自回归预训练的视频基础模型才能让更长历史带来收益，在RoboCasa GR-1上将成功率从63.3%提升到78.7%。

Coding Agent 的核心是一个 ReAct 式循环：规划、执行、观察、验证、修正。本文拆解循环的工程实现——上下文管理、验证闭环、权限分级与三种典型失败模式，并说明 harness 与模型同样重要。

论文提出扩散模型在线上下文蒸馏方法（D-OPCD），把智能体改进的提示作为特权上下文，将智能体框架中的知识蒸馏进扩散模型权重，使模型仅凭原始查询也能保留部分智能体带来的效果。

提出两阶段后训练框架 Salt++，通过因果自流（CSF）和上下文对齐的自回归 DMD，解决少步流式音视频生成中上下文相关难题。

系列第 ② 篇，对应技能地图第 12–16 格「使用编程智能体」。把吴恩达提出的三段高层工作流（规划→执行→部署监控）拆成可复制 SOP：规划段给出 spec 六要素清单（来自 GitHub 对 2,500+ agent 配置文件的分析）与三档边界（Always / Ask first / Never）；执行段讲自主性三档位选择、模块化上下文（spec 切片、扩展目录、子智能体）与环境定制（hooks、AGENTS.md、裁剪技能）；监控段给出功能/行为/契约三类验证与四个失败模式的对应防护。附 12 步勾选式 SOP 与两条边界提醒（vibe coding ≠ AI 辅助工程；速度/不确定性/成本的致命三角）。

梯度只给方向，学习率决定步长。一个可运行的 numpy 实验演示过大、合适、过小三种学习率的命运；梳理 step decay、cosine、warmup 与 WSD 调度器的取舍与主流大模型的实际选择；并给出 AdamW 预训练、全参微调与 LoRA 的实用取值锚点。

2017 年 Ali Rahimi 领奖时说「机器学习变成了炼金术」，LeCun 当场反驳；八年过去，模型能力涨了几个数量级，「为什么泛化」的数学解释仍然是一堆可解模型里的定理。本文盘点深度学习数学基础的现状：随机标签实验、双下降、NTK、grokking、scaling laws 各自被解释到了哪一步，哪一步仍然卡住，以及 2026 年「学习力学」的学科宣言算不算转折点。

2012 年 10 月，一个用两块游戏显卡训练了五六天的神经网络，把 ImageNet 图像识别错误率从 26% 砍到 15%，整个领域为之改宗。此后五年：ResNet 越过人眼基准、注意力机制埋下 Transformer 的种子、AlphaGo 4:1 击败李世石让全世界重新认识机器学习。本文是「机器学习简史」系列第三篇，用一手论文数据复盘深度学习的黄金五年，也不回避这五年里的「炼金术」之争。

「机器会思考吗？」这个 1950 年的疑问，如何一步步变成 1958 年报纸头版上的感知机奇迹，又如何在 1974 年和 1987 年两次坠入寒冬？本文是「机器学习简史」系列第一篇，从 MP 神经元、图灵模仿游戏、达特茅斯会议讲到感知机兴衰、Lighthill 报告与 Lisp 机器崩塌，用一手文献复盘 AI 前四十年的大起大落，以及两次寒冬留给今天的教训。

「北京」和「首都」没有一个字相同，计算机却能算出它们语义相近——秘密是把文字映射成高维空间里的向量，让语义关系变成几何关系。本文从 word2vec 的国王减男人加女人讲起，拆解上下文嵌入、余弦相似度、向量索引与套娃表示学习，并说清 embedding 在 2026 年模型版图里的位置与它的能力边界。

263k 星的「agent harness 操作系统」ECC（当日涨星 837、MIT）：68 子代理/292 技能/94 命令 + instinct 置信度学习 + 跨 harness 适配 + AgentShield 配置安全扫描。拆解五层架构、instinct 闭环与上下文预算取舍，含五个落地场景与可复现命令。

给已有 Agent 框架做 RL 后训练，通常要把业务逻辑重写成训练代码。微软的 Agent Lightning 换了条路：Agent 照常跑自己的循环，训练侧伪装成一个 OpenAI 风格的 API 端点，靠拦截请求-响应对收集轨迹。v1.0 技术报告里，Qwen3.5-9B 编码 Agent 在 SWE-bench Verified 上从 41.8% 提到 56.4%。本文拆解它的架构、算法与社区争议。

IT之家 10 月 12 日消息，阿里千问今日正式发布 QwenGyre，这是一款面向长程智能体任务的在线强化学习框架。 据官方介绍，当智能体承担复杂工作，一次执行往往持续数小时，模型与环境之间有数百轮相互依赖的交互，累计处理百万级 tok…

IT之家 10 月 8 日消息，太平洋时间 10 月 7 日上午 10 点（北京时间 10 月 8 日凌晨 1 点）在美国旧金山举办的活动中，微软表示正计划将 MAI Code 1.1 Flash 模型（包含 1300 亿个参数）引入 Wi…

CLIP（Radford et al., 2021）用 4 亿网络图文对做对比学习，零样本在 ImageNet 拿到 76.2%——追平全监督的 ResNet-50。本文拆解对比学习的训练机制、零样本分类的「提示词即分类器」玩法、CLIP 的失效模式，以及它如何成为多模态时代的地基。

在大模型在拼命刷 Benchmark 卷编程的时候，「不能说话」的 Jev 却意外成了 AI 圈的新顶流，究其原因，大模型应用的价值正在从「生成什么」，进一步延伸到「能否理解复杂信息，并据此做出可靠判断」。 放到企业办公场景里，这个问题尤为…

冲刺港股IPO]

IT之家 9 月 11 日消息，OpenAI 于当地时间 9 月 10 日宣布推出 Agents API 公测版，允许开发者通过 API 调用由 OpenAI 管理的云端 AI 智能体运行环境。 该服务复用了 Codex 背后的智能体执行框…

9 月 15 日晚间消息，近日，华为心声社区对外披露了华为监事会主席郭平与新员工座谈纪要。在与新员工的沟通中，郭平回应了手机业务与苹果对比、车 BU 发展、大模型战略、半导体业务方向等话题。 谈超越苹果：专注做好自身，虚心向苹果学习 被问及…

IT之家 9 月 19 日消息，荣耀学习空间 App 手机版今日官宣上线，AI 作业辅导工具、同步教材、课后教辅、名师课统统装进荣耀手机里。 下载指南： 1. 设置-系统和更新-软件更新，将系统升级至 MagicOS 11 2. 桌面下拉-…

模型读到的不是字也不是词，而是 token。本文用 low/lower 语料演示 BPE 合并出词表的过程，解释中文为什么更费 token，以及它对计费、上下文长度和算术能力的影响，文末附代码示例与流程图。

· 集邦咨询预计 iPhone Duo 今年出货 500 万台，占折叠屏市场近四分之一 · Kimi K2.8 Preview 全量上线，所有会员开放 100 万上下文 · Grok 4.7 延期，马斯克称模型会在难题上过早放弃 #欢迎关注…

Agent 工程系统学习第 13 章（前沿专题）：三个高薪高门槛方向。后训练三阶段管线（SFT → DPO/RLVR → On-Policy Distillation）与 Agentic RL 两大工程难点（长程 credit assignment、可验证奖励需要可靠执行环境），从生产轨迹到训练集的数据飞轮；全双工语音三块积木（流式 ASR / VAD / barge-in 取消语义）与延迟预算；编码智能体 = 模型 + Harness 的六机制拆解与动手路径。

TypeSafe AI 的 Jev 全面开放，注册即得 5 美元额度（约 1.2 亿输入 Token），输出 Token 永久免费。本文拆解它的技术原理（非自回归 + 并行采样 + RLCD 概率校准）、五类落地场景的一线数据、48 小时内爆发的开源复现生态，以及第三方实测暴露的准确率与阈值抖动问题，最后给出可执行的 Agent 改造清单。

提出EviAlign方法，通过生成语义证据并在证据单元边界读取上下文状态、聚合为归一化嵌入，联合生成与对比检索目标训练共享多模态大模型结构。

Agent 工程系统学习第 4 章：记忆系统解决跨会话问题。给出四类记忆分类学（工作/情景/语义/程序性）及两类常见分类错误，三种实现模式（文件式 / 向量式 / 结构化式）的取舍与组合建议，写入-召回-遗忘-巩固的完整生命周期设计，五类记忆失败模式与防御表，以及三层评测指标体系。

「它」指代谁？Attention 让每个 token 拿自己的 Q 去和所有 token 的 K 算相似度，再加权平均它们的 V，让上下文信息在 token 之间流动。本文用检索类比讲清 Q、K、V、缩放点积、多头与因果掩码，并连到推理工程的 KV Cache。

IT之家 9 月 23 日消息，小米 MiMo 大模型负责人罗福莉今日发文，宣布 MiMo-V3 即将采用全新架构。其核心 HySparse 2 今日发布，带来更少的预填充、更小的 KV 缓存、更出色的长上下文检索。 在 1M（100 万）…