检索回 10 篇文档塞进上下文——但其中 80% 的内容与问题无关。上下文压缩在「检索之后、生成之前」加一道减法：把检索结果的冗余删掉、把关键信息提出来。本篇拆解压缩的四种策略（抽取式压缩、摘要式压缩、选择性上下文、结构化压缩）与效果取舍。

本地代理拦截智能体的工具输出、日志与检索结果，按内容类型路由到九种压缩器，CCR 机制保证原文随时可取回；配合厂商前缀缓存，排障场景实测省 57% token，压缩开销 0.2 毫秒级。当日涨星 477，总星 7.7 万。

Agent 工程系统学习第 3 章：上下文工程取代 prompt engineering 成为核心技能。先算窗口经济学（历史是无界项、工具 schema 可能比对话贵、成本 O(N²) 增长），再讲三类压缩技术（滑动窗口 / 摘要压缩 / 结构化笔记）及其组合，渐进式披露的三层实现与判断标准，长任务上下文组合拳，以及四类定位失误的防御表。

从窗口军备竞赛到上下文腐烂现象，分析长窗口为什么没有杀死 RAG，梳理压缩、隔离、外置三层上下文工程实践，以及多智能体架构带来的上下文解耦红利。

一周涨星 2,968 的编码智能体上下文网关：沙箱执行只回流 stdout、SQLite FTS5 零 LLM 检索、压缩快照防失忆，官方基准整会话 315 KB→5.4 KB。本文并排展示第三方保留意见——98% 未经独立复现、有损摘要会破坏指纹契约，以及它真正暴露的 17 平台 hook 能力差异。

长上下文不是把窗口开大就行：KV Cache 随序列长度线性膨胀，很快压过模型权重成为显存大头。本篇拆解 KV Cache 的来历与账单、多头注意力的三代瘦身方案（MQA/GQA/MLA）、稀疏与线性注意力的路线，以及「上下文长度」宣传数字背后的真实约束。

现代大模型的百万上下文，几乎都建立在 2021 年的旋转位置编码与 2023 年的一系列外推算法之上。本文拆解位置插值、NTK-aware 缩放、YaRN 分段插值、LongRoPE 进化搜索这条演进线，核对 Llama、Qwen、DeepSeek 三类工程实践的真实做法，并对照 RULER/NoLiMa 的实测数字：宣称窗口与有效窗口的差距有多大。

从上下文窗口的精打细算到向量检索、结构化画像、知识图谱三条长期记忆路线，拆解智能体记忆系统的分层架构、写入与遗忘策略，以及当前的产品化格局与选型建议。

RAG 的回答质量，一半取决于检索，一半取决于提示词。检索到的上下文再好，提示词写得不对，模型照样答非所问。本篇拆解 RAG 提示词的三层结构（system prompt、上下文模板、生成指令），以及「让模型只基于检索内容回答」的约束设计。

「这个应用每月的模型账单会是多少」——回答这个问题需要真正理解 token 计费的口径：输入输出分价、上下文累积、缓存折扣、以及隐藏的成本大头。本篇拆解计费的完整口径、一笔真实对话的成本拆解、以及按效排序的成本优化清单——把「token 焦虑」变成「token 预算学」。

「支持 1M 上下文」与「用好 1M 上下文」之间隔着一道位置偏差的沟：模型记得开头与结尾，中间的信息像掉进黑洞。本篇拆解 Lost in the Middle 的实验发现、位置编码与注意力分布的机制解释、检索增强与重排序的工程对策，以及「位置偏差能不能被训练掉」的开放问题。

窗口从 8K 涨到千万级，「RAG 已死」论再起。但评测数据显示有效上下文远小于宣称窗口，长输入的成本与延迟也要另算一笔账。本文用论文与定价证据拆解两者分工：小库精读交给长窗口，大库「找得到、读得起」仍靠检索。

2026 年，1M token 上下文已成为头部旗舰的标配，但 RULER 与 NoLiMa 评测反复证明「宣称上下文」远大于「有效上下文」。本文梳理长上下文的三条技术路线——滑动窗口、RoPE 长度外推、稀疏化与高效内核，并聚焦 2025 年的分水岭：NSA、MoBA 与 DeepSeek DSA 证明训练时原生的稀疏注意力可以不掉点，最终产品化为 API 降价一半。

在提示里放几个输入-输出示例，模型一次前向传播就把新任务干得像模像样——没有梯度更新，没有训练循环，这就是上下文学习（ICL）。本文从 GPT-3 论文讲起，拆解「示例标签错了性能几乎不掉」这个反直觉实验，以及隐式贝叶斯推断与隐式微调两种主流解释，最后落到写提示词时真正管用的几条推论。

AI 改不动大项目的首要原因不是模型不够聪明，而是它看不到相关的代码。本文拆解三层上下文策略——人工指定、仓库地图（Aider 的 tree-sitter + PageRank）、智能体检索（grep 自探索）——并给出上下文预算与防「上下文腐烂」的实操守则。

从自注意力不识顺序的痛点讲起，用二维复数把旋转位置编码的推导一次讲透：内积为何只依赖 m−n、高维频率如何分配，配一份本地跑通的 numpy 最小实现与整体平移不变性实验，再谈 PI、NTK-aware、YaRN 的长上下文扩展路线与 ALiBi 的取舍。

上下文窗口是预算不是仓库。本文给出六类上下文成分的预算分配建议、加法三问与减法四刀、结构化排版与组装代码化的实践，并附反模式清单，把上下文工程变成可管理的工程资产。

长上下文常被当成大模型的头号卖点，但它有三层代价：平方级注意力计算、线性增长的 KV Cache 显存，以及塞得进去未必用得好的召回衰减。本文讲清长度受限的原理、显存的估算方法与三条扩长路线，并给出上下文预算分配的实操建议。

「上下文切换 1 微秒」是流传最广的性能迷信——直接成本确实小，间接成本才是大头。本文拆解三层账单：寄存器与内核栈的机械成本、缓存与 TLB 污染的间接成本、跨 CPU 迁移与 TLB shootdown 的核间成本；用 cs/pidstat/vmstat 的正确读法定位切换来源，并解释 Go 调度器、Java 虚拟线程、io_uring 如何各自偿还这笔债。

OpenAI 发布 GPT-4，支持图文多模态输入，在律师资格考试等专业基准上达到人类前 10% 水平，并引入 32K 长上下文版本。

检索回来的片段直接塞给模型，是 RAG 里被省略最多、也最该做的一段工程：去重、排序、压缩、位置摆放、预算分配，每一步都直接影响答案质量。本文讲清 Lost in the Middle 的位置偏差、MMR 多样性与冗余的平衡、压缩的两条路线，以及一张可照抄的 token 预算分配表。

系列第 ③ 篇，对应技能地图第 2 格「Grounding」。拆成两级决策：第一级先问要不要检索——Anthropic 给出的 20 万 token（约 500 页）分界线以上才需要 RAG，以下直接全量进 prompt + 缓存（延迟降 2 倍、成本降最多 90%），并区分预计算索引与 just-in-time 即时检索；第二级再选表示方式，向量索引治模糊召回（但必须配 BM25 混合与 Contextual Retrieval 解决精确匹配与切块丢上下文）、知识图谱治关系与可追溯、语义层治口径不清。附可量化收益表（检索失败率 5.7% → 3.7% → 2.9% → 1.9%）、四个实现注意项、context rot 与上下文压缩/笔记/子智能体三件套，以及一张可抄的选型决策树。

腾讯发布开源模型 Hy4：770B 总参数、49B 激活的 MoE 架构，1M+ 上下文，Apache 2.0 许可。

从控制流与上下文的所有权出发，给出四条可执行的 Agent 工程原则：一切外部接入以工具体系形式接入且不注入系统提示词；逐级披露贯穿技能、工具发现、工具执行与记忆四个环节；Workflow / Agent / Agentic Workflow / Graph 各有场景、不是替代关系；并逐层拆解四者的技术原理——DAG 与状态机、ReAct 循环、宏观图加微观循环的混合架构，以及 State/Node/Edge、超步执行、reducer 合并语义、checkpointer 恢复、interrupt 人审与递归上限。

《Language Models are Few-Shot Learners》（Brown et al., 2020）把 GPT-3 推到 175B 参数，真正的发现却是另一个：只靠提示词里放几个例子，模型就能完成没训过的任务——in-context learning 从此改写了 NLP 的工作方式。本文精读这篇论文的机制、数据与遗留争议。

大模型的数据泄漏横跨训练记忆、上下文残留与日志供应链三条路径。本文给出应用侧 PII 脱敏流水线、多租户检索越权这一隐蔽坑的对策，以及按输入-输出-日志-训练四段分别设防的思路。

K-Dense 开源的科研智能体技能库：177 个覆盖基因组、药物发现、临床证据等领域的 SKILL.md，遵循 Agent Skills 开放标准，Claude Code、Cursor、Codex、Gemini CLI 都能直接安装。本文拆解它的渐进加载架构、上下文成本账本、分发与安全流水线，并给出五类落地场景与真实评测数字。

蚂蚁百灵宣布开源总参数约 560B、每 Token 激活约 25B 的 Ling-3.1-flash 模型，最高支持 1M 上下文，并介绍了 MXFP4 量化、长上下文并行推理、投机解码等部署优化方案。

开源办公套件 ONLYOFFICE 发布 10.0 秋季大版本，带来编辑器内上下文感知 AI 工具、模块化应用架构与更强的安全机制。

IT之家 9 月 18 日消息，腾讯 Chatterfly 输入法现已开启内测，支持 macOS 和 Windows 系统，iOS 与 Android 版显示为即将发布。 官方表示，这款输入法除了将语音变成文字外， 还能理解上下文 ，识别不…

TypeSafe AI 的 Jev 全面开放，注册即得 5 美元额度（约 1.2 亿输入 Token），输出 Token 永久免费。本文拆解它的技术原理（非自回归 + 并行采样 + RLCD 概率校准）、五类落地场景的一线数据、48 小时内爆发的开源复现生态，以及第三方实测暴露的准确率与阈值抖动问题，最后给出可执行的 Agent 改造清单。

一份可直接照做的 Jev 实操手册（2026-09-22）：从 state/questions/answers 三件套与 Choice/Score/Noul 三种原语讲起，给出 state 设计、置信度三档路由与阈值标定，Speculative fan-out 与 Composite scoring 两大模式，四个生产级配方（客服分诊 / Agent 工具护栏 / 模型路由 / 上下文压缩），并逐条拆解官方披露的九类失败模式，附成本、限流、版本管理与一页速查表。

推理模型改写了提示词的规则——OpenAI 官方文档明确写着「避免思维链提示」「通常不需要 few-shot 示例」；Anthropic 则把叙事重心移交给了「上下文工程」。提示工程死了吗？没有，它收缩了：从话术技巧收缩成「先建评估、再写规格、管好上下文」的工程实践。本文以三家官方文档为一手依据，对照出仍然有效的技巧清单、官方明确说可以省掉的技巧，以及实证研究给出的边界。

预训练之后权重就冻结了——这条默认设定正被测试时训练（TTT）打破：推理时当场用少量示例对模型做微调，让它在几秒内「学会」眼前的任务。ARC-AGI 基准上的突破让它出圈，与上下文学习、测试时扩展的关系需要厘清。本篇拆解 TTT 的机制、它在抽象推理上的实证、以及「推理时学习」路线的边界。

Coding Agent 的核心是一个 ReAct 式循环：规划、执行、观察、验证、修正。本文拆解循环的工程实现——上下文管理、验证闭环、权限分级与三种典型失败模式，并说明 harness 与模型同样重要。

把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点，并给出优先级表与算法工程师/产品经理的行动建议。

论文提出记忆整合（Memory Consolidation）任务框架，并介绍 Cortex 方法，通过生成前瞻性查询并将上下文条件输出蒸馏为可合并的低秩或前馈网络更新，在 4B–120B 的稠密与 MoE、文本及多模态模型上验证了整合与保持能力的效果。

提出联合子空间稀疏注意力（JSSA），通过学习共享低维查询-键子空间并给出可求解的谱闭式解，在token级稀疏注意力中兼顾选择精度与解码延迟，降低长上下文LLM解码中占主导的KV缓存流量。

论文提出Long-WAM框架，在实时控制约束下扩展因果世界-动作模型的视觉历史上下文，发现自回归预训练的视频基础模型才能让更长历史带来收益，在RoboCasa GR-1上将成功率从63.3%提升到78.7%。

论文提出扩散模型在线上下文蒸馏方法（D-OPCD），把智能体改进的提示作为特权上下文，将智能体框架中的知识蒸馏进扩散模型权重，使模型仅凭原始查询也能保留部分智能体带来的效果。

提出两阶段后训练框架 Salt++，通过因果自流（CSF）和上下文对齐的自回归 DMD，解决少步流式音视频生成中上下文相关难题。

系列第 ② 篇，对应技能地图第 12–16 格「使用编程智能体」。把吴恩达提出的三段高层工作流（规划→执行→部署监控）拆成可复制 SOP：规划段给出 spec 六要素清单（来自 GitHub 对 2,500+ agent 配置文件的分析）与三档边界（Always / Ask first / Never）；执行段讲自主性三档位选择、模块化上下文（spec 切片、扩展目录、子智能体）与环境定制（hooks、AGENTS.md、裁剪技能）；监控段给出功能/行为/契约三类验证与四个失败模式的对应防护。附 12 步勾选式 SOP 与两条边界提醒（vibe coding ≠ AI 辅助工程；速度/不确定性/成本的致命三角）。

同样的任务，70B 模型能做到的，1B 模型经过蒸馏也常常能做到七八成——能力从大模型流向小模型的通道是当代 AI 工程的核心课题。本篇拆解蒸馏的三代方法（logit 蒸馏、CoT 蒸馏、on-policy 蒸馏）、量化与剪枝的压缩三件套，以及「小模型为何如此便宜」背后的技术账。

自回归生成每产出一个 token，都要回看之前所有 token 的 K 与 V——不缓存，计算量随序列平方爆炸；缓存了，显存又成了新瓶颈。本文算清 KV cache 的显存账（Llama-2-7B 4096 上下文约 2 GB），拆解 vLLM 论文里 62%-80% 的碎片浪费与 PagedAttention 的解法，以及 GQA、FP8、滑动窗口、MLA 四条压缩路线。

提出通过测试时训练学习文档级紧凑KV缓存，在不访问下游问题、模型权重保持冻结的情况下压缩长上下文缓存以降低内存与注意力开销。

IT之家 9 月 11 日消息，OpenAI 于当地时间 9 月 10 日宣布推出 Agents API 公测版，允许开发者通过 API 调用由 OpenAI 管理的云端 AI 智能体运行环境。 该服务复用了 Codex 背后的智能体执行框…

日涨星 1145 的智能体记忆系统：生命周期钩子捕获工具调用，AI 压缩成结构化观察，SQLite 与 ChromaDB 双库存储，三层渐进式检索宣称节省约 10 倍 token；本周六连发版本，也因安装器上传历史提示词陷入隐私争议。

一千万条 768 维 float32 向量要吃 30GB 内存——规模一上来，向量存储就成了 RAG 最贵的一块。本文讲清三条压缩路线：标量量化降精度、PQ 降基数、二值化极限压缩，各自的原理、召回代价与「粗排压缩向量 + 精排原始向量」的标准补偿手法。

IT之家 10 月 8 日消息，太平洋时间 10 月 7 日上午 10 点（北京时间 10 月 8 日凌晨 1 点）在美国旧金山举办的活动中，微软表示正计划将 MAI Code 1.1 Flash 模型（包含 1300 亿个参数）引入 Wi…

企业微信新增 WorkBuddy 入口，后者以机器人形式接入消息、文档、会议等十大能力权限，用户可在聊天中直接布置任务获取 AI 结果。