把 LLM 输出接进程序，坏 JSON 是头号工程痛点。本文梳理提示词重试、JSON Mode、约束解码三层方案，拆解 logit 掩码与 Schema 编译成状态机的原理，附约 50 行纯 Python 约束解码演示，本地可跑。

GLiFormer Large scores 91.10 F1 on nested JSON, near GPT-5.6-luna's 91.96, while grounding every value in source spans. …

Anthropic 官方开源的 11 个知识工作插件（★28,766、Apache-2.0）：252 个 SKILL.md 按 description 触发、21 个 .mcp.json 接入 CRM/数仓/工单，权限留在连接器、外部内容一律当数据。拆解双层 marketplace 与钉 SHA+政策扫描的供应链治理，附五个落地场景与真实边界。

发布不到两年，MCP 从 Anthropic 的一个开放标准长成了 AI 应用连接层的事实标准——又在 2026-07-28 的规范里把自己重构了一遍：会话没了、握手没了、sampling 和 roots 被废弃。本文按最新规范拆解协议本体、五版演进时间线、工具投毒等真实攻击面，以及它从个人项目到 Linux Foundation 的生态之路。

VectifyAI 开源的无向量 RAG 引擎 PageIndex（当日涨星 +1,095、★38,082、MIT）：把长文档编译成 JSON 层级树，让 LLM 逐节点推理导航，取代切块+向量相似度。基于它的 Mafin 2.5 在 FinanceBench 全量 10,231 题报告 98.7%。拆解两阶段架构、三模式 TOC 自校验回退、三工具检索循环、成本口径，以及多文档规模化与数据主权的真实边界。

本站（alishangtian.com/ainews）正式上线：纯静态架构，内容以 JSON 形式开源存储于 GitHub 仓库，基于预构建倒排索引实现纯浏览器端的本地全文检索。

★58,992、AGPL-3.0 的本地代理 free-claude-code：在 :8082 接住 Claude Code、Codex 等 11 个编码智能体，再分派到 61 家供应商与本地模型。拆解双协议入站、四档模型映射、有序 fallback 与流式四态恢复，以及 Python 3.14.7 锁版本、密钥集中等真实边界。

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

★36,402、Apache-2.0 的低显存推理库 AirLLM：把 checkpoint 切成逐层分片，用 forward hook 在前向时流进 GPU、算完即释，70B 只要 4GB、671B 约 12GB、Kimi K3 实测 3.72GB。拆解 meta device + 2GiB pin 上限 + MoE 按专家流式的取舍，以及社区实测 5–35 秒/token 的真实代价。

A2A 协议 2026 年 3 月发布 1.0 稳定版，MCP 同年 7 月完成官方所称「史上最大修订」、把协议核心重写为无状态架构；两大规范在 12 个月内先后定型，并在中立基金会下完成治理统一。本文梳理两条演进主线、企业落地证据链，以及重叠、碎片化与过早标准化三派争议。

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

Jev 火了，一个非文本的 AI 模型在今天拿到了由 a16Z 领投的 8.7 亿美元融资，其公司 TypeSafe 的估值直接来到了 75 亿美元。 在 9 月 15 号刚刚发布时，TypeSafe 种子轮才 4000 万美元、估值约 2…

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

Astral（Ruff 团队）用 Rust 写的 uv，一个二进制替代 pip、venv、pyenv、Poetry、pipx 等一串工具：官方基准快 10 到 100 倍、通用锁文件、Cargo 式工作区。本文讲清它的快从哪来、锁文件与工作区机制、2026 年的采用现状，以及迁移时真正会踩的坑。

Java 25 是继 21 之后的又一个 LTS：紧凑对象头转正、简单源文件定稿、Scoped Values 定稿、AOT 缓存一条命令可用。本文以官方 JEP 为准过一遍关键特性，并复盘虚拟线程落地三年的生产经验——pinning 的来龙去脉、适用边界与响应式编程的取舍。

进程内 OLAP 数据库 DuckDB：一条 SQL 直接查本地 CSV、Parquet 与远端对象存储，单文件落库，PyPI 月下载超 5000 万。本文讲清它的列式向量化引擎、与 SQLite、pandas、ClickHouse 的分工、2026 年的生态大事（v2.0 在路上、DuckLabs 并入 AWS），以及上手要点与真实短板。

编码智能体 2026 年进入平台化竞争：Claude Code 做成插件平台，Codex 绑定 ChatGPT 订阅铺开全端，Cursor 深耕 IDE 体验，Gemini CLI 以免费额度换生态，Aider 求极简、OpenHands 转做智能体控制中心。本文以官方定价与文档为口径横评六款工具，给出场景化选型建议。

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

十三* 2026-10-09 17:19:57 来源：量子位 大写的方便 金磊 发自 凹非寺 量子位 | 公众号 QbitAI TRAE**，刚刚做了个大动作。 以前的你，如果要改个bug，得打开TraeCode；要是还得出份技术方案，那…

2,510 当日涨星的开源 AI 创作 IDE（★7,621、Rust/Tauri）：把 62 个图像/视频/音频/3D 模型收进一个本地桌面端，用 3D 场景、图层合成与人偶摆姿把「提示词抽卡」变成可复现的创作工程。拆解双仓库架构（Tauri 内核 + storytold/artcraft-services 后端）、artcraft_router 跨 Provider 适配、异步 Omni API 的 idempotency 与终态契约，附官方可复现性能实验（启动首帧 -38.1%）与自定义 fair source 许可证风险。

九年过去，Transformer 的骨架纹丝未动，外围部件却几乎换了一遍：归一化从 Post-LN 走到 QK-Norm，位置编码从正弦函数走到 RoPE 与 NoPE 混布，注意力从 MHA 走到 GQA 与 MLA。本文以 12 家旗舰模型的官方配置为据梳理这条演进主线，并回答一个问题——模型之间的差距，还剩多少在架构里？

4,655 当日涨星的开源逆向工程 MCP（★16,948、MIT）：把二进制/Electron/.NET/APK/固件的逆向收敛成一个本地 MCP Server + 同源 CLI（134 工具、24 Provider、12 客户端）。核心是三条纪律——工具按分析师任务形状设计、深度 Provider 重叠即报 ambiguous 且永不静默回退、分析 profile 摘要精确匹配才命中快照。拆解 Evidence 账本与跨连接引用语义、Ghidra 330s 启动截止与 25 个 Windows P0 只读操作等硬边界。

PagedAttention 解决了「KV 内存怎么分页」，但没解决「相同前缀为什么要重算」——SGLang 用 RadixAttention 把前缀复用变成运行时自动机制，再靠零开销调度、缓存感知路由与三级 KV 缓存一路打进了 xAI 与 Azure 的生产环境。本文拆解它的架构主线、2026 年的双周发版节奏、与 vLLM 的真实差距，以及上手要点。

推理模型改写了提示词的规则——OpenAI 官方文档明确写着「避免思维链提示」「通常不需要 few-shot 示例」；Anthropic 则把叙事重心移交给了「上下文工程」。提示工程死了吗？没有，它收缩了：从话术技巧收缩成「先建评估、再写规格、管好上下文」的工程实践。本文以三家官方文档为一手依据，对照出仍然有效的技巧清单、官方明确说可以省掉的技巧，以及实证研究给出的边界。

向量检索毫秒级出结果却常常「差一口气」，交叉编码器足够准却快不起来——Reranker 用两阶段管线把两者拼在一起：先粗召回 50-100 条，再精排挑出 5-10 条。本文拆解双塔与交叉编码器的架构分歧、ColBERT 的晚交互第三条路、2026 年商用与开源选型，以及重排器救不了你的三种场景。

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

OpenAI、Anthropic、Google 三家官方文档一致把推理模型指向数学、编程、复杂调试与长程智能体任务，而简单分类、低延迟与高吞吐场景不值得开思考。本文梳理三家的思考参数与档位选择，算清「思考 token 按输出计费」的成本账，给出一套 effort 档位取舍与调参的实用框架。

传统 APM 盯的是「请求是否 200」，LLM 应用的问题是「200 的请求答得对不对、花了多少钱」。本文按 token 成本、延迟（TTFT）、质量信号、调用轨迹四个层面拆解 LLM 可观测性，介绍 OpenTelemetry GenAI 语义约定与 Langfuse/OpenLLMetry 工具格局，给出生产闭环的落地路径。

Ollama 负责本地推理，Open WebUI 负责多模型对话、知识库与账号——本文在 Apple M4 上实测 Docker 组合部署全流程：官方命令、RAG 默认参数、OpenAI 兼容 API 的正确开关（v0.11 已改名），以及端口冲突、代理假 IP 导致拉模型失败等真实踩坑清单。

当软件没有 API 时，让模型像人一样看截图、点界面。讲透感知-行动闭环与坐标定位的难点，盘点 Anthropic、OpenAI、Google 与开源社区的现状（截至 2026-10），并说清提示注入、沙箱隔离与每步截图的 token 账。

MCP 授权规范演进到 2026-07-28 版：动态客户端注册已废弃，iss 校验转必做。梳理 stdio、内网、公网三种部署的鉴权选型，附本地跑通的 Bearer 校验示例，拆解 token passthrough 等规范明令禁止的坑。

SSE 是 LLM 应用做打字机效果的主流方案。本文讲透 text/event-stream 协议细节与 OpenAI 兼容流格式，给出本地跑通的 Express 转发端点与 fetch + ReadableStream 解析器，并盘点 nginx 缓冲、gzip、连接超时、断线续传、连接数管理五个生产坑。

精读 DeepSeek-R1 论文（arXiv 2501.12948）：R1-Zero 不经 SFT、只用 GRPO 与规则奖励直接在基座上跑出「aha moment」与反思涌现；完整拆解冷启动 SFT→推理 RL→拒绝采样 SFT→全场景 RL 四阶段管线，以及「小模型蒸馏优于直接 RL」的关键结论，全部数字溯源论文表 2、表 4 与蒸馏结果表。

MCP 连接智能体与工具，A2A 负责智能体之间怎么对话。Google 发起、现由 Linux Foundation 旗下 AAIF 治理，最新版本 1.0（截至 2026-10）。Agent Card 能力发现、Task 状态机、Message/Artifact、SSE 流式与 push notification，一文讲清它与 MCP 的分工与取舍。

RadixAttention 用前缀树跨请求复用 KV Cache，是 SGLang 的招牌。本文讲机制差异，给 OpenAI 兼容服务上手命令与结构化输出、多 LoRA、投机解码现状，并对照 vLLM/Ollama 谈选型。

Claude Code 用法实操：CLAUDE.md 记忆文件分层加载规则与模板、子智能体定义与上下文隔离、PreToolUse/PostToolUse 钩子拦截与自动格式化配置，附探索-计划-实现-提交循环、headless CI 集成与成本边界分析。

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

大模型的数据泄漏横跨训练记忆、上下文残留与日志供应链三条路径。本文给出应用侧 PII 脱敏流水线、多租户检索越权这一隐蔽坑的对策，以及按输入-输出-日志-训练四段分别设防的思路。

Agent 表现的上限常常不在模型而在工具。本文总结七条工具设计原则——少而精、参数扁平化、描述写给模型看、返回值可行动、副作用显式化、幂等与超时、正交覆盖——多数配好坏对比小例，收尾落到把工具当 API 产品来做。

15.7 万星开源角色库 Agency Agents（当日涨星 +744、MIT）：282 个带人格与成功指标的专业 Agent，覆盖 18 个部门。核心是「一源多目标」编译流水线——用 format 契约保证字节级一致、convert.sh 编译到 17 种宿主原生格式、install.sh 幂等投递且不覆盖用户文件、6 个 CI 工作流做格式门禁。拆解围栏状态机与颜色可解析性校验背后的真实缺陷史，附五个落地场景与 opencode 119 上限等硬边界。

多请求并发时 KV Cache 的预留式分配让 GPU 显存大量空转、吞吐卡死。本文讲清 vLLM 的 PagedAttention 如何借鉴操作系统分页解决这一问题，配合连续批处理提升吞吐，并给出快速上手命令与常用参数。

在 AI Agent 执行环境语境下梳理 microVM 开源方案全景：从隔离光谱（runc→gVisor→microVM→全量仿真）讲起，逐个拆解 Firecracker（极简 VMM+jailer、≤125ms 启动、≤5MiB 开销、快照惰性恢复）、Cloud Hypervisor、QEMU microvm 机型、Kata Containers（VM-per-pod 与后端对照表）、crosvm 的架构原理与接入路径，附 E2B/OpenSandbox 等平台级集成方案、横向对比表与场景化选型决策指南。

「感觉变好了」不算数。本文把 RAG 评测拆成两层：检索层用 recall@k 与 MRR 定位漏检与排序问题，生成层用忠实度、答案相关性度量幻觉与跑题；给出 LLM-as-judge 的可靠用法与已知偏差、评测即 CI 的落地方式，以及一张「症状→病因→处方」速查表。

每换一个 Agent 框架就要重写一遍工具接入？本文讲清 MCP 的三个核心原语与两种传输方式，带你用官方 SDK 写一个最小的 MCP Server，并覆盖客户端调用流程与上线前的安全清单。

大模型只会输出文本，却能让你的程序查数据库、发邮件——靠的不是魔法，而是一段结构化的调用意图。本文拆解 Function Calling 的完整回合流程、模型学会调工具的原理，以及参数幻觉等常见坑。

微调不是万能钥匙，但适合固定风格、固定格式与领域行话类需求。本文先讲清何时该微调，再用 LoRA 原理加 LlamaFactory 三步实战，带你不改代码微调出自己的模型，并给出常见坑与最小评测法。

76k 星开源项目 Impeccable（当日涨星 +1,171、Apache-2.0）：jQuery UI 作者 Paul Bakaus 给 AI 编程智能体的设计技能层。核心判断是「禁止清单只会迁移模型」，改用 61 条确定性检测规则 + 双盲评审子代理 + 跨会话记忆 + 编辑时钩子。拆解多宿主编译架构、反吸引子机制、8 道 gate 与 Live Mode 的取舍边界。

Agent 工程系统学习第 3 章：上下文工程取代 prompt engineering 成为核心技能。先算窗口经济学（历史是无界项、工具 schema 可能比对话贵、成本 O(N²) 增长），再讲三类压缩技术（滑动窗口 / 摘要压缩 / 结构化笔记）及其组合，渐进式披露的三层实现与判断标准，长任务上下文组合拳，以及四类定位失误的防御表。

Agent 工程系统学习第 4 章：记忆系统解决跨会话问题。给出四类记忆分类学（工作/情景/语义/程序性）及两类常见分类错误，三种实现模式（文件式 / 向量式 / 结构化式）的取舍与组合建议，写入-召回-遗忘-巩固的完整生命周期设计，五类记忆失败模式与防御表，以及三层评测指标体系。