用户第二轮问「那它支持导出吗」——这三个字没法直接检索。多轮对话 RAG 的核心动作是 condense：用对话历史把带指代、带省略的追问改写成独立完整的问题再去检索。本文讲清指代消解与历史压缩的做法、改写偏移的坑、以及「检索结果也要进历史」这个常被忽略的细节。

KV Cache 让一次推理不用重算历史 token，但多轮对话每次都把 10 万字的 system prompt 重发一遍——前缀缓存回答的是「相同前缀算一遍就够，能不能跨请求共享」。本文拆解它为什么必须是前缀、vLLM 哈希链与 SGLang radix tree 的实现差异、四大厂商截至 2026-10 的缓存定价，以及那笔「写 1.25 倍、读 0.1 倍」的账什么时候是赚的、什么时候反亏 25%。

OpenAI 基于 GPT-3.5 系列推出对话式 AI 产品 ChatGPT，上线两个月月活破亿，成为历史上用户增长最快的消费级应用之一，拉开生成式 AI 竞赛的序幕。

MCP 连接智能体与工具，A2A 负责智能体之间怎么对话。Google 发起、现由 Linux Foundation 旗下 AAIF 治理，最新版本 1.0（截至 2026-10）。Agent Card 能力发现、Task 状态机、Message/Artifact、SSE 流式与 push notification，一文讲清它与 MCP 的分工与取舍。

Agent 任务是多轮模型调用加失败重试，token 成本数倍于单轮对话，计费模式因此成为行业难题。本文梳理按 token、订阅、按结果、按价值分成四种模式的风险分配，分析毛利结构，并给出买方评估供应商的三个关键问题。

为什么同一段对话，用对 chat template 的模型表现天差地别？对话模型的一切行为都由一张「模板」定义：角色标记、特殊 token、系统提示的位置。本篇拆解 chat template 的结构、各家模板的差异、它如何决定「模型以为自己在跟谁说话」，以及微调与应用时最容易踩的模板坑。

SFT（监督微调）是基座模型变成对话助手的第一步，也是最被误解的一步——它常被当成「教知识」，实际是「教格式与行为」。本篇拆解 SFT 的数据形态、训练细节（epoch、学习率、灾难性遗忘的边界）、常见的失败模式，以及「SFT 教的到底是不是能力」这个核心争议。

语音对话「说完—听懂—想好—说出」四段链路各带百毫秒级延迟，叠加起来轻易超过人类对话的停顿预算。本文摊开全链路延迟账本，拆解 VAD、流式识别、首 token 与流式合成各环节，并对比级联与端到端两条架构路线。

IT之家 9 月 30 日消息，在北京时间 9 月 30 日凌晨 1 点举行的 OpenAI DevDay 2026 活动中，OpenAI 宣布 Codex CLI 迎来焕新升级。 Codex CLI 现已支持语音对话**，用户可以直接与 …

IT之家 9 月 22 日消息，《晚点 LatePost》今天（22 日）晚间发布消息称，豆包通用 Session 团队正在减员，规模预计减半。该团队此前约有 50 人，**一度是豆包内规模最大的团队**，主要负责豆包的对话（Chat）产品…

IT之家 9 月 16 日消息，当地时间 9 月 15 日，谷歌宣布推出 Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking。谷歌称这是其迄今最先进的实时对话模型，在智能和并行推理方面有重…

NVIDIA 联合普林斯顿大学和马里兰大学提出面向多轮 LLM 智能体的在线策略蒸馏方法 PivotOPD，训练智能体避免最致命的早期错误并在发生时恢复，在 ALFWorld、WebShop 和搜索问答任务上对 Qwen3-1.7B 与 Qwen3-8B 取得 13 个基线中的最佳平均成绩。

「读书给孩子听」的研究里最有价值的发现，不是哪份书单成就了学霸，而是阅读方式的决定性作用——「对话式共读」让孩子从听众变成讲述者，语言与认知的收益成倍放大。本文讲清共读各月龄的正确姿势、照本宣科与对话式阅读的差异、以及「孩子只听同一本书」这个经典问题的科学答案。

「这个应用每月的模型账单会是多少」——回答这个问题需要真正理解 token 计费的口径：输入输出分价、上下文累积、缓存折扣、以及隐藏的成本大头。本篇拆解计费的完整口径、一笔真实对话的成本拆解、以及按效排序的成本优化清单——把「token 焦虑」变成「token 预算学」。

Agent 工程系统学习第 1 章：从 HTTP 协议层讲透 LLM API——Chat Completions 协议与 role 语义、Function Calling 的"模型选择/代码执行"分工与三大常见错误、SSE 流式手写解析器（含 tool_calls 分块拼接）、token 计量与前缀缓存工程、重试/超时/幂等的错误分类纪律、多模态输入成本。附零框架多轮工具 Agent 实现作业。

“IT早报”时间，大家好，现在是 2026 年 9 月 13 日星期日，今天的重要科技资讯有： 1. 外卖新规实施三个月，央视探访看到店员徒手抓烤鸡、明厨亮灶摄像头对着天花板 今年 6 月 1 日起，《网络餐饮服务经营者落实食品安全主体责任…

爱范儿「多样性公司」栏目专访一目科技创始人李智强博士，介绍其厚度迭代至3毫米以下、号称全球最薄可量产的仿生视触觉传感器SENTRA T0，以及触觉感知对机器人灵巧操作的重要性。

「个人化」智能 #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。 ]

IT之家 9 月 17 日消息，2026 OPPO 开发者大会正在举行中，OPPO 公布了 ColorOS 17 在设备互联方面的多项新体验，覆盖车机、相机和耳机等场景。 首先，Car+ 车联（手机与车机互联功能）带来全新“步行导航接续”，…

IT之家 9 月 12 日消息，本周早些时候，Gamers Nexus、Level1Techs 和多名独立安全研究人员称，LG 电视会记录并上传用户数据。北京时间 12 日（今天），LG 出面再次反驳这些指控。 LG 通过声明回应称，近期部…

从想法到结果，一次对话实现]

IT之家 9 月 10 日消息，苹果今日正式发布 Apple Watch Series 12 和 Apple Watch Ultra 4 智能手表。 两款手表搭载苹果最先进的健康传感器和全新 Apple 芯片， 全新的健康感测系统带来更大的…

IT之家 9 月 10 日消息，彭博社今天（9 月 10 日）发布博文，报道称在 2026 秋季发布会上，苹果为 Apple Watch Series 12、Apple Watch Ultra 4 两款智能手表， 带来了 Siri Reca…

大模型的「听话」不是天生的，是训练出来的：监督微调（SFT）教它格式，人类反馈强化学习（RLHF）教它偏好，宪法 AI（CAI）试着教它原则。本文讲清这条对齐技术路径的演进逻辑、每一代方法解决了什么又留下了什么，以及为什么 Anthropic 会说「AI 用 AI 的反馈来对齐 AI」。

AI 编程工具经历了光标补全、对话式多文件编辑、自主 Coding Agent 三次跃迁。本文梳理每次跃迁的形态变化与背后「上下文工程」「工具调用」两个技术变量，并讨论工作流的改变与必须由人守住的边界。

具身智能会有自己的「ChatGPT 时刻」吗 #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。 ]

对齐训练有个令人不安的副作用：模型学会的可能不是「做好事」，而是「看起来做好事」。谄媚（sycophancy）——迎合用户的错误观点；欺骗性对齐——在训练时表现合规、部署后暴露另一面。本文讲清这两种行为的实证研究、形成机制，以及为什么它们是对齐问题的深水区警报。

一次 RAG 请求到底花多少钱？查询向量化几乎免费，检索只要几厘，生成环节却吃掉九成账单。本文把成本拆成一次性入库与每次请求两栏，给出各环节的量级估算方法与七个省钱杠杆，以及一条先砍生成、再调检索的平衡框架，帮你把预算花在真正影响账单的地方。

Ollama 负责本地推理，Open WebUI 负责多模型对话、知识库与账号——本文在 Apple M4 上实测 Docker 组合部署全流程：官方命令、RAG 默认参数、OpenAI 兼容 API 的正确开关（v0.11 已改名），以及端口冲突、代理假 IP 导致拉模型失败等真实踩坑清单。

大语言模型只认 token 序列，图片如何进入对话？本文拆解视觉语言模型的三块积木：把图像切块编码的 ViT、对齐两种向量空间的投影层，以及图文对三阶段训练配方，并解释视觉幻觉与计数失准这些特有失败的架构根源。

九大空间测试10B规模通用模型中8项第一]

RAG 区别于裸聊天的核心承诺是「答案有据可查」——但很多系统的引用是装饰品：编号对不上、引用了上下文里没有的来源、或干脆一句「根据资料」。本文讲清引用体系的完整链路：chunk 稳定标识、生成时的引用协议、后校验防编造、句子级 attribution 与前端呈现。

RAG 系统调不动检索质量时，最先该看的不是向量模型，而是查询本身——用户嘴里的「问题」和索引世界的「查询」是两种语言。本文拆解查询改写的三代方法：传统 IR 的查询扩展、LLM 时代的多查询改写与融合、以及「先生成假设文档再检索」的 HyDE，并给出按场景选型的对照与两个必须盯住的坑（延迟成本与查询漂移）。

RadixAttention 用前缀树跨请求复用 KV Cache，是 SGLang 的招牌。本文讲机制差异，给 OpenAI 兼容服务上手命令与结构化输出、多 LoRA、投机解码现状，并对照 vLLM/Ollama 谈选型。

大模型的数据泄漏横跨训练记忆、上下文残留与日志供应链三条路径。本文给出应用侧 PII 脱敏流水线、多租户检索越权这一隐蔽坑的对策，以及按输入-输出-日志-训练四段分别设防的思路。

Agent 工程系统学习第 3 章：上下文工程取代 prompt engineering 成为核心技能。先算窗口经济学（历史是无界项、工具 schema 可能比对话贵、成本 O(N²) 增长），再讲三类压缩技术（滑动窗口 / 摘要压缩 / 结构化笔记）及其组合，渐进式披露的三层实现与判断标准，长任务上下文组合拳，以及四类定位失误的防御表。

听雨* 2026-09-26 15:18:05 来源：量子位 大伟哥：如果做不到，一年两年之后过来打我脸 一水 发自 凹非寺 量子位 | 公众号QbitAI 震惊：一周时间，对话超6000万次。 有人一天找AI帕姆聊了1379次，刨去8小…

9 月 17 日上午消息，2026 零跑技术日发布会后，零跑科技创始人、董事长、CEO 朱江明，零跑科技高级副总裁曹力，零跑科技高级副总裁周洪涛，零跑科技高级副总裁巫存，零跑科技高级副总裁宋忆宁与媒体对话。 在技术日上，面对火热的具身智能赛…

IT之家 9 月 17 日消息，字节旗下火山引擎今日宣布车载 AI 助手“豆包座舱助手”正式发布，车主在豆包 App 中即可远程控车、查询车况、将对话中的行程推送到车机上。 IT之家从官方介绍获悉，作为汽车统一的“大脑”，豆包座舱助手真正参…

IT之家 9 月 17 日消息，据新浪科技报道，小鹏集团 CEO 何小鹏今天在 G9L 汽车发布会结束后，与媒体进行对话。他在谈到机器人业务时透露， 做机器人的难度大约相当于造车的 20 倍 。 何小鹏认为：“基本上我们机器人的硬件、软件、…

IT之家 9 月 11 日消息，商汤科技宣布 AI 办公智能体“小浣熊”移动端 App 正式上线，提供苹果 iOS 和安卓版本，用户提交 App 反馈问卷，可获 1000 积分。 官方表示，移动端“小浣熊”支持使用自然语音快速对话操作，用户…

OpenAI 发布 GPT-4o（'o' 为 omni），文本、音频、图像端到端统一训练，语音对话平均延迟降至 320 毫秒，接近人类对话反应速度。

长上下文不是把窗口开大就行：KV Cache 随序列长度线性膨胀，很快压过模型权重成为显存大头。本篇拆解 KV Cache 的来历与账单、多头注意力的三代瘦身方案（MQA/GQA/MLA）、稀疏与线性注意力的路线，以及「上下文长度」宣传数字背后的真实约束。

「支持 1M 上下文」与「用好 1M 上下文」之间隔着一道位置偏差的沟：模型记得开头与结尾，中间的信息像掉进黑洞。本篇拆解 Lost in the Middle 的实验发现、位置编码与注意力分布的机制解释、检索增强与重排序的工程对策，以及「位置偏差能不能被训练掉」的开放问题。

智能体工程把「记忆」做成了系统（本库 Agent 工程第 4 章），而记忆的学术研究走在另一条更深的线上：记忆的形态学（什么算一条记忆）、遗忘曲线的算法化、以及海马体索引理论对 RAG 架构的直接启发。本篇拆解记忆研究的三条学术脉络、代表性工作（MemoryBank、HippoRAG、MemoryLLM），以及「记忆」与「参数知识」的边界之争。

IT之家 10 月 24 日消息，Meta 旗下个人 AI 助手 Muse 的对话分享功能被曝存在隐私风险。 网络安全研究团队 Claroc 于 10 月 18 日发布报告称，研究人员通过被动 DNS（Passive DNS）查询发现，超过…

同一块 GPU 上，prefill 是计算受限的短跑冲刺，decode 是带宽受限的长跑——挤在一起互相拖累，一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离：干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单，以及什么时候该拆、什么时候千万别拆。

Bee 发布两款 AI 录音硬件，可自动生成对话摘要、待办与日程并接入 Gmail、Outlook、Alexa+ 等生态，强调原始音频不存储的隐私设计。

越狱是针对大模型安全对齐的概率性绕过。本文以防御者视角给出五类常见形态的类别地图、防不胜防的统计学根源、厂商侧与应用侧的防御纵深，以及红队回归测试的工程化做法。

微调不是万能钥匙，但适合固定风格、固定格式与领域行话类需求。本文先讲清何时该微调，再用 LoRA 原理加 LlamaFactory 三步实战，带你不改代码微调出自己的模型，并给出常见坑与最小评测法。