熔断器篇讲了「自动刹车」，这篇讲「预案体系」：系统过载时的降级阶梯、依赖的隔离、兜底的层次——大促与故障时，「有预案的降级」与「慌乱的宕机」是两种完全不同的体验。

RAG 系统的每个环节都可能失败：检索超时、向量库不可达、嵌入服务限流、LLM 超长——可靠性工程让 RAG 在部分失败时仍有合理的输出。本篇拆解 RAG 各环节的故障模式、降级策略与容错设计，以及「部分失败不等于系统失败」的架构原则。

LLM 推理服务的伸缩比普通服务难：副本启动要加载几十 GB 权重（冷启动分钟级）、显存装不下就想不加、流量是尖峰型。本篇拆解推理服务伸缩的三大难题与对策——模型加载的冷启动、基于指标的 KPA 伸缩、以及「预热」与「错峰」的运营手段。

为遵守欧洲的数字市场法律《Digital Markets Act（DMA）》，Google 宣布将调整欧洲的搜索服务，提升 Expedia 和 Hotels.com 等竞争对手比价服务的权重，移除酒店、航空公司和餐厅搜索结果中的部分实时信息…

推理服务向用户承诺「99.9% 可用、P99 延迟 2 秒」——承诺的背后是一套 SLA 工程：SLO 的定义、错误预算的运营、容量规划的科学。本篇拆解推理服务 SLA 的特有指标（TTFT/TPOT 的分位数）、错误预算的纪律、以及容量规划的三步法。

「压测一下」在推理服务上远比传统服务复杂：压什么指标（TTFT/吞吐）、怎么模拟真实流量（长度分布）、用什么工具（vLLM benchmark、k6、自研）。本篇拆解推理服务压测的方法论——场景设计、指标采集、瓶颈定位，以及压测报告的正确打开方式。

一套推理服务服务一百个客户：一个客户的高峰不能拖垮别人、每个客户有配额、资源分配要公平——多租户推理的三大课题。本篇拆解推理服务的多租户隔离技术（资源隔离与逻辑隔离）、配额与公平调度、以及噪声治理的工程手段。

视觉语言模型（VLM）的服务化与纯文本模型不同：图像的预处理管线、多模态 KV 的显存压力、请求的异构性（图+文的组合）。本篇拆解多模态推理基础设施的特殊工程点——从请求处理到显存管理到成本核算。

模型每周迭代、服务不能停机——推理服务的「灰度发布」与「模型热更新」有自己的工程形态：蓝绿切换、流量灰度、多模型并存与热加载。本篇拆解推理服务模型迭代的四种模式，以及「切换时 KV Cache 怎么办」这个独有难题。

微服务间的通信问题（重试、熔断、限流、加密、追踪）如果在每个服务中实现，代码重复且侵入。服务网格（Service Mesh）把这些问题下沉到基础设施层——sidecar 代理透明地处理所有网络通信，业务代码零修改。本文讲清 sidecar 模式的原理、Istio 的能力与代价。

服务拆分、注册发现、熔断限流的架构设计要点

微服务架构中，服务 A 要调用服务 B，首先要知道 B 在哪——服务发现（Service Discovery）就是回答这个问题的机制。注册中心的选择（Eureka/Nacos/Consul/etcd）本质上是在 CAP 约束下做取舍。本文讲清服务发现的两种模式、主流注册中心的对比、以及选型的决策框架。

下游服务变慢时，上游的调用线程被阻塞，线程池耗尽后整个服务不可用——故障沿着调用链向上游传播，最终全站雪崩。熔断器就是切断了这条传播链的安全装置：检测到下游持续失败时自动「断开」，给下游恢复的时间。本文讲清熔断器的三态模型、与限流/降级的协作、以及 Resilience4j 的实践。

HTTP 的请求-响应模式无法做到服务端主动推送——客户端轮询是唯一的 workaround，但效率低下。WebSocket 在 HTTP 的基础上升级为全双工通信：一次握手，持久连接，双向实时收发。本文讲清 WebSocket 的握手过程、与 SSE/长轮询的对比、心跳保活与重连机制。

LLM 流量与普通 API 流量差异巨大：响应慢且长、按 token 计费、供应商不稳定、还要保留换模型的自由。本文逐项拆解 LLM 网关的核心职责——双层限流、多供应商路由、流式转发、降级链、成本核算与可观测，并给出关键设计要点。

IT之家 9 月 30 日消息，在今天召开的 2026 年 OpenAI 开发者日活动日中，官方推出 Ultrafast 全新服务层级，在 Codex 中可提供最高 8 倍词元（Token）生成速度，在 API 调用时最高可以实现 6 倍生…

IT之家 9 月 16 日消息，The Information 今天（16 日）晚间援引知情人士消息称，苹果公司正筹划推出企业级服务器，采用自研芯片，并可能 接入英伟达的网络设备 。 随着 AI 开发者对苹果电脑的需求不断上升，苹果希望借此…

📈苹果第四财季营收增长 12%，服务收入再创新高 💻曝下一代触屏 MacBook Pro 将换新模具 🤖下一代 GPT 或将近期发布，OpenAI 用 1 万个 AI 智能体协作科研 🧠OpenAI 推出电网保护计划，拟让未来园区在…

量子位的朋友们* 2026-09-23 17:50:26 来源：量子位 企业AI服务迎来平台化交付时代 近日，南京人工智能企业汇智智能正式发布一站式AI服务平台Hellome——国内首个实现FDE（前沿部署工程师）与企业客户直接对接的应用…

DeepSeek 宣布全面开源支撑 V4.1 Flash 线上服务的内部推理框架 DeepInfer，支持推测解码、分布式推理等能力，兼容英伟达 GPU 与华为昇腾。

GitHub 21.6 万星的开放编码智能体一周内经历 2.0 大版本与安全事件双重曝光。本文拆解它的常驻服务端架构、插件热重载内核、Code Mode 与上下文经济设计，并给出五类落地场景。

IT之家 9 月 22 日消息，英国消费者权益机构 Citizens Advice 近日呼吁，能源、银行、电话和互联网等提供基本服务的企业在客服工作中应当停止依赖 AI 机器人，保障用户“与真人沟通的权利”。该机构调查发现，超过一半需要使用…

IT之家 9 月 17 日消息，在 2026 OPPO 开发者大会期间，OPPO 公布了 ColorOS 17 中小布建议、提醒方式、导航与 AI 闪记等功能更新。 在 ColorOS 17 上，官方透露小布建议已与 40 多家头部服务伙伴…

Mastercard 开启 Agent Pay for Machines 早期访问，让自主 AI 智能体能够自主购买数字服务。

因代码合并量从日均 2500 次增至超 3 万次，Anthropic 弃用 Git 改用自研的 Scion 版本控制系统，将提交、合并、变基等操作移至服务器端执行，宣称 CPU 与内存消耗仅为 Git 的两百分之一，并需配套定制代码审查、搜索与 CI 工具。

Cloudflare 的公共 DNS 解析服务 1.1.1.1 没有屏蔽盗版体育直播网站的域名，而是通过其 CDN 服务屏蔽相关网站。巴黎司法法院（Paris Judicial Court）站在了 Cloudflare 这边，驳回了法国付费…

IT之家 10 月 10 日消息，腾讯元器 10 月 8 日发布《关于元器平台停止服务通知》，因业务调整，元器平台将于 2026 年 11 月 9 日停止服务。在正式停止服务前，用户仍可正常登录并使用现有智能体；停服生效后，所创建智能体将不…

Agent 工程系统学习第 12 章：把 Agent 规模化。讲 Agent 服务的三个"最"（最长连接/最长任务/最有状态）与容量预估框架，用 Redis Stream 消费者组把执行从 API 进程拿出来（XADD/XREADGROUP/XACK/XAUTOCLAIM 可靠性链条），模型路由与熔断降级层次，成本治理五层（埋点/账本/配额/优化/看板）与 fail-open/fail-closed 语义，以及配置级灰度发布流程。

Waymo 宣布进军新加坡市场，将于 2028 年正式推出服务，这是该公司首次进军东南亚市场。 它的自动驾驶车队将在接下来几个月内运抵新加坡，从明年起由技术专员人工驾驶“上路”，让车内系统适应新加坡道路设计和天气等元素。计划在 2028 年…

IT之家 9 月 17 日消息，国家知识产权局商标局最新信息显示，华为技术有限公司近期申请注册了“问境”商标，申请日期为今年 5 月 14 日， 目前处于“等待实质审查”阶段 。 该商标归属于国际分类第 12 类，涵盖的商品 / 服务范围包…

在重新上线一周时间后，基于 Nitter 开源项目的实例 XCancel 再次下线，运营者表示“由于正在进行的法律诉讼有了新进展，我们不得不再次暂停此项服务，直至另行通知。我们无法透露更多详情”。8 月 24 日， X/Twitter 向 …

Yusuf Gundogdu 写道：LibreDB Studio 是一个 MIT 协议的 SQL 客户端，不装在本地而是跑在服务器上，浏览器打开就能用，一条 docker run 就起来。16 个驱动覆盖 42 种数据库，PostgreSQ…

IT之家 9 月 11 日消息，DeepSeek 宣布，为响应广大用户的需求， 决定在 2026 年 9 月 14 日之后继续提供 DeepSeek V4 Pro 的 API 调用服务 ，计费方式保持不变。 据IT之家此前报道，9 月 9 …

IT之家 9 月 11 日消息，OpenAI 于当地时间 9 月 10 日宣布推出 ChatGPT for Financial Services。 这是一款面向金融服务团队的定制化 ChatGPT 服务，结合内置金融数据与 GPT-6 As…

IT之家 9 月 9 日消息，曹操出行今日宣布与豆包联合打造 AI 打车服务 ，首批在北京、杭州、苏州三城上线，这意味着曹操出行将出行服务能力与 AI Agent 深度融合。 AI 打车服务上线后，当用户在豆包产品端咨询路线、地点、休闲娱乐…

两周前，Nitter 开源项目及基于 Nitter 的实例如 XCancel 收到了 X 的律师函，要求立即停止服务。Nitter 和 XCancel 等遵守了这一要求。但在听取法律建议之后，Nitter 和 XCancel 恢复了服务，N…

微服务拆分后，一个业务操作跨越多个服务、多个数据库——传统的数据库事务管不住了。2PC 强一致但阻塞、TCC 最终一致但侵入强、Saga 长事务但需要补偿——三种分布式事务方案各有战场。本文讲清它们的机制、适用场景与选型框架。

gRPC 是微服务间通信的高性能框架：基于 HTTP/2 的多路复用、Protobuf 的紧凑序列化、四种通信模式（ unary、服务端流、客户端流、双向流）覆盖不同的交互场景。本文讲清 gRPC 的技术底座、与 REST 的对比、以及「什么时候该用 gRPC、什么时候用 REST」的选型框架。

微服务架构中，客户端需要调用几十个后端服务——每个服务都做认证、限流、日志，是巨大的重复。API 网关是所有请求的统一入口：路由分发、认证鉴权、限流熔断、日志聚合在网关层统一处理。本文讲清网关的职责边界、主流网关的对比、以及「什么该放网关、什么不该放」的分界。

Prime Intellect 发布 Prime Inference 推理服务平台，提供无服务器端点和预留 GPU 容量，公开前内部日均处理近万亿 token，主要来自 RL rollout、合成数据生成、评测和长时编码智能体，补全其开源训练栈的服务环节。

政务是 AI 落地规模最大、也最考验边界的行业：政务热线的智能应答、审批材料 automating、城市治理的感知网络——效率收益巨大；但涉及公民权利的 AI 决策（资格审批、执法辅助）触碰的是权力的边界。本文讲清政务 AI 的落地地图、「效率可 AI、权力慎 AI」的分界逻辑，以及公民视角的监督机制。

努比亚 NaviX Ultra 手机今日正式发布，也就是大家俗称的第二代豆包手机，售价 5999 元起，国补到手价 5499 元起。 京东晒单返 50 元 E 卡，社交平台晒单再返 50 元 E 卡，共计可返 100 元 E 卡（详询客服）…

选模型 API 的本质是选供给关系，不只是选模型。本文给出官方 API、云托管、聚合网关、自托管四层的对比地图，逐条展开七项评估清单，并给中小团队一条从网关起步的务实路线。

📱库克现身广州，探班 iPhone 18 Pro 咏春短片拍摄现场 💬曝苹果 iPhone Duo 加单 30%，Pro 系列总订单量不变 ⚡苹果第二期中国清洁能源基金扩容至 2.12 亿美元 🚗四部门拟禁全隐藏式车门把手，要求车企如…

「LLM 缓存」其实指两种东西：推理层的前缀缓存复用已算好的 KV Cache，几乎零风险；应用层的语义缓存按问题含义命中旧答案，省钱但可能错。本文对比两者机制与适用场景，给出先做前缀缓存的行动顺序。

IT之家 9 月 12 日消息，据央视财经今日报道，今年服贸会首次推出“金融 + 科创”的联展模式，让金融机构联合他们所赋能的科创企业同台参展。展台上除了金融产品，还有智能机械臂、运载火箭模型、人形机器人等硬科技，背后是 算力贷、算力保、投…

原来你俩互相下单呢]

IT之家 9 月 9 日消息，在今日的京东全球科技探索者大会上， 京东物流宣布将在 5 年内采购 300 万台机器人、100 万台无人车及 10 万架无人机 ，进一步推进物流全流程无人化落地。 此外， 京东物流还将打造全球最大的机器人维修服…

单机房的容灾极限是「机房级故障时全站不可用」。多活架构让两个（多个）城市同时对外服务——但多活的代价是数据同步、流量路由、一致性保证的全面复杂化。拆解同城双活与异地多活的架构选择与工程账。

心动网络 CEO 黄一孟开源的多 harness AI Agent 客户端：一个任务中途可切换 Claude Code / Codex / Pi，工作区与记忆保持连续；Orca 提供 Lead/Worker 完整会话级协同，18 个 cindy_orca 工具、可关插件开关与 fail-closed 会话路由。本文拆解架构与五类场景，并如实标注服务端未开源、1893 个开放 issue 等边界。