「大促要多少台机器？」——容量规划是每个架构师的必答题。从业务目标（PV/UV）到技术指标（QPS），从单机压测到资源推算，从余量设计到成本优化——容量规划是「把业务翻译成机器」的工程学。

推理服务向用户承诺「99.9% 可用、P99 延迟 2 秒」——承诺的背后是一套 SLA 工程：SLO 的定义、错误预算的运营、容量规划的科学。本篇拆解推理服务 SLA 的特有指标（TTFT/TPOT 的分位数）、错误预算的纪律、以及容量规划的三步法。

「大促前系统能不能扛住」不能靠猜——全链路压测用真实的流量模型在预发或生产环境做完整的端到端测试。影子库隔离压测数据、流量标记区分真实与模拟、容量规划验证系统极限。本文讲清全链路压测的完整方案。

「压测一下」在推理服务上远比传统服务复杂：压什么指标（TTFT/吞吐）、怎么模拟真实流量（长度分布）、用什么工具（vLLM benchmark、k6、自研）。本篇拆解推理服务压测的方法论——场景设计、指标采集、瓶颈定位，以及压测报告的正确打开方式。

IT之家 10 月 7 日消息，人工智能云服务企业 CoreWeave 当地时间今日宣布进军印度市场：该企业与阿达尼旗下的 AdaniConneX 达成合作，**将在印度租赁 240MW 数据中心容量**。 这些容量位于孟买新城的 Talo…

铭芯启睿宣布完成基于1TnR技术路线、采用28nm CMOS工艺的1Gb容量RRAM芯片流片，密度达30Mb/mm²，访问延时小于20ns，目前正推进验证。

白天推理高峰、训练占卡；训练希望整周独占、推理要有兜底容量——训推共存的集群需要一个调度设计。本篇拆解训推一体的资源矛盾、错峰调度的三种模式（抢占、分区、弹性分区）、以及「在线优先」的调度纪律。

内存不足时 Linux 不崩整机，而是派 OOM Killer 按启发式评分杀进程——但被杀的常常不是元凶。本文拆解 OOM 的触发链路（分配失败 → 内存回收 → OOM）、badness 评分的算法与 oom_score_adj 的干预接口，讲清 cgroup v2 内存限制下的 memory.oom.group 与 oom_kill_disable，最后给出容量水位、监控告警与优雅降级三道防线。

当日涨星 1118 的 MIT 开源桌面工作台：拆解它的消息总线准入规则、dispatch_to/hand_off_to/run_worker 三件套、从单一容量推导全部阈值的上下文预算、反射调度器与技能结晶，给出五类可复现场景与横向对比，并如实标注不做 worktree 隔离、打包版需登录、效果数字多为自述等边界。

Google 正资助美国规模最大的虚拟电厂项目。该项目通过向家庭和企业提供经济激励，鼓励他们在电力需求高峰期间减少用电量，从而为数据中心提供更多的电网容量。该项目有望在中大西洋地区的 PJM 电网提供 1070 MW 的电力容量——相当于一…

DeepSeek-V3 有 671B 参数，每个 token 却只动用 37B 的计算量——这不是营销话术，而是混合专家架构（MoE）把「模型容量」和「每 token 算力」拆开的结果。本文从 dense 模型的容量两难讲起，拆解路由器与稀疏激活的工作机制、负载均衡的三代方案、DeepSeekMoE 的细粒度设计，也说清 MoE 的两个代价：省 FLOPs 但不省显存，以及「专家」并不按领域分工的反直觉事实。

Agent 工程系统学习第 12 章：把 Agent 规模化。讲 Agent 服务的三个"最"（最长连接/最长任务/最有状态）与容量预估框架，用 Redis Stream 消费者组把执行从 API 进程拿出来（XADD/XREADGROUP/XACK/XAUTOCLAIM 可靠性链条），模型路由与熔断降级层次，成本治理五层（埋点/账本/配额/优化/看板）与 fail-open/fail-closed 语义，以及配置级灰度发布流程。

以 kubernetes-sigs/agent-sandbox v1.0.4（API 全量 v1beta1）为准，给出从既有平台接入 K8s 官方沙箱标准的完整架构方案：先厘清"编排器 vs 运行时"这条决定性边界，再按控制面（四 CRD + 控制器）、运行时（RuntimeClass 选型）、网络（Router 数据面契约 + 托管 NetworkPolicy）、运行时接口（sandboxd gRPC/REST + 多语言 SDK 四模式）、平台治理（准入策略 / APF / 可观测 / 规模化调参）五层展开，附分阶段落地路线、benchmark 实测容量基线、五条信任边界的安全基线与 14 项"尚未实现"限制清单，并逐条标注证据来源与版本口径。

IT之家 9 月 25 日消息，当地时间 24 日，据彭博社报道，甲骨文为旗下旗舰 AI 数据中心项目的延期风险**提前采取保护措施**，华尔街由此开始质疑，甲骨文能否如期建成足够的数据中心容量，为 AI 业务扩张提供支撑。 甲骨文已向 B…

发表在《自然》期刊上的一项研究表明，移植到小鼠体内的人脑类器官能够重现大脑发育的某些特征，包括形成功能性神经网络，从而支持脑活动。这一成果得益于一种培育脑容量缩小的小鼠的方法。这种方法使得这些由人类细胞培养形成的三维类脑组织，即人脑类器官能…

巴基斯坦水泥公司 Bestway Cement 正在扩建其太阳能发电设施，计划年底前在现有 26MW 装机容量的基础上增加 6.34MW 装机容量。太阳能满足了该公司逾四分之一的电力需求。受益于中国制造的廉价太阳能组件，Bestway 及其…

IT之家 9 月 10 日消息，苹果 iPhone 18 Pro 系列手机今日正式发布，官方没有提到新机的内存容量，不过据 MacRumors 今日报道，在最新版本的 Xcode 27 中，苹果已透露了这一信息。 iPhone 18 Pro…

Prime Intellect 发布 Prime Inference 推理服务平台，提供无服务器端点和预留 GPU 容量，公开前内部日均处理近万亿 token，主要来自 RL rollout、合成数据生成、评测和长时编码智能体，补全其开源训练栈的服务环节。

量化把模型权重从 FP16 压到 INT8 甚至 INT4——显存省一半到四分之三，本地部署因此成为可能。但「压完损失多少」取决于方法： naive 量化会毁掉模型，精心设计的量化几乎无损。本篇拆解量化的数学原理、PTQ 与 QAT 两条路线、per-channel 粒度与分组量化的意义，以及一张「什么位宽选什么」的决策表。

容器网络的每一跳都发生在内核里：veth 把 namespace 连成网线，bridge 当交换机，iptables 做 NAT，跨主机再叠一层隧道或路由。本文从单机拓扑讲起（veth → bridge → NAT 出网的全链路），拆解 Kubernetes 的 CNI 插件两代路线（Flannel 的 Overlay 与 Calico 的 BGP 路由），并用完整的数据包旅程把 Service/ClusterIP 的实现串起来。

文档改了一段、换个 embedding 模型、升一次切块参数——RAG 索引的一致性问题藏在所有「小改动」里：漏更新、新旧混杂、部分重建。本文把变更分三类讲清各自的正确姿势：文档增删改要级联，模型迁移要全量重建加双索引灰度，参数变更等于重建，并给出成本估算方法。

你在 K 线前犹豫时，另一批参与者每秒完成上千次决策。本文拆解量化交易从因子挖掘到执行算法的流水线，核对规模 3 万亿级的中国量化行业与 2026 年落地的三层监管（高频认定：每秒 300 笔），并复盘 2024 年 2 月那场让「同质化」三个字上教科书教科书级的流动性危机。

从取模分片的痛点讲起：普通哈希为什么一扩容就让几乎全部数据搬家；哈希环与虚拟节点如何把迁移量压到 1/N 并治住数据倾斜；再用可运行的对照代码，对照 Ketama、Dynamo 与 Redis Cluster 槽位方案的真实取舍。

单卡装不下权重、装不下 KV Cache、吞吐不够——三条痛点对应三种并行策略。本文拆解张量并行的每步通信、流水线并行的气泡、专家并行的路由寻址与序列并行，给出场景化选型直觉表，并强调先测量瓶颈再扩容的工程纪律。

RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起，拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数，分析召回率、内存、延迟的三角权衡，给出按数据量分层的务实选型决策。

DeepSeek弹性计算团队以一篇技术分享代替岗位JD开启新一轮招聘，其DSec沙盒基础设施每天服务约300万个沙盒，支撑从V3.2到V4的Agent训练、评测与数据预处理，计划将Agent运行环境数量和种类扩充成百上千倍。

单机房的容灾极限是「机房级故障时全站不可用」。多活架构让两个（多个）城市同时对外服务——但多活的代价是数据同步、流量路由、一致性保证的全面复杂化。拆解同城双活与异地多活的架构选择与工程账。

“IT早报”时间，大家好，现在是 2026 年 9 月 11 日星期五，今天的重要科技资讯有： 1. 雷军回应新华社报道小米“底层技术自研打开科技创新空间”：未来 5 年，计划投入 2000 亿元研发费用 新华社 9 月 10 日发文报道了…

AI 生成的文本、图像、音视频正在以假乱真，检测技术却在「猫鼠游戏」里节节被动。本篇拆解检测的两条技术路线（被动检测器与主动水印）、各自的可绕过性与部署现实、监管的强制水印要求，以及为什么这场军备竞赛的结构性劣势在防守方——以及什么才是现实的防御姿势。

缓存集群从 10 台扩到 11 台，取模哈希会让几乎全部 key 搬家、缓存瞬间全 miss——一致性哈希用「把服务器和 key 都撒到同一个环上」这一步，把迁移量从「几乎全部」压到「约 K/N」。本文讲透环模型、虚拟节点、它的家族变体，以及工程落地清单。

谷歌量子人工智能团队在《科学》发表成果，通过“魔态培育”技术在 Willow 芯片上验证了量子纠错魔态制备的实用可行性，将错误率降低约 40 倍，T 态逻辑保真度达 99.99%。

IT之家 10 月 7 日消息，《韩国经济日报》当地时间今日报道称，三星电子存储器业务的 12 层堆叠 HBM4E 内存已于 9 月末通过 NVIDIA（英伟达）和主要超大规模数据中心企业的质量验证测试，**各客户的供货量、合同规模、出货时…

杰西卡* 2026-11-03 20:57:35 来源：量子位 两位CTO，关起门来吵架 “我们的电池有点贵，有时还贵不少。” 宁德时代CTO高焕，竟然亲口承认了自家电池的价格问题。 最近在智己LS8 NEO纯电版发布会后的媒体群访中，谈…

向量库的召回率忽然下降、延迟忽然变高，八成不是玄学而是 HNSW 参数没调对。本文拆解 HNSW 三个核心参数 M、efConstruction、efSearch 各管什么、动谁的成本，给出「先建图、再扫 efSearch」的调参顺序，以及 top-k 大于 efSearch 这类高频踩坑。

杰西卡* 2026-10-21 12:35:56 来源：量子位 电池开发，分工远比想象复杂 杰西卡 发自 ROBO-车 量子位ROBO | 公众号 AI4ROBO 一块电池，搅动了汽车产业链风云。 理想斥资26.5亿元入股欣旺达动力，小米…

📱库克现身广州，探班 iPhone 18 Pro 咏春短片拍摄现场 💬曝苹果 iPhone Duo 加单 30%，Pro 系列总订单量不变 ⚡苹果第二期中国清洁能源基金扩容至 2.12 亿美元 🚗四部门拟禁全隐藏式车门把手，要求车企如…

鹭羽* 2026-10-11 13:22:38 来源：量子位 马斯克连横A社，硅谷VC开始囤GPU 鹭羽 发自 凹非寺 量子位 | 公众号QbitAI 没招了！硅谷为了争夺AI算力已经**彻！底！疯！狂！** 就连A社CEO Dario …

2026 年 7 至 8 月，月之暗面 Kimi K3（2.8 万亿参数）与阿里 Qwen3.8（2.4 万亿）先后开放权重，开放模型首次站上万亿量级。本文基于官方模型卡核查两个旗舰的架构与成绩单，拆解稀疏 MoE、低精度量化与注意力降本如何让万亿参数可行，同时审视部署门槛、许可证限制与「参数营销」争议——开放的是权重，不是人人可跑的乌托邦。

量子位的朋友们* 2026-10-10 17:07:43 来源：量子位 2026年9月28日，荣耀（HONOR）在北京举办荣耀Magic盛典暨荣耀Magic9 系列新品发布会 2026年9月28日，全球领先的AI终端生态公司荣耀（HONO…

混合专家（MoE）让模型参数量与计算量解耦，但代价是引入了一个训练时最容易翻车的部件——路由器。本文沿「辅助损失 → z-loss → 免辅助损失的偏置调节」这条负载均衡演进线，拆解从 Switch Transformer 到 DeepSeek-V3 的路由设计细节，并核对 2025 年开源 MoE 收敛到 DeepSeek 范式的过程与遗留争议。

鹭羽* 2026-10-01 23:06:30 来源：量子位 用ImageNet训练encoder 克雷西 发自 凹非寺 量子位 | 公众号QbitAI 教会AI做ARC抽象推理题的，竟然是猫猫？ 何恺明团队最新论文提出了**NAT-AR…

杰西卡* 2026-09-28 19:18:27 来源：量子位 AI基础设施下一站：算电协同 杰西卡 发自 凹非寺 量子位 | 公众号 QbitAI 一座AI数据中心什么时候能投产，有时要先看电网的时间表。 国际能源署（IEA）在2025…

听雨* 2026-09-26 15:12:05 来源：量子位 vLLM人马创业公司团队出品 克雷西 发自 凹非寺 量子位 | 公众号QbitAI 16块谷歌TPU v7跑Kimi K3，每秒跑出了709个Token，比老黄的GB200快了…

田, 晏林* 2026-09-26 17:01:00 来源：量子位 GitHub现在最火热的大模型开源小蜂鸟Colibrì是个啥？ 闻乐 发自 凹非寺 量子位 | 公众号 QbitAI 25GB笔记本硬跑744B GLM-5.2，32GB…

思邈* 2026-09-24 22:17:48 来源：量子位 1.5台6000D跑赢1台B300！ 允中 发自 凹非寺 量子位 | 公众号QbitAI 随着大模型对算力需求持续攀升，**GPU卡的采购成本、供给约束持续加剧。** AI推理…

量子位的朋友们* 2026-09-24 13:19:55 来源：量子位 开源一座具身智能的新“塔台” 一架架飞机在空中有序飞行，按时起降，看似只是飞机自己的事情，实际上，它需要持续与机场、跑道、航线以及地面资源系统协同。 这正是“塔台”存…

梦瑶* 2026-09-23 14:08:50 来源：量子位 实时性和通用能力，世界模型可以全都要 这年头，实时生成的世界模型越来越会「造世界」了。 画面更夯，控制更细，但一旦走到实时生成这一步，继续往上做能力，就会有个很难绕开的坎： 能…

量子位的朋友们* 2026-09-23 17:56:53 来源：量子位 商汤大装置异构混推创新实践与技术演进 Token经济加速爆发，算力需求发生结构性反转，推理需求已取代训练，成为算力增长主引擎。 随之而来的，是AI基础设施面临的全新命…

十三* 2026-09-22 23:46:54 来源：量子位 CPU与GPU趋近1∶1 金磊 发自 苏州 量子位 | 公众号 QbitAI CPU**的价值，在**Agent时代**，真的需要被**重估**了。 为什么这么说？ 因为Age…

· Google Gemini 安全测试越界，误攻 3 家真实企业 · 长鑫存储 G5 DRAM 平台量产，单片晶圆裸片数提升至少 50% · 智谱 MaaS 平台将上线数据内容不留存机制 #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：i…