推理服务的 SLA 工程:SLO、错误预算与容量规划
推理服务向用户承诺「99.9% 可用、P99 延迟 2 秒」——承诺的背后是一套 SLA 工程:SLO 的定义、错误预算的运营、容量规划的科学。本篇拆解推理服务 SLA 的特有指标(TTFT/TPOT 的分位数)、错误预算的纪律、以及容量规划的三步法。
阅读全文 →
全部文章
ARCHIVE 共 443 条OpenAI「疯狂28天」首日,这都发了些啥啊…
林, 方舟* 2026-10-06 14:45:40 来源:量子位
林方舟 发自 凹非寺
量子位 | 公众号 QbitAI
事情真的有点荒诞。
赛博义父、Codex负责人Tibo昨天刚说完,接下来的28天里,他们每天要么交付一项Codex…
Reflection AI 发布开放权重模型 Beam:主打低算力成本,对标开放权重阵营中国模型
Reflection AI 发布开放权重模型 Beam,称效率为西方同类开放模型的 3-4 倍,权重本月放出,瞄准企业与主权 AI 市场。
Stepped MoE: Segment-Level Routing with Configurable Inference Complexity
Training large language models (LLMs) is resource-intensive, and adapting them for diverse deployment scenarios with var…
GPT-6 Astra vs GPT-6.1 Sol vs Gemini 4 Argon vs Claude Fable 5.1: Which Frontier Model Fits Which Job
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
HuatuoGPT-3: RL-Only Domain Adaptation from Base Models
Domain adaptation aims to turn a general-purpose large language model (LLM) into an expert for a target domain. While th…
Google's new Gemini tiers cut free users to its weakest model and lock $5/month subscribers out of Pro
Oct 4, 2026
Starting in October 2026, Google will restrict access to its Gemini models for personal account users.** Wit…
亚马逊开源 Strands Decider 2B 决策模型,支持本地 CPU/GPU 部署
亚马逊 Strands Agents 团队开源了基于 Qwen3.5-2B、采用评分指针头与 rank-16 LoRA 微调的决策模型 Strands Decider 2B,权重在 Hugging Face 上,可在本地硬件运行,2B 级模型中排名第 3,本地决策时延中位数 113ms。
IBM 推出 Bob 自托管与物理隔离部署:企业无需迁移代码即可使用智能体软件开发
IBM 宣布其智能体软件开发平台 Bob 的自托管版本正式商用,支持企业在本地、私有云/主权云及物理隔离网络中运行,覆盖代码理解、规划、执行与验证全生命周期。
Anthropic 为 Claude Code 推出 Mods 插件系统,允许开发者深度定制 AI 编程工具
Anthropic 发布 Mods 系统,开发者可用 JavaScript/TypeScript 函数通过挂钩工具调用、用户提示和 UI 渲染等事件来修改 Claude Code 的外观与功能,部分内置功能如 /diff 命令已用 Mods 实现。
AI 视频榜全球第二,藏着一家新影视公司的野心
AI 原生影视公司 Utopai Studios 的自研视频生成模型 Utopai X 在 Artificial Analysis 带音频文生视频盲评榜位列全球第二,是该榜排名最高的美国公司模型,公司模型与平台服务于实际电影和剧集生产流程。
Anthropic 拟斥资 1 亿美元培训万名工程师,破解企业 AI 落地“人才荒”
IT之家 10 月 3 日消息,Anthropic 计划投入 1 亿美元(IT之家注:现汇率约合 6.71 亿元人民币)培训 1 万名工程师,帮助企业把 AI 项目从构想真正推进到业务应用。
当地时间 2 日,Anthropic 宣布推出 …
开源工具 BootLoops 借助语言模型进行精确科学计算
哈佛物理学家 Matthew Schwartz 开源了 BootLoops 框架,用语言模型开展跨学科科学计算,三个月内与 19 位合作者产出 36 篇涵盖 18 个领域的手稿,同时强调模型易过早宣告成功、需人工验证。