一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
阅读全文 →
全部文章
ARCHIVE 共 363 条Anthropic 为 Claude Code 推出 Mods 插件系统,允许开发者深度定制 AI 编程工具
Anthropic 发布 Mods 系统,开发者可用 JavaScript/TypeScript 函数通过挂钩工具调用、用户提示和 UI 渲染等事件来修改 Claude Code 的外观与功能,部分内置功能如 /diff 命令已用 Mods 实现。
AI 视频榜全球第二,藏着一家新影视公司的野心
AI 原生影视公司 Utopai Studios 的自研视频生成模型 Utopai X 在 Artificial Analysis 带音频文生视频盲评榜位列全球第二,是该榜排名最高的美国公司模型,公司模型与平台服务于实际电影和剧集生产流程。
Anthropic 拟斥资 1 亿美元培训万名工程师,破解企业 AI 落地“人才荒”
IT之家 10 月 3 日消息,Anthropic 计划投入 1 亿美元(IT之家注:现汇率约合 6.71 亿元人民币)培训 1 万名工程师,帮助企业把 AI 项目从构想真正推进到业务应用。
当地时间 2 日,Anthropic 宣布推出 …
开源工具 BootLoops 借助语言模型进行精确科学计算
哈佛物理学家 Matthew Schwartz 开源了 BootLoops 框架,用语言模型开展跨学科科学计算,三个月内与 19 位合作者产出 36 篇涵盖 18 个领域的手稿,同时强调模型易过早宣告成功、需人工验证。
Don’t be fooled—LLMs don’t reason
On an afternoon in Seoul in March 2016, I watched a program I helped build put a stone on the fifth line of a Go board i…
The Download: a biological de-aging contest and why LLMs don’t reason
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
Cross-Lingual Alignment for Decoder-Only Models using MoE Routers
Cross-lingual contrastive learning has been a core component of multilingual encoder training, but the ability to explic…
How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast
GPT-6 Astra Ultrafast, running on NVIDIA Blackwell GPUs, is available now in the OpenAI API and to eligible ChatGPT Work…
TerraVis: Towards Evaluation of World-Grounded Visual Consistency in Text-to-Image Generation via MLLM Workflows
Recent text-to-image models have made substantial progress in photorealism, aesthetics, and text-image alignment. Yet vi…
谷歌Gemini 4突然发布!RSI加持,GPT和Opus都让让
鹭羽* 2026-10-01 23:02:14 来源:量子位
价格只有Astra一半
鹭羽 发自 凹非寺
量子位 | 公众号QbitAI
哎呦喂,谷歌终于也是蹬起来了。。。
假期第一天,谷歌携**Gemini 4 Argon**空降多榜单…
Google DeepMind Unveils Gemini 4 Argon with 1M Output Tokens for Coding, Knowledge Work and Cyber Defense
Google DeepMind has just announced Gemini 4 Argon, its new frontier model and the first model of the Gemini 4 generation…
Generalization Is Stability, Not Accuracy: Multi-Axis Evaluation of LLMs
Generalization in large language models (LLMs) is the ability to produce consistent and semantically stable outputs when…