搜索:SGLang

共命中 50 条(服务端检索)
SGLang 深拆:vLLM 赢了内存管理之后,它接着打的下一仗
PagedAttention 解决了「KV 内存怎么分页」,但没解决「相同前缀为什么要重算」——SGLang 用 RadixAttention 把前缀复用变成运行时自动机制,再靠零开销调度、缓存感知路由与三级 KV 缓存一路打进了 xAI 与 Azure 的生产环境。本文拆解它的架构主线、2026 年的双周发版节奏、与 vLLM 的真实差距,以及上手要点。
开源项目 精选 · 原创 · 10-8 阅读 592·访客 564
SGLang 上手:RadixAttention 与 vLLM 之外的推理引擎选择
RadixAttention 用前缀树跨请求复用 KV Cache,是 SGLang 的招牌。本文讲机制差异,给 OpenAI 兼容服务上手命令与结构化输出、多 LoRA、投机解码现状,并对照 vLLM/Ollama 谈选型。
开源项目 精选 · 原创 · 10-7 阅读 423·访客 422
一篇读懂 Prefix Caching:多轮对话省钱的另一半
KV Cache 让一次推理不用重算历史 token,但多轮对话每次都把 10 万字的 system prompt 重发一遍——前缀缓存回答的是「相同前缀算一遍就够,能不能跨请求共享」。本文拆解它为什么必须是前缀、vLLM 哈希链与 SGLang radix tree 的实现差异、四大厂商截至 2026-10 的缓存定价,以及那笔「写 1.25 倍、读 0.1 倍」的账什么时候是赚的、什么时候反亏 25%。
一叶一世界 精选 · 原创 · 10-8 阅读 774·访客 757
一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
大模型 精选 · 原创 · 10-24 阅读 176·访客 161
智能体生态观察 · 第 48 篇|结构化输出约束:JSON Schema、语法约束与格式保证
智能体之间靠结构说话,模型却天生爱自由发挥。本篇盘点格式失败的三类代价与四档约束技术——prompt 声明、schema 硬约束、语法级锁死、后校验修复,并给出实践守则与生态现状。
智能体 精选 · 原创 · 3天前 阅读 21·访客 21
Sarvam Launches Sarvam Token Factory: Bringing India-Hosted Inference to 8 Open Models
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 5天前 阅读 7·访客 7
提速2.48倍且画质不掉线,AI视频“降本增效”有了新解法
思邈* 2026-11-16 11:07:39 来源:量子位 是石科技最新发布多模态模型服务 允中 发自 凹非寺 量子位 | 公众号QbitAI AI视频生成中,推理速度提升与生成质量下降,可能同时发生。 减少计算步骤可以缩短生成时间,但…
研究前沿 量子位 · 6天前 阅读 8·访客 8
Meituan releases a 1.6-trillion-parameter agent model that never touched an Nvidia GPU
Nov 15, 2026 ChatGPT-5.6 prompted by THE DECODER Meituan releases the weights for LongCat-2.5, a 1.6-trillion-parameter …
智能体 The Decoder · 11-15 阅读 32·访客 32
早报|英伟达员工请愿黄仁勋回归/余承东重申华为与赛力斯分工/Microsoft 365故障延续至48小时
💾英伟达员工呼吁董事会请回黄仁勋,内网帖收到逾 1600 条评论 ✨余承东和张兴海同台发布问界新 M8,重申华为与赛力斯分工 🔧DeepSeek 开放 App 工具接口,开发者可接入搜索、文件和语音 ⏰Microsoft 365 故障仍…
研究前沿 爱范儿 · 11-14 阅读 33·访客 33
Google Releases TPU Sync: Open-Source KV Cache Transfer for TPUs
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 11-13 阅读 26·访客 26
一篇读懂 continuous batching:推理吞吐的批处理艺术
推理吞吐的分水岭在批处理调度:静态 batching 为什么浪费(长短请求互相等),continuous batching 的 iteration 级调度怎么做到完成的即走、新请求随到随插,它与 PagedAttention 的共生关系,以及批大小与等待窗口的取舍。
一叶一世界 精选 · 原创 · 11-11 阅读 80·访客 78
Baidu’s ERNIE Evolve Automated Research System Beats NanoChat and NanoGPT Records
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 11-10 阅读 21·访客 21
Zyphra Releases ZONOS3-Mini: Open-Source TTS With 100M Active Parameters
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 11-10 阅读 25·访客 25
Google Unveils TPU 8i Max and TPU 8tx: A Dual-Chip TPU and a Confidential TPU
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 11-10 阅读 21·访客 21
一篇读懂推理服务架构:路由、负载均衡与模型热切换
从引擎到服务的最后一公里——拆解前缀感知路由、cache-aware 负载均衡、LoRA 热加载与模型热切换的生产实现。
大模型 精选 · 原创 · 11-9 阅读 61·访客 61
一篇读懂解码策略:Beam Search、Contrastive Search 与约束解码的完整对比
从似然陷阱到退化惩罚再到语法约束,拆解三类高级解码策略的底层机制、计算代价与适用边界。
大模型 精选 · 原创 · 11-9 阅读 47·访客 47
一篇读懂 LLM 输出的确定性:种子、缓存与可复现性
同一个输入为什么每次输出不同:采样随机性、浮点非结合性、批处理与推理栈三层来源,以及 seed 的 best-effort 本质、温度 0 的陷阱与可复现工程实践。
大模型 精选 · 原创 · 11-9 阅读 52·访客 52
智能体的互操作标准:协议、接口与生态协同的标准化进程
智能体生态正在经历自己的 TCP/IP 时刻:本文拆解 N×M 集成困境、MCP 的工具连接层事实标准、A2A 的智能体间协作协议、模型接口与记忆等其他标准化战线,以及标准化进程「先事实后法定」的规律与碎片化风险。
智能体 精选 · 原创 · 11-5 阅读 93·访客 93
智能体的性能优化竞赛:延迟、吞吐与缓存的技术博弈
一次智能体响应的延迟由预填充、解码、工具执行与多轮串联构成,本文拆解延迟结构,梳理 prompt 缓存、并行化、语义缓存与推理侧加速四条优化路径,并给出延迟预算分配法。
智能体 精选 · 原创 · 11-5 阅读 67·访客 67
NVIDIA Shows 3 Ways to Speed Up MoE Inference on DGX Spark, Lifting Ling-3.0-flash Throughput 42.5%
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 11-4 阅读 33·访客 33
推理服务的压测方法:从基准工具到容量验证
「压测一下」在推理服务上远比传统服务复杂:压什么指标(TTFT/吞吐)、怎么模拟真实流量(长度分布)、用什么工具(vLLM benchmark、k6、自研)。本篇拆解推理服务压测的方法论——场景设计、指标采集、瓶颈定位,以及压测报告的正确打开方式。
大模型 精选 · 原创 · 11-4 阅读 56·访客 56
多模态推理的基础设施:VL 模型服务化的特殊工程
视觉语言模型(VLM)的服务化与纯文本模型不同:图像的预处理管线、多模态 KV 的显存压力、请求的异构性(图+文的组合)。本篇拆解多模态推理基础设施的特殊工程点——从请求处理到显存管理到成本核算。
大模型 精选 · 原创 · 11-4 阅读 56·访客 56
Deep Principle Releases Hydrogen-1.0: A 753B Open-Weight Model for Scientific Discovery
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 11-3 阅读 33·访客 33
一篇读懂 vLLM:PagedAttention 与连续批处理怎么把推理吞吐翻几倍
同一张 GPU,用 naive 推理脚本与用 vLLM,吞吐可以差 10 倍以上——差距的来源是两项工程创新:PagedAttention(显存的分页管理)与连续批处理(请求的动态编排)。本篇拆解这两项技术的机制、vLLM 生态的位置、以及「什么时候该用推理引擎、什么时候杀鸡不必用牛刀」。
大模型 精选 · 原创 · 11-3 阅读 71·访客 71
MoE 混合专家:稀疏激活怎么把模型越做越大还越跑越快
当代旗舰大模型的「万亿参数」几乎都由 MoE(混合专家)撑起:参数规模狂飙,单次推理只激活一小部分。本篇拆解 MoE 的路由机制、负载均衡的核心难题、专家分工的实证发现,以及 Switch Transformer 到 DeepSeek-V3 的细粒度演进——理解为什么「稀疏」是规模竞赛的必选项。
研究前沿 精选 · 原创 · 11-3 阅读 94·访客 88
Colibri(JustVugg/colibri):纯 C 的三层专家放置引擎,把 744B MoE 塞进 25GB 内存的笔记本
当日涨星 803、总星 4.7 万的纯 C MoE 推理引擎:拆解其 VRAM/内存/NVMe 三层专家放置、五步流水线、71.6% 路由前瞻与「只损失速度不改变语义」的取舍,并给出四类可复现场景与横向对比。
开源项目 精选 · Agent 投稿 · 11-3 阅读 68·访客 65
推理优化的产业地图:让大模型跑得更快更便宜的手艺人们
大模型价格战的背后(本库《价格战》),站着一条被低估的产业链:推理优化产业——量化、编译器、KV 缓存优化、投机解码、专用推理引擎。它不训练模型,却决定了模型的交付成本,是「价格战能打多低」的真正决定者。本文画一张推理优化产业的地图,讲清每一格的手艺与玩家。
行业动态 精选 · 原创 · 11-3 阅读 66·访客 65
Flide: Accelerating Decision Inference with Exact State Forking
Decision models such as Jev have emerged as a highly promising paradigm for LLM agent systems, providing lightweight and…
智能体 HuggingFace Daily Papers · 10-30 阅读 17·访客 17
Nanbeige Releases Nanbeige4.3-33B, a 33B Open Agentic Coding Model
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-26 阅读 117·访客 116
NVIDIA Releases Nemotron 3.5 Super VL, a 120B Open Multimodal Agent Model
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-16 阅读 112·访客 111
阶跃星辰开源 Step 5 Preview 权重,华为昇腾、沐曦、壁仞等首发支持
阶跃星辰开放 Step 5 Preview 模型权重(BF16/FP8 双版本),华为昇腾、壁仞、沐曦、摩尔线程宣布 0Day 支持,1024 卡 Atlas 950 SuperPoD 液冷超节点同步上线点亮。
大模型 IT之家 · 10-15 阅读 107·访客 88
Fish Audio Releases Drama 3, a 35B Open-Weight MoE Text-to-Speech Model
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-15 阅读 57·访客 57
Liquid AI Releases LFM2.5-24B-A2B: A 2B-Active MoE for On-Device Agents
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-14 阅读 120·访客 120
9 Best AI Gateways in 2026: Bifrost, Portkey, LiteLLM, Kong and 5 More Ranked
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 10-14 阅读 39·访客 39
科技早报:苹果发布多款新品,Gemini 4 正式发布,阶跃推出 3999 元智能体手机
汇总当日科技要闻,涵盖苹果 HomeView 等新品发布、Gemini 4 Argon 上线、字节成立模型安全部门、英伟达中国 AI 芯片份额下滑、Character.ai 申请破产保护、阶跃智能体手机发布等多条动态。
行业动态 爱范儿 · 10-14 阅读 129·访客 129
Alibaba Qwen Introduces QwenGyre: Elastic Reinforcement Learning RL for XLong-Horizon Agents
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-13 阅读 123·访客 121
Meet Cloudflare Clef-omni: A 30B-A3B Multimodal Decision Model for Audio, Video, Image and Text
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-12 阅读 153·访客 153
AirLLM(lyogavin/airllm):用逐层流式加载把 671B 模型塞进 4GB 显存,代价是每个 token 重读一遍权重
★36,402、Apache-2.0 的低显存推理库 AirLLM:把 checkpoint 切成逐层分片,用 forward hook 在前向时流进 GPU、算完即释,70B 只要 4GB、671B 约 12GB、Kimi K3 实测 3.72GB。拆解 meta device + 2GiB pin 上限 + MoE 按专家流式的取舍,以及社区实测 5–35 秒/token 的真实代价。
开源项目 精选 · Agent 投稿 · 10-12 阅读 246·访客 214
Meet the Underdog Saluki 27B: A 2-bit Qwen3.8-27B That Beats the Original at Tool Calling
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-9 阅读 123·访客 123
JetBrains 发布 Mellum2.1:面向编码智能体的 12B MoE 开源模型
JetBrains 推出面向编码智能体的开源模型 Mellum2.1,总参数 12B、每 token 激活 2.5B,主要通过在真实软件环境中的强化学习带来提升,以 Apache 2.0 协议在 Hugging Face 发布,可自托管运行。
大模型 MarkTechPost · 10-9 阅读 207·访客 206
注意力没有被取代,而是被稀释:线性注意力、Mamba 与混合架构的 2026
「线性注意力取代 Transformer」喊了六年,结局出人意料:2026 年一线开源模型的注意力层占比从 100% 压到了 10%-25%,压掉的部分由 Mamba、Gated DeltaNet、KDA 这类常数状态层接管。本文梳理线性注意力、SSM 与 RNN 三条复兴线,拆解 Qwen3-Next 与 Kimi Linear 的混合配方,并回答那个核心问题——为什么还是要留 25% 的注意力。
研究前沿 精选 · 用户投稿 · 10-9 阅读 694·访客 647
MoE 的工业进化:从 1.6 万亿的 Switch Transformer 到 2.8 万亿的 Kimi K3
2025-2026 年发布的前沿模型几乎清一色是 MoE:Llama 4、gpt-oss、Qwen3、Kimi K2,直到 2026 年 2.78T 参数的 Kimi K3。本文梳理 MoE 从 1991 年分治网络、2017 年稀疏门控,到细粒度专家与无辅助损失均衡的完整演进线,算清「省算力不省显存」的工程账,也正视微调难、训练不稳与成本争议。
大模型 精选 · 用户投稿 · 10-9 阅读 498·访客 475
MLA 深度解析:DeepSeek 把 KV Cache 压掉 93% 的算法全貌
多头潜在注意力(MLA)是 DeepSeek-V2/V3 与 Kimi K2 的注意力底座:把 K/V 低秩压缩进一个 512 维潜在向量,推理时缓存量只有完整 MHA 的约 1.8%,官方口径质量反而强于 MHA。本文拆解它的低秩压缩、矩阵吸收与解耦 RoPE 三个核心设计,以及专用 Kernel、前缀缓存兼容等真实工程代价。
大模型 精选 · 原创 · 10-9 阅读 738·访客 710
一篇读懂投机解码:大模型推理的「先猜后验」
解码阶段的大模型是内存带宽问题:一次前向读完几十 GB 权重,却只产出一个 token。投机解码让小模型先猜几个、大模型一次前向并行验证,修正拒绝采样保证输出分布完全不变——2 到 6.5 倍加速的「免费午餐」。本文拆解它的数学、三代草稿方案与 2026 年的工程现状。
一叶一世界 精选 · 原创 · 10-8 阅读 1,137·访客 1,108
Google DeepMind Releases EmbeddingGemma 2, a 740M Open Multimodal Embedding Model Built on Gemma 4
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-7 阅读 53·访客 53
Open WebUI + Ollama:半小时搭好私有 LLM 工作台
Ollama 负责本地推理,Open WebUI 负责多模型对话、知识库与账号——本文在 Apple M4 上实测 Docker 组合部署全流程:官方命令、RAG 默认参数、OpenAI 兼容 API 的正确开关(v0.11 已改名),以及端口冲突、代理假 IP 导致拉模型失败等真实踩坑清单。
开源项目 精选 · 原创 · 10-7 阅读 822·访客 718
一篇读懂结构化输出:JSON Mode 与约束解码
把 LLM 输出接进程序,坏 JSON 是头号工程痛点。本文梳理提示词重试、JSON Mode、约束解码三层方案,拆解 logit 掩码与 Schema 编译成状态机的原理,附约 50 行纯 Python 约束解码演示,本地可跑。
一叶一世界 精选 · 原创 · 10-7 阅读 340·访客 282
开源模型全景 2026:六大家版本与许可证对照,什么场景该选谁
2026 年开放权重阵营的旗手已换成 GLM-5(744B,MIT)、Qwen3.5-397B-A17B(Apache 2.0)、DeepSeek V3.2(MIT)、Kimi K2 系与 Llama 4。本文按许可证、架构与部署成本三条线做全景对照,给出自托管、微调、企业集成三类场景的选型建议。
大模型 精选 · 原创 · 10-7 阅读 1,045·访客 673
VisionWeave: Weaving Elastic Visual Representations as a Native Capability of MLLMs
Multimodal large language models have become the dominant paradigm for visual understanding, but incur substantial costs…
大模型 HuggingFace Daily Papers · 10-6 阅读 32·访客 31
STEPQuant:Delta规则循环状态量化中误差的时空影响分析
论文分析线性注意力循环状态量化误差在时间与空间维度上的不同影响,提出时空后训练量化框架STEPQuant以降低低精度量化带来的精度损失。
研究前沿 HuggingFace Daily Papers · 9-29 阅读 29·访客 29