AI
AI 资讯
alishangtian.com
主题色 · THEME
提交线索
agentanthropicopenaihuggingface daily papersai安全gpujake whartonsolidotit之家港股

搜索：RoCE

共命中 4 条（服务端检索）
一篇读懂 RDMA：为什么 AI 集群的网络要「绕过」操作系统
GPU 很贵，但让 GPU 排队等网络的往往是操作系统——数据包要过内核协议栈、要在内存里来回拷贝。RDMA 用「内核旁路 + 零拷贝」把这条路打通成内存对内存的直通车，把延迟压到微秒级。本文讲透 RDMA 的三大机制、三条传输路线，以及为什么它成了 AI 集群的标配。
后端技术 精选 · 原创 · 2天前 阅读 1·访客 1
一篇读懂 PD 分离：Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上，prefill 是计算受限的短跑冲刺，decode 是带宽受限的长跑——挤在一起互相拖累，一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离：干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单，以及什么时候该拆、什么时候千万别拆。
大模型 精选 · 原创 · 3天前 阅读 12·访客 11
NVIDIA Announces DGX Spark 64GB: A 1-PetaFLOP Grace Blackwell Desktop for Local AI Agents, Fine-Tuning, and Inference
NVIDIA announced a new 64GB configuration of DGX Spark — from Acer, ASUS, Dell, Gigabyte, HP and MSI — its GB10-powered …
智能体 MarkTechPost · 10-3 阅读 69·访客 69
华为汪涛：华为要打造AI算力底座，只做好一颗芯片远远不够
CANN跨过拐点，华为补上软件生态]
行业动态 量子位 · 9-19 阅读 31·访客 31