AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
it之家
solidot
港股
搜索:
GPU故障
共命中 50 条(服务端检索)
GPU
集群的
故障
工程:
故障
率、巡检与自愈
一个万卡集群每天都会有硬件
故障
——
GPU
故障
不是意外,是常态。本篇拆解
GPU
故障
的类型学(ECC、掉卡、降频)、巡检与预测性维护、自动化的
故障
自愈,以及「把
故障
当日常来运营」的工程心态。
大模型
精选
· 原创 · 昨天
阅读 0
·
访客 0
一篇读懂技术
故障
复盘:从 blameless 到行动计划
故障
复盘不是「找责任」,是「把
故障
变成组织的免疫能力」——Google SRE 的 blameless 复盘文化、时间线的重建方法、根因的追问技术、以及「行动项必须落地」的闭环。复盘的质量,决定同样的事故会不会再来一次。
后端技术
精选
· 原创 · 今天
阅读 2
·
访客 2
GPU
虚拟化与切片:MIG、v
GPU
与时分复用的三种共享路线
一张 A100 想给十个团队用、一张卡想同时跑三个小模型——
GPU
共享的三条技术路线:MIG 的硬件级切分、v
GPU
的虚拟化直通、时分复用的软件调度。本篇拆解三种路线的机制、隔离性与适用场景,以及「共享
GPU
」的噪声与公平问题。
大模型
精选
· 原创 · 昨天
阅读 1
·
访客 1
算力租赁与二手
GPU
:采购的第三条路
买卡太贵、云租赁太持续——算力采购还有第三条路:裸金属租赁、二手卡市场与托管算力。本篇拆解算力采购的四种模式(云 API、云租赁、裸金属、自购)、各自的成本结构、二手
GPU
市场的现实,以及中小团队的采购决策框架。
行业动态
精选
· 原创 · 昨天
阅读 1
·
访客 1
Kubernetes 怎么把
GPU
分给容器:Device Plugin、
GPU
Operator 与共享三路线
GPU
在 Kubernetes 里是「整数个的扩展资源」,一块 H100 跑一个小推理服务就是浪费。本文拆解 Device Plugin 汇报机制、
GPU
Operator 的组件分工,对比时间片、MIG、MPS 三条共享路线的隔离性与适用场景,并展望 1.34 起 GA 的 DRA 会怎么改玩法。
后端技术
精选
· 原创 · 10-7
阅读 489
·
访客 484
AI 基础设施创业的新窗口:从
GPU
云到「数据的工业化」
模型层被巨头锁死、应用层卷成红海,但 AI 基础设施层(Infra)的创业窗口反而变宽了:
GPU
云的转租生意、推理加速的中间件、数据合成的工业化、评测与安全的流水线——四条新窗口各有各的护城河逻辑。
行业动态
精选
· 原创 · 今天
阅读 0
·
访客 0
在 Kubernetes 上跑大模型:
GPU
调度与资源管理入门
大模型把 Kubernetes 的资源管理推向硬边界:显存整卡规划、Pod 启动以分钟计、扩容受制于昂贵的
GPU
。本文梳理
GPU
资源声明、调度要点、探针与扩缩容配置和治理清单,给出一份可落地的入门路径。
后端技术
精选
· 原创 · 10-6
阅读 482
·
访客 477
算力芯片格局速览:
GPU
、ASIC 与推理卡的分工
芯片发布一场接一场,参数眼花缭乱。本文不评具体产品,而是给一套分类框架:
GPU
凭什么主导 AI 算力、ASIC 特化在哪、推理卡的成本逻辑是什么,以及读芯片新闻时先问的三个问题。
行业动态
精选
· 原创 · 10-6
阅读 252
·
访客 250
英伟达数据中心
GPU
产品线全景对比(2026):从 V100 到 Rubin 的七代算力跃迁
系统梳理英伟达数据中心级
GPU
从 Pascal 到 Rubin 的完整产品谱系,附七代完整规格对比表、中国市场特供线专题、AMD/Intel 竞品对比、选型指南与 TCO 数据,数据截至 2026 年 9 月。
行业动态
精选
· Proteus AI 深度研究 · 9-11
阅读 1,189
·
访客 694
一篇读懂断点续训:几周的训练怎么对抗随时到来的
故障
大模型的预训练要跑几周到几个月,而硬件
故障
是必然事件——断点续训(从 checkpoint 恢复训练)不是可选项,是生存技能。本篇拆解 checkpoint 保存什么、恢复时对齐什么、保存频率与成本怎么平衡、以及「训练可以断、进度不能丢」的工程细节。
大模型
精选
· 原创 · 2天前
阅读 3
·
访客 3
微软详解 Edge 浏览器全新 AI
故障
排查功能:整体类似聊天机器人,经用户同意后才会收集诊断数据
IT之家 10 月 12 日消息,微软发文,对旗下 Edge 浏览器引入的“修复问题(Fix an isuue)”全新 AI
故障
排查功能进行介绍,明确相应功能仅在用户主动启动排查流程并授权后,才会收集用户设备数据,且数据收集范围仅限于当前…
行业动态
IT之家 · 10-12
阅读 25
·
访客 25
AI 演员接受英文采访时突然说粤语,制作公司回应称不是
故障
IT之家 9 月 19 日消息,在接受英国知名主持人皮尔斯 · 摩根(Piers Morgan)的采访期间,AI 女演员提丽 · 诺伍德(Tilly Norwood)疑似发生运行
故障
,出现了短暂的语言切换异常。 在访谈期间,演员汤姆 · 康…
行业动态
IT之家 · 9-19
阅读 31
·
访客 31
已修复:OpenAI 的 ChatGPT 生图功能出现
故障
,持续约 7.5 小时
IT之家 9 月 9 日消息,OpenAI 官方状态页面显示, 从北京时间 9 月 8 日 22:32 到 9 月 9 日 05:59,旗下 ChatGPT 和 Images API 的图像生成功能出现
故障
,持续约 7 小时 27 分钟。 …
大模型
IT之家 · 9-9
阅读 37
·
访客 35
韩国明年启动 35 亿美元前沿 AI 项目:采购万块 Vera Rubin
GPU
、8000 亿韩元建训练数据
韩国宣布明年启动国家级前沿 AI 项目:3.9 万亿韩元采购 1 万块英伟达 Vera Rubin
GPU
,另投 8000 亿韩元建设训练数据。
行业动态
Korea Times · 10-6
阅读 75
·
访客 74
RAG 的可靠性工程:从超时到降级的容错设计
RAG 系统的每个环节都可能失败:检索超时、向量库不可达、嵌入服务限流、LLM 超长——可靠性工程让 RAG 在部分失败时仍有合理的输出。本篇拆解 RAG 各环节的
故障
模式、降级策略与容错设计,以及「部分失败不等于系统失败」的架构原则。
一叶一世界
精选
· 原创 · 昨天
阅读 0
·
访客 0
一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个
GPU
里
同一块
GPU
上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
大模型
精选
· 原创 · 10-24
阅读 92
·
访客 84
开源项目
GPU
Unlock 可释放英伟达 RTX 30 系列显卡隐藏 AI 算力,实际性能提升可达 60%
IT之家 10 月 25 日消息,英伟达已经上市一段时间的 GeForce RTX 30 系列(代号安培,Ampere)显卡,显然还有大量尚未释放的计算潜力。GitHub 用户扎吉塔(Zagitta)开发了一款名为
GPU
Unlock 的…
开源项目
IT之家 · 10-25
阅读 46
·
访客 46
英伟达发布 1200 亿参数开放多模态模型 Nemotron 3.5 Super VL:单
GPU
智能体任务吞吐量最高提升 5 倍
英伟达推出采用 MoE 架构(总参数 1200 亿、激活 120 亿)的开放多模态模型 Nemotron 3.5 Super VL,整合推理、工具调用与文本、图像、文档、视频理解能力,称单
GPU
智能体任务吞吐量最高达同规模开放模型的 5 倍,并公布多个企业定制案例与基准评测成绩。
大模型
IT之家 · 10-15
阅读 81
·
访客 81
A
GPU
-Parallel Framework for Heterogeneous Multi-Task Reinforcement Learning
GPU
-parallel simulation provides abundant robot interaction, but existing benchmarks rarely combine this scale with hete…
智能体
HuggingFace Daily Papers · 10-6
阅读 57
·
访客 56
vLLM 与 PagedAttention:把
GPU
显存当操作系统内存管
多请求并发时 KV Cache 的预留式分配让
GPU
显存大量空转、吞吐卡死。本文讲清 vLLM 的 PagedAttention 如何借鉴操作系统分页解决这一问题,配合连续批处理提升吞吐,并给出快速上手命令与常用参数。
开源项目
精选
· 原创 · 10-6
阅读 127
·
访客 125
MetaKernelBench: Measuring
GPU
Kernel Knowledge Transfer Beyond Code
Recent
GPU
kernel optimization agents retain what they learn in knowledge bases or as distilled skills. Kernel benchmark…
智能体
HuggingFace Daily Papers · 10-4
阅读 58
·
访客 57
语音开黑平台 Discord 将引入“游戏模式”,开启后可降低应用 CPU /
GPU
占用
IT之家 10 月 4 日消息,Discord 官方账号在 X 平台透露,目前开发人员正在为 Discord 应用开发全新的“游戏模式(Game Mode)”。该功能可在检测到玩家启动游戏后,自动降低 Discord 应用的 CPU、
GPU
…
行业动态
IT之家 · 10-4
阅读 33
·
访客 33
KernelZero: Co-Evolving Proposer and Coder for Continuously Improved
GPU
Kernel Generation
High-performance
GPU
kernels are essential to modern machine learning systems, yet automatically generating kernels that…
智能体
HuggingFace Daily Papers · 9-27
阅读 66
·
访客 65
每个 英伟达
GPU
包含了 10-40 个 RISC-V 核心]
英伟达在 2024 年称当年它的
GPU
产品共使用了逾 10 亿 RISC-V 核心。这些 RISC-V 核心没有被用于图形渲染,而是充当了微控制器,执行各类辅助任务,根据型号不同,每个
GPU
包含了 10-40 个 RISC-V 核心…
行业动态
Solidot · 9-21
阅读 48
·
访客 48
格里费:英伟达驱动支持是 Valve 首要任务之一,SteamOS 已能点亮部分
GPU
IT之家 9 月 17 日消息,在接受游戏媒体 IGN 采访时,Valve 软件开发人员皮埃尔-卢普 · 格里费(Pierre-Loup Griffais)表示 已在 SteamOS 主开发树中启用英伟达驱动程序,部分
GPU
型号可初始化…
行业动态
IT之家 · 9-17
阅读 36
·
访客 36
Measuring the Checker: Mutation Analysis for
GPU
-Kernel Benchmark Oracles
Benchmarks for LLM-generated
GPU
kernels decide correctness with a few random inputs and a loose floating-point toleranc…
研究前沿
HuggingFace Daily Papers · 9-2
阅读 32
·
访客 32
允许无聊:无聊不是要消灭的
故障
,是创造力的前厅
「妈,我好无聊啊」——大多数家长的本能是立刻填满它。但无聊研究的结论恰好相反:无聊是大脑在提示「该自己找事了」,填满它的动作正在掐断一个重要的发育程序。
一叶一世界
精选
· 原创 · 今天
阅读 3
·
访客 3
苹果推送 watchOS 27.0.1 更新:修复 Apple Watch Series 12/Ultra 4 随机重启
故障
IT之家 9 月 24 日消息,科技媒体 AppleInsider 昨日(9 月 23 日)发布博文,报道称苹果公司面向 Apple Watch Series 12 和 Apple Watch Ultra 4 智能手表,**紧急推送 wat…
行业动态
IT之家 · 9-24
阅读 48
·
访客 48
索尼 SIE 申请“AI 自修复系统”专利:利用人工智能实时生成诊断固件以修复 PlayStation 游戏机
故障
IT之家 9 月 22 日消息,据专利聚合网站 Patentlyze 披露,索尼 SIE 近日提交一项基于 AI 的 PlayStation 自动诊断和修复系统专利,该系统可以持续监测联网的 PlayStation 设备,在发现软件问题后由…
行业动态
IT之家 · 9-22
阅读 46
·
访客 46
Kubernetes 架构设计与深入实践:从控制平面到生产落地
从 kube-apiserver 处理一条请求的完整链路讲起,拆解 Kubernetes 控制平面与数据平面的分层设计:声明式 API 与控制循环为什么成为事实标准,调度、网络、存储、资源模型如何协作;再落到生产实践——资源与 QoS、探针配置、滚动发布、调度约束与常见
故障
排查。
后端技术
精选
· 原创 · 10-6
阅读 519
·
访客 514
一篇读懂优雅停机:重启不发事故的细节清单
每次发版重启都像一次「小规模
故障
」——正在处理的请求、注册中心的实例状态、缓存的预热、消息的消费位点——优雅停机就是把这每一个细节都管理起来。从信号处理到流量摘除,这是一份重启不发事故的细节清单。
后端技术
精选
· 原创 · 今天
阅读 2
·
访客 2
训推一体与资源错峰:集群共享的调度设计
白天推理高峰、训练占卡;训练希望整周独占、推理要有兜底容量——训推共存的集群需要一个调度设计。本篇拆解训推一体的资源矛盾、错峰调度的三种模式(抢占、分区、弹性分区)、以及「在线优先」的调度纪律。
大模型
精选
· 原创 · 昨天
阅读 2
·
访客 2
一篇读懂 AI 集群网络拓扑:Fat-Tree 与 Rail-optimized
千卡集群的网络怎么设计?Fat-Tree 用带宽换无阻塞,Rail-optimized 让「同序号
GPU
一跳直达」。本篇拆解两种拓扑的设计逻辑、NCCL 如何利用拓扑、以及「为什么 AI 集群的网络设计是一门专门学问」。
大模型
精选
· 原创 · 昨天
阅读 1
·
访客 1
一篇读懂 RDMA 与
GPU
Direct:AI 集群通信为什么值钱
千卡训练的每一秒,
GPU
之间都在交换海量数据——传统 TCP 网络撑不住,RDMA 与
GPU
Direct 让数据「绕过 CPU 直接进出显存」。本篇拆解 AI 集群通信的分层(NVLink→RDMA→TCP)、
GPU
Direct RDMA 的零拷贝机制、以及网络性能对训练吞吐的决定性影响。
大模型
精选
· 原创 · 昨天
阅读 1
·
访客 1
一篇读懂 RDMA:为什么 AI 集群的网络要「绕过」操作系统
GPU
很贵,但让
GPU
排队等网络的往往是操作系统——数据包要过内核协议栈、要在内存里来回拷贝。RDMA 用「内核旁路 + 零拷贝」把这条路打通成内存对内存的直通车,把延迟压到微秒级。本文讲透 RDMA 的三大机制、三条传输路线,以及为什么它成了 AI 集群的标配。
后端技术
精选
· 原创 · 10-25
阅读 71
·
访客 68
第三方开发者让 Googlebook OS 登陆苹果芯片 Mac:支持
GPU
加速和 Chrome 浏览器
IT之家 10 月 12 日消息,开发者 Skylar Taylor-Barrick 开源了一套名为 gbos-vm 的项目,可在搭载 Apple Silicon 芯片的苹果 Mac 上,通过虚拟机运行谷歌 Googlebook OS。 该…
开源项目
IT之家 · 10-12
阅读 79
·
访客 79
一张
GPU
跑10万原子!分子之心用AI把化学反应“拍”成了电影
打破分子模拟“不可能三角”]
行业动态
量子位 · 9-15
阅读 38
·
访客 38
算力词元贷加速全国推广,支持机房建设、
GPU
服务器集群采购
IT之家 9 月 12 日消息,据央视财经今日报道,今年服贸会首次推出“金融 + 科创”的联展模式,让金融机构联合他们所赋能的科创企业同台参展。展台上除了金融产品,还有智能机械臂、运载火箭模型、人形机器人等硬科技,背后是 算力贷、算力保、投…
行业动态
IT之家 · 9-12
阅读 39
·
访客 36
Meet qwen
GPU
: Qwen3.5-2B With 45 Compiled
GPU
Layers That Run CUDA
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型
MarkTechPost · 3天前
阅读 1
·
访客 1
马斯克确认 SpaceX 完成 400 亿美元债务融资,用于购买
GPU
IT之家 10 月 26 日消息,埃隆 · 马斯克(Elon Musk)在社交平台 X 上公开表示,SpaceX 已完成 **400 亿美元**(IT之家注:现汇率约合 2,675.68 亿元人民币)的债务融资,主要用于购买预计在 2027…
行业动态
IT之家 · 10-26
阅读 38
·
访客 38
亚马逊开源 Strands Decider 2B 决策模型,支持本地 CPU/
GPU
部署
亚马逊 Strands Agents 团队开源了基于 Qwen3.5-2B、采用评分指针头与 rank-16 LoRA 微调的决策模型 Strands Decider 2B,权重在 Hugging Face 上,可在本地硬件运行,2B 级模型中排名第 3,本地决策时延中位数 113ms。
大模型
IT之家 · 10-3
阅读 71
·
访客 71
谷歌TPU跑Kimi比英伟达
GPU
快57%!用的还是DeepSeek推理框架
听雨* 2026-09-26 15:12:05 来源:量子位 vLLM人马创业公司团队出品 克雷西 发自 凹非寺 量子位 | 公众号QbitAI 16块谷歌TPU v7跑Kimi K3,每秒跑出了709个Token,比老黄的GB200快了…
研究前沿
量子位 · 9-26
阅读 45
·
访客 45
笔记本跑7000亿参数GLM!无
GPU
也行? SSD当显存用火爆GitHub
田, 晏林* 2026-09-26 17:01:00 来源:量子位 GitHub现在最火热的大模型开源小蜂鸟Colibrì是个啥? 闻乐 发自 凹非寺 量子位 | 公众号 QbitAI 25GB笔记本硬跑744B GLM-5.2,32GB…
开源项目
量子位 · 9-26
阅读 58
·
访客 58
全球最快移动 CPU:高通发布第六代骁龙 8 超级至尊版芯片,CPU 行业首超 5GHz、
GPU
性能提升 44%
IT之家 9 月 23 日消息,夏威夷时间 9 月 22 日 9 点(北京时间 9 月 23 日 3 点)召开的 2026 骁龙峰会上,高通公司宣布推出第六代骁龙 8 超级至尊版移动平台和第六代骁龙 8 至尊版移动平台,**官方表示这是“全…
智能体
IT之家 · 9-23
阅读 84
·
访客 83
苹果 M6 芯片
GPU
跑分曝光,相比 M5 提升约 20%
IT之家 9 月 20 日消息,苹果 M6 芯片近日出现在 Geekbench 跑分数据库中,其 12 核 CPU 分别录得 4071 分、22783 分的单核 / 多核成绩,已经能够在多核方面追平 M3 Max。 如今,苹果 M6 的 G…
研究前沿
IT之家 · 9-20
阅读 87
·
访客 87
Microsoft Open-Sources TauGrid: A Kubernetes-Native Stack for
GPU
AI Workloads
Microsoft's AKS engineering team open-sourced TauGrid on August 28, 2026, packaging the tau CLI, Kueue queueing, KubeRay…
开源项目
MarkTechPost · 9-18
阅读 58
·
访客 58
蚂蚁灵波开源三款 LingBot-World 2.0 世界模型:Small 参数 1.3B 面向消费级单卡
GPU
设计
IT之家 9 月 13 日消息,继今年 7 月开源 LingBot-World 2.0 14B 模型后,蚂蚁灵波科技本周进一步开源三款模型:LingBot-World 2.0 Small(1.3B)、LingBot-World 2.0 Bi…
智能体
IT之家 · 9-13
阅读 75
·
访客 69
一篇读懂服务降级与预案:降级、隔离与兜底的工程体系
熔断器篇讲了「自动刹车」,这篇讲「预案体系」:系统过载时的降级阶梯、依赖的隔离、兜底的层次——大促与
故障
时,「有预案的降级」与「慌乱的宕机」是两种完全不同的体验。
后端技术
精选
· 原创 · 今天
阅读 1
·
访客 1
一篇读懂分布式任务调度:从单机 Cron 到分布式调度中心
单机 Cron 定时任务在分布式下的三个死穴:重复执行、单点
故障
、无管理界面。分布式调度中心(XXL-Job、Quartz 集群、Elastic-Job)如何解决——以及「时间轮」「错峰」「幂等」这些调度系统绕不开的设计。
后端技术
精选
· 原创 · 今天
阅读 2
·
访客 2
一篇读懂多活架构:同城双活与异地多活的工程账
单机房的容灾极限是「机房级
故障
时全站不可用」。多活架构让两个(多个)城市同时对外服务——但多活的代价是数据同步、流量路由、一致性保证的全面复杂化。拆解同城双活与异地多活的架构选择与工程账。
后端技术
精选
· 原创 · 今天
阅读 1
·
访客 1