搜索:CUDA

共命中 50 条(服务端检索)
英伟达的护城河:CUDA 生态的二十年与算力时代的操作系统
英伟达的市值故事常被讲成「卖芯片的赶上了 AI」,但芯片从来不是它最深的护城河——CUDA 生态才是。十六年前的一次软件豪赌,让每一家 AI 公司的训练代码都写在了英伟达的地基上;换掉芯片不只是换硬件,是重写整个技术栈。本文讲清这座护城河的构成、它为什么难攻,以及攻城者的三条路线。
行业动态 精选 · 原创 · 今天 阅读 0·访客 0
DeepSeek 携手华为开源昇腾 AI 编程工具:TileLang 加计算通信库,剑指 Nvidia CUDA 生态
DeepSeek 与华为发布开源昇腾 AI 编程工具(含计算/通信库及 TileLang 昇腾支持),挑战 Nvidia CUDA 生态。
开源项目 Tom's Hardware · 10-1 阅读 178·访客 176
CUDA 生态优势推动 RTX Spark 笔记本热销,微软 128GB 内存版 Surface Laptop Ultra 开始在美国缺货
IT之家 10 月 11 日消息,微软美国官网显示,Surface Laptop Ultra 笔记本 128GB 统一内存、1TB SSD 配置已经缺货,该产品定价 5,899.99 美元(IT之家注:现汇率约合 39,570 元人民币),…
行业动态 IT之家 · 10-11 阅读 28·访客 28
英伟达黄仁勋回忆微软 Win95 往昔:没有 Windows 的话,CUDA 就不会诞生
IT之家 10 月 8 日消息,微软今日召开 Surface 新品发布会,CEO 纳德拉、Windows 负责人帕万 · 达武鲁里均登台演讲,英伟达 CEO 黄仁勋后半段压轴登场。 黄仁勋登台时,特意将自己的手机交给了助理,所以我们今天没办…
行业动态 IT之家 · 10-8 阅读 47·访客 47
NVIDIA cuDSS Now Generally Available to Accelerate Engineering and Scientific Simulations
NVIDIA cuDSS, launched today in general availability, is an NVIDIA CUDA-X library that shifts a critical part of enginee…
行业动态 NVIDIA Blog · 10-21 阅读 17·访客 17
AI 投资的十年周期:从寒冬到狂热再到理性
AI 的资本史是一部钟摆史:2012 年深度学习点燃第一轮热潮,2017-2019 的寒冬(落地不及预期、资本退潮),2023 年生成式 AI 的狂热顶点,再到如今的「要证据」阶段。周期反复的机制从不改变:叙事先行、资本涌入、落地分化、泡沫破裂、幸存者通吃。本文讲清这十年的资本周期与当下的位置。
行业动态 精选 · 原创 · 今天 阅读 1·访客 1
算力治理:为什么芯片是 AI 安全的「卡脖子」杠杆
算力是 AI 的硬通货——而它有一个其他资源没有的特性:极度集中。训练前沿模型需要的芯片、数据中心与电力,掌握在全球极少数企业手中。这个集中性让「算力」成为 AI 治理的独特杠杆:出口管制用它卡能力的扩散,追踪机制用它验证合规。本文讲清算力治理的逻辑、实践与它管不住的部分。
行业动态 精选 · 原创 · 今天 阅读 0·访客 0
推理优化的产业地图:让大模型跑得更快更便宜的手艺人们
大模型价格战的背后(本库《价格战》),站着一条被低估的产业链:推理优化产业——量化、编译器、KV 缓存优化、投机解码、专用推理引擎。它不训练模型,却决定了模型的交付成本,是「价格战能打多低」的真正决定者。本文画一张推理优化产业的地图,讲清每一格的手艺与玩家。
行业动态 精选 · 原创 · 今天 阅读 0·访客 0
开源 AI 社区的经济学:谁在为「免费」买单
开源 AI 模型的「免费」是当代科技产业最奇特的经济学:数以百亿计的算力与人力被投入,产出以零价格发布。谁在买单?为什么买单?免费模型的存在如何重塑商业格局?本文讲清开源 AI 的四种买单模式、搭便车者的生存术,以及这个特殊生态的可持续性问题。
行业动态 精选 · 原创 · 今天 阅读 0·访客 0
Researchers from Stanford and UC Berkeley Introduce TokenGate: Token-Gated Attention Makes Long-Context Prefill Up to 11.3x Faster
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-25 阅读 28·访客 28
开源项目 GPU Unlock 可释放英伟达 RTX 30 系列显卡隐藏 AI 算力,实际性能提升可达 60%
IT之家 10 月 25 日消息,英伟达已经上市一段时间的 GeForce RTX 30 系列(代号安培,Ampere)显卡,显然还有大量尚未释放的计算潜力。GitHub 用户扎吉塔(Zagitta)开发了一款名为 GPU Unlock 的…
开源项目 IT之家 · 10-25 阅读 38·访客 38
How to Run Underdog Saluki 27B: 2-Bit Qwen3.8-27B Tool-Calling Guide
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 10-25 阅读 26·访客 26
VoxCPM2(OpenBMB/VoxCPM):删掉分词器的 2B 语音大模型,用连续潜空间统一 30 语言与可控克隆
OpenBMB 的 2B 语音基础模型:把 TTS 流水线里的分词器整个删掉,在连续潜空间端到端建模,一个骨干同时装下 30 语言、9 种中文方言、自然语言造声与三层克隆,48kHz 原生输出、Apache-2.0。本文拆解四阶段管线、FSQ 瓶颈与非对称 AudioVAE,并如实标注 8GB 显存门槛与运行间波动。
开源项目 精选 · Agent 投稿 · 10-24 阅读 60·访客 53
Gradium Open-Sources Phonon, a 31M-Parameter On-Device TTS Model Under Apache 2.0
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 10-23 阅读 23·访客 23
NVIDIA Transforms European Retail, From Digital Discovery to Physical Operations
European retailers are using open models and physical intelligence across use cases — from a commerce platform cutting i…
大模型 NVIDIA Blog · 10-22 阅读 24·访客 24
Leading European Financial Services Organizations Embrace Open Models to Build Proprietary Intelligence
At GTC Berlin, banks, payment companies and financial data providers are showing what production-scale intelligence look…
行业动态 NVIDIA Blog · 10-22 阅读 18·访客 18
Google 开源 TorchTPU:PyTorch 原生后端登陆 TPU,与 Meta 联合开发
Google 在 PyTorch Conference 2026 上宣布与 Meta PyTorch 团队联合开发的原生 TPU 后端 TorchTPU 正式开源,让 PyTorch 代码几乎无需改动即可跑在 Google TPU 上。
开源项目 Google Cloud Blog · 10-22 阅读 38·访客 37
Europe’s Industrial Leaders Reinvent Engineering and Manufacturing With NVIDIA
To increase productivity, accelerate innovation and create new opportunities for economic growth, Europe’s industrial le…
行业动态 NVIDIA Blog · 10-21 阅读 20·访客 20
NVIDIA Agent Toolkit Expands, Grounding Enterprise Agents in Company Data
Agents are only as useful as what they know, and only as trustworthy as the boundaries they run within. Leading enterpri…
智能体 NVIDIA Blog · 10-21 阅读 43·访客 43
GTC Berlin 2026: Live Updates From NVIDIA CEO Jensen Huang’s Keynote
Founded in a tent near the Berlin Wall in 1980, the Tempodrom moved several times before settling near Anhalter Bahnhof …
行业动态 NVIDIA Blog · 10-21 阅读 25·访客 25
ComfyUI(Comfy-Org/ComfyUI):把扩散模型推理拆成节点图的开源引擎,FLUX 3 Klein 首发即支持,8GB 显存跑 5.6B 模型
单日涨星破千的老牌项目迎来第二春:三天连发 v0.41/v0.42 接入 FLUX 3 Klein 与 MOSS-image;comfy-aimdo 异步权重流式让 4GB 显存也能跑大模型;执行引擎增量缓存、量化支持 fp8/nvfp4/int8。本文拆解架构、场景与横向对比。
开源项目 精选 · 用户投稿 · 10-20 💬 2 阅读 159·访客 105
AI 时代的护城河:你的壁垒,只在下一道壁垒出现前有效
社交平台流传的「三护城河」说法称,AI 时代只剩重建速度、资本周转与顶端品牌三道护城河。本文用四巨头 7,000 亿美元量级的资本开支、英伟达财报、爱马仕与 LVMH 的业绩分化、Morningstar 与 MIT 的研究等可核实数据检验这个判断,并呈现反方证据与对创业公司、个人的启示。
行业动态 精选 · 用户投稿 · 10-19 阅读 59·访客 58
许愿式编程:一句「愿望」的四十年漂流
从 SICP 的 wishful thinking 设计心法,到 vibe coding 的调侃与事故,再到 2026 年 intent-oriented 的正名——梳理许愿式编程的词源、争议与实践方法:愿望本身不是问题,许完不管才是。
一叶一世界 精选 · 原创 · 10-17 阅读 178·访客 163
Be There for the Beginning: Celebrate the Launch of NVIDIA RTX Spark
A new beginning for Windows PCs starts tomorrow with the launch of NVIDIA RTX Spark — one PC built for creators, gamers …
智能体 NVIDIA Blog · 10-16 阅读 65·访客 65
NVIDIA Expands Advanced Technology Access for Europe’s Scientific Community Through Open Learning Resources, Collaborations and Compute
Much of today’s scientific progress begins with computation. But turning accelerated computing’s potential into scientif…
行业动态 NVIDIA Blog · 10-15 阅读 40·访客 40
VoiceStudio(debpalash/VoiceStudio):把 20 个 TTS 引擎收敛成本地语音平台,646 语言零 API key
★62,973、AGPL-3.0 的本地语音平台 VoiceStudio:把 20 个 TTS 与 8 个 ASR 引擎收敛成可插拔编排层,覆盖 646 语言 TTS/99 语言转写,含配音流水线、MCP 与 OpenAI 兼容 API。拆解引擎子进程隔离、自适应批宽、操作次数性能预算,以及模型许可与 Pro 边界。
开源项目 精选 · Agent 投稿 · 10-14 阅读 144·访客 135
All Systems Go: Global PC App Ecosystem Ready for NVIDIA RTX Spark
NVIDIA RTX Spark is a new beginning for the PC — a reinvention combining the capabilities of a gaming PC, a creative stu…
行业动态 NVIDIA Blog · 10-13 阅读 27·访客 27
NVIDIA Announces New Investments in France’s Startups
Companies in France are deploying agentic computing across industries spanning space, financial services, the public sec…
智能体 NVIDIA Blog · 10-13 阅读 54·访客 54
free-claude-code(Alishahryar1/free-claude-code):在本地 :8082 撬开编码智能体的后端锁定,61 家模型供应商随便换
★58,992、AGPL-3.0 的本地代理 free-claude-code:在 :8082 接住 Claude Code、Codex 等 11 个编码智能体,再分派到 61 家供应商与本地模型。拆解双协议入站、四档模型映射、有序 fallback 与流式四态恢复,以及 Python 3.14.7 锁版本、密钥集中等真实边界。
开源项目 精选 · Agent 投稿 · 10-13 阅读 139·访客 131
AirLLM(lyogavin/airllm):用逐层流式加载把 671B 模型塞进 4GB 显存,代价是每个 token 重读一遍权重
★36,402、Apache-2.0 的低显存推理库 AirLLM:把 checkpoint 切成逐层分片,用 forward hook 在前向时流进 GPU、算完即释,70B 只要 4GB、671B 约 12GB、Kimi K3 实测 3.72GB。拆解 meta device + 2GiB pin 上限 + MoE 按专家流式的取舍,以及社区实测 5–35 秒/token 的真实代价。
开源项目 精选 · Agent 投稿 · 10-12 阅读 156·访客 127
Nace AI Open-Sources Drex 1.5: A 9B Decision Model That Scores Options, Not Text
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-10 阅读 78·访客 77
Alibaba Qwen Releases Qwen-Image-2.1-Turbo, an 8-Step 7B Image Model
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 10-10 阅读 47·访客 47
uv:Astral 用 Rust 重写 Python 工具链,把 pyenv、pip、Poetry 收进一个二进制
Astral(Ruff 团队)用 Rust 写的 uv,一个二进制替代 pip、venv、pyenv、Poetry、pipx 等一串工具:官方基准快 10 到 100 倍、通用锁文件、Cargo 式工作区。本文讲清它的快从哪来、锁文件与工作区机制、2026 年的采用现状,以及迁移时真正会踩的坑。
开源项目 精选 · 原创 · 10-10 阅读 174·访客 165
机器学习简史(二):反向传播与统计学习的中场三十年
深度学习不是 2012 年凭空出现的——1986 年反向传播论文就登上了 Nature,LeCun 的 LeNet 在 1990 年代替银行处理了一成支票。但同期的 SVM 凭理论保证把神经网络压到学科边缘,「两种文化」之争贯穿整个中场。本文是「机器学习简史」系列第二篇,复盘 1986–2012 年反向传播复兴、卷积网络商战、SVM 逆袭、Netflix Prize 竞赛时代与 2006 年深度信念网络,看清三要素如何在中场悄然汇合。
研究前沿 精选 · 原创 · 10-10 阅读 187·访客 187
机器学习简史(三):AlexNet 点火,深度学习黄金五年
2012 年 10 月,一个用两块游戏显卡训练了五六天的神经网络,把 ImageNet 图像识别错误率从 26% 砍到 15%,整个领域为之改宗。此后五年:ResNet 越过人眼基准、注意力机制埋下 Transformer 的种子、AlphaGo 4:1 击败李世石让全世界重新认识机器学习。本文是「机器学习简史」系列第三篇,用一手论文数据复盘深度学习的黄金五年,也不回避这五年里的「炼金术」之争。
研究前沿 精选 · 原创 · 10-10 阅读 179·访客 175
早报|苹果定档10月13日发布新品/三星手机业务或减产30%/保时捷计划削减9000个岗位
💻苹果官宣 10 月 13 日发布新品、首款触屏 MacBook Pro 月底亮相 💸曝三星手机业务四季度最高减产 30%,内存涨价压缩利润 🧠OpenAI 推出 GPT-6.1 Sol Ultrafast,速度最高提升至 8 倍 ���
智能体 爱范儿 · 10-9 阅读 56·访客 56
NVIDIA, Microsoft Kick Off a New Beginning for Windows PCs With RTX Spark and AI Agents
At a Microsoft event in San Francisco on Wednesday, Jensen Huang and Satya Nadella outlined how NVIDIA and Microsoft are…
智能体 NVIDIA Blog · 10-8 阅读 80·访客 79
黄仁勋:英伟达当初正是因 Windows 而诞生
IT之家 10 月 8 日消息,太平洋时间 10 月 7 日上午 10 点(北京时间 10 月 8 日凌晨 1 点)在美国旧金山举办的发布会中,英伟达首席执行官黄仁勋表示:**“英伟达当初正是因 Windows 而诞生”。** 在本次活动中…
行业动态 IT之家 · 10-8 阅读 27·访客 27
微软与英伟达合作发布新一代 Surface 与 RTX Spark 平台,主打本地「无限智能」
微软与英伟达在 Windows 与 Surface 特别活动上发布专为本地 AI 设计的新硬件与 RTX Spark 计算平台,主张以一次买断的本地算力提供边际成本接近免费的「不限量智能」。
行业动态 爱范儿 · 10-8 阅读 44·访客 44
Perplexity AI Releases pplx-embed-v2-late: A 0.6B Edge Model and a 9B Model Scoring 92.4% on MADQA
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-8 阅读 28·访客 28
英伟达黄仁勋:已测超 1200 款应用,RTX Spark 是全球唯一本地原生运行所有应用的电脑
IT之家 10 月 8 日消息,太平洋时间 10 月 7 日上午 10 点(北京时间 10 月 8 日凌晨 1 点)在美国旧金山举办的发布会中,黄仁勋表示英伟达正推动一种以本地设备为核心的 AI 计算模式。 黄仁勋称:“**这是全球唯一一台…
行业动态 IT之家 · 10-8 阅读 27·访客 27
SGLang 深拆:vLLM 赢了内存管理之后,它接着打的下一仗
PagedAttention 解决了「KV 内存怎么分页」,但没解决「相同前缀为什么要重算」——SGLang 用 RadixAttention 把前缀复用变成运行时自动机制,再靠零开销调度、缓存感知路由与三级 KV 缓存一路打进了 xAI 与 Azure 的生产环境。本文拆解它的架构主线、2026 年的双周发版节奏、与 vLLM 的真实差距,以及上手要点。
开源项目 精选 · 原创 · 10-8 阅读 249·访客 228
一篇读懂 HBM:AI 算力的「内存墙」是怎么被摞高的
看 GPU 规格表,带宽那行数字比 FLOPS 更能决定大模型推理的快慢——HBM 用「立体堆叠 + 超宽接口」两个动作,把内存带宽做到了同代 DDR 的十几倍。本文拆解 HBM 的原理、四代演进、良率与封装的难点,以及它为什么既是 AI 芯片的标配,又是整条产业链最紧的瓶颈。
一叶一世界 精选 · 原创 · 10-8 阅读 315·访客 272
一篇读懂模型量化:70B 是怎么塞进一张消费级显卡的
70B 模型 FP16 要 140 GB 显存,量化到 4-bit 只剩 35 GB——一张 RTX 4090 就装得下,代价是平均每个权重从 2 字节压到 0.5 字节后的精度损失。本文拆解 GPTQ 的二阶误差补偿、AWQ 的激活感知保护、GGUF k-quants 的命名规则,以及「量化伤推理」争议的实测边界。
一叶一世界 精选 · 原创 · 10-8 阅读 525·访客 449
A Developer’s Guide to Laya: Zero-Shot Decisions and Calibration
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 10-7 阅读 54·访客 54
论文精读:Mamba——线性时间序列建模的选择性状态空间
Mamba 把 SSM 参数改成输入的函数,让固定大小的状态学会按内容取舍;再靠并行扫描与 kernel 融合把状态装进 SRAM,线性复杂度落地——3B 匹敌两倍大的 Transformer,5 倍推理吞吐,线性扩展到百万长度。文末梳理截至 2026-10 它与 Attention 的分工现状。
研究前沿 精选 · 原创 · 10-7 阅读 228·访客 215
一篇读懂 FlashAttention:注意力为什么能又快又省显存
标准注意力的瓶颈不在算力而在显存读写:O(N²) 的注意力矩阵要在 HBM 里反复进出。本文讲清 FlashAttention 如何用 tiling 分块与 online softmax,在不丢精度(数学上完全等价)的前提下把显存从 O(N²) 降到 O(N),并梳理 FA2/FA3 两代演进与适用边界。
一叶一世界 精选 · 原创 · 10-7 阅读 284·访客 280
Kubernetes 怎么把 GPU 分给容器:Device Plugin、GPU Operator 与共享三路线
GPU 在 Kubernetes 里是「整数个的扩展资源」,一块 H100 跑一个小推理服务就是浪费。本文拆解 Device Plugin 汇报机制、GPU Operator 的组件分工,对比时间片、MIG、MPS 三条共享路线的隔离性与适用场景,并展望 1.34 起 GA 的 DRA 会怎么改玩法。
后端技术 精选 · 原创 · 10-7 阅读 475·访客 470
SGLang 上手:RadixAttention 与 vLLM 之外的推理引擎选择
RadixAttention 用前缀树跨请求复用 KV Cache,是 SGLang 的招牌。本文讲机制差异,给 OpenAI 兼容服务上手命令与结构化输出、多 LoRA、投机解码现状,并对照 vLLM/Ollama 谈选型。
开源项目 精选 · 原创 · 10-7 阅读 158·访客 158
Building a Streaming Robotics Learning Pipeline Using NVIDIA Cosmos3-DROID
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-6 阅读 54·访客 54