AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
solidot
it之家
港股
搜索:
内存分配
共命中 50 条(服务端检索)
操作系统内功 · 第 3 篇|
内存分配
内幕:伙伴系统、SLUB 与 glibc 碎片连环事故
RSS 缓慢上涨、堆剖析却查不到泄漏,最后被 OOM killer 一枪带走——这类事故的根源常常不是泄漏,而是分配器的碎片化。本篇从内核的伙伴系统讲到 SLUB,再对比 ptmalloc、tcmalloc、jemalloc 三国志,把 OOM killer 的判决逻辑和 overcommit 的三种姿势一次讲透。
后端技术
精选
· 原创 · 今天
阅读 4
·
访客 4
操作系统内功 · 第 2 篇|虚拟内存:页表、TLB 与一次缺页中断的旅程
malloc 返回的指针为什么「立刻可用」却几乎不花时间?一台 64GB 机器为什么能 mmap 500GB 的文件?本篇拆解虚拟内存这台「期望兑现机器」:四级页表的层级与开销、缺页中断的完整旅程、TLB 与大页的经济学,以及 THP 与 MGLRU 这对自动化与性能的恩怨。
后端技术
精选
· 原创 · 今天
阅读 6
·
访客 6
一篇读懂 HBM:AI 算力的「内存墙」是怎么被摞高的
看 GPU 规格表,带宽那行数字比 FLOPS 更能决定大模型推理的快慢——HBM 用「立体堆叠 + 超宽接口」两个动作,把内存带宽做到了同代 DDR 的十几倍。本文拆解 HBM 的原理、四代演进、良率与封装的难点,以及它为什么既是 AI 芯片的标配,又是整条产业链最紧的瓶颈。
一叶一世界
精选
· 原创 · 10-8
阅读 263
·
访客 227
端侧 NPU 军备竞赛 2026:TOPS 越吹越大,真正的瓶颈却是内存带宽
骁龙 8 Elite Gen 5、天玑 9500、苹果 A19 Pro 的 NPU 各有说法,但手机上跑 LLM 的速度上限不由 TOPS 决定——解码阶段的每一步都要把整个模型从内存里搬一遍。本文用带宽公式算清端侧到底能跑多大模型,并梳理三大芯片平台的真实取向。
大模型
精选
· 原创 · 10-7
阅读 422
·
访客 274
SGLang 深拆:vLLM 赢了内存管理之后,它接着打的下一仗
PagedAttention 解决了「KV 内存怎么分页」,但没解决「相同前缀为什么要重算」——SGLang 用 RadixAttention 把前缀复用变成运行时自动机制,再靠零开销调度、缓存感知路由与三级 KV 缓存一路打进了 xAI 与 Azure 的生产环境。本文拆解它的架构主线、2026 年的双周发版节奏、与 vLLM 的真实差距,以及上手要点。
开源项目
精选
· 原创 · 10-8
阅读 213
·
访客 203
vLLM 与 PagedAttention:把 GPU 显存当操作系统内存管
多请求并发时 KV Cache 的预留式分配让 GPU 显存大量空转、吞吐卡死。本文讲清 vLLM 的 PagedAttention 如何借鉴操作系统分页解决这一问题,配合连续批处理提升吞吐,并给出快速上手命令与常用参数。
开源项目
精选
· 原创 · 10-6
阅读 97
·
访客 96
内存涨价倒逼系统瘦身:微软详解 Win11 为何要降低 RAM 占用
IT之家 10 月 5 日消息,随着内存成本持续上涨,微软正将“降低 Windows 11 内存占用”列为 2026 年剩余时间的重要工作之一。 微软 Windows 与设备业务负责人帕万 · 达武卢里(Pavan Davuluri)在官方…
行业动态
IT之家 · 10-5
阅读 48
·
访客 46
微软 Surface Laptop Ultra 售价公布:起价 21988 元,128GB 内存顶配售 48388 元
IT之家 10 月 8 日消息,微软中国商城今天(10 月 8 日)上架 Surface Laptop Ultra,**共有亮铂金和夜幕色两种颜色,起售价为 21,988 元,128GB 内存顶配售价为 48,388 元。** 官方介绍如下…
行业动态
IT之家 · 10-8
阅读 54
·
访客 54
微软 Maia 300 AI 芯片发布:台积电 N2P 工艺,288GB HBM4 内存、带宽 18TB/s
IT之家 10 月 12 日消息,微软今天正式发布 Maia 300 人工智能芯片。这款产品配备 288GB HBM4 内存,带宽达到 18TB/s,FP4 算力可达 13.8 PFLOPS,基于台积电 N2P 制程工艺打造,计划 2027…
行业动态
IT之家 · 10-12
阅读 24
·
访客 24
一篇读懂布隆过滤器:用 1% 的误判换 90% 的内存
「这个元素我见过吗?」——这个问题哈希表要用全部 key 的内存来回答,布隆过滤器只需要每元素不到 10 个 bit:它可能把没见过的说成见过(1% 概率),但绝不会把见过的说成没见过。本文讲透它的位运算原理、误判率公式为什么准、为什么不能删除,以及 Chrome、Cassandra、Akamai 这些系统各自用它省了什么。
一叶一世界
精选
· 原创 · 10-8
阅读 127
·
访客 127
CUDA 生态优势推动 RTX Spark 笔记本热销,微软 128GB 内存版 Surface Laptop Ultra 开始在美国缺货
IT之家 10 月 11 日消息,微软美国官网显示,Surface Laptop Ultra 笔记本 128GB 统一内存、1TB SSD 配置已经缺货,该产品定价 5,899.99 美元(IT之家注:现汇率约合 39,570 元人民币),…
行业动态
IT之家 · 10-11
阅读 24
·
访客 24
苹果 iPad 12 爆料:A19 芯片、8GB 内存、自研 N1/C1X 芯片
IT之家 9 月 26 日消息,科技媒体 MacRumors 昨日(9 月 25 日)发布博文,报道称其撰稿人 Aaron Perris 通过挖掘苹果公司代码,**发现 iPad 12 将配备 A19 芯片、8GB 内存、N1 网络芯片和 …
行业动态
IT之家 · 9-26
阅读 35
·
访客 35
苹果 iPhone 18 Pro 系列手机配备 12GB 内存与上一代相同,起价上涨 1000 元
IT之家 9 月 10 日消息,苹果 iPhone 18 Pro 系列手机今日正式发布,官方没有提到新机的内存容量,不过据 MacRumors 今日报道,在最新版本的 Xcode 27 中,苹果已透露了这一信息。 iPhone 18 Pro…
行业动态
IT之家 · 9-10
阅读 51
·
访客 41
马斯克改口:特斯拉 AI5 芯片内存由 72GB 上调至 96GB
马斯克表示特斯拉 AI5 芯片不再采用 72GB LPDDR5 内存,而是改用 96GB 内存,此前因内存供货紧张曾削减内存规格,AI5 芯片已完成流片,将用于自动驾驶与 Optimus 人形机器人业务。
行业动态
IT之家 · 10-4
阅读 31
·
访客 31
桌面 AI 超算新选择:英伟达 NVIDIA DGX Spark 64GB 内存版正式发布,4999 美元
IT之家 10 月 2 日消息,英伟达今天正式对外披露 DGX Spark 产品更新,推出 64GB 内存版本 DGX Spark 桌面 AI 计算机,起售价 4,999 美元(现汇率约合 33,566 元人民币),将于 10 月 23 日…
行业动态
IT之家 · 10-2
阅读 40
·
访客 40
CounterPoint 称内存短缺冲击全球手机市场:2026Q3 出货量创 14 年新低、今年平均售价已涨 20%
IT之家 10 月 13 日消息,市场调查机构 CounterPoint Research 昨日(10 月 12 日)发布博文,报告称由于持续的内存短缺,影响全球大多数 OEM 厂商出货,**导致 2026 年第三季度全球智能手机出货量同比…
行业动态
IT之家 · 10-13
阅读 64
·
访客 64
DDR4 内存条再次回归]
由于 DDR5 内存条过于昂贵,上一代的 DDR4 内存条再次回归。技嘉宣布将于 2027 年初上市支持 DDR4 内存的新的 Intel LGA 1700 主板,而今年八月技嘉宣布推出了支持 DDR4 内存的新 AMD AM4 主板。DD…
行业动态
Solidot · 10-10
阅读 54
·
访客 54
传三星电子 12Hi HBM4E 内存已通过英伟达等主要客户质量验证测试
IT之家 10 月 7 日消息,《韩国经济日报》当地时间今日报道称,三星电子存储器业务的 12 层堆叠 HBM4E 内存已于 9 月末通过 NVIDIA(英伟达)和主要超大规模数据中心企业的质量验证测试,**各客户的供货量、合同规模、出货时…
行业动态
IT之家 · 10-7
阅读 29
·
访客 29
FlashAttention 深度解析:一次在数学上什么都没改的注意力加速
FlashAttention 不近似、不改公式,却把注意力训练速度提高数倍、显存从 O(N²) 降到 O(N)——靠的是把「少走显存」当成一等目标:分块装进片上内存、用 online softmax 增量修正、达到 IO 复杂度理论下界。本文拆解它的算法原理与 v1→v2→v3 三代硬件适配,以及它管不了的事:KV cache 与自定义 mask。
大模型
精选
· 原创 · 10-9
阅读 301
·
访客 298
Lineage感知的内存治理:企业智能体中基于派生门控的列级隐私访问控制框架
论文提出分析内存单元(AMU),为智能体共享内存中的缓存结果附加完整派生(血缘)图谱,仅在请求者对涉及的所有列均有权限时才返回命中,以防止敏感数据经合法计算结果泄露,并证明该策略按构造可阻断此类检索。
研究前沿
HuggingFace Daily Papers · 10-5
阅读 25
·
访客 25
AMD 发布新一代锐龙 AI Halo 开发者平台,升级 Max+ PRO 495 与至高 192GB 内存
IT之家 10 月 12 日消息,AMD 当地时间今日正式发布了基于锐龙 AI Max+ PRO 495 处理器的新一代锐龙 AI Halo 开发者平台。 相比初代设备,新产品 CPU、GPU、NPU 性能均有改进。而最为关键的是,**其支…
行业动态
IT之家 · 10-12
阅读 23
·
访客 23
微软发布 Surface Laptop Ultra,最高 128GB 统一内存可本地运行 1200 亿参数模型
微软举办特别发布会,推出搭载 NVIDIA RTX Spark Superchip 的 Surface Laptop Ultra(2599.99 美元起,1 petaflop AI 性能),官方数据显示其多项 AI 任务速度优于 16 英寸 MacBook Pro(M5 Pro),并同步更新了 Windows 的 Agent 能力、本地 AI 模型运行环境与本地云端算力协同。
行业动态
爱范儿 · 10-8
阅读 44
·
访客 44
Semifactual Credit-Augmented Policy Optimization:改进GRPO的信用分配方法
文章通过半事实提示干预分析大语言模型对任务无关提示特征的敏感性,发现抑制高漂移token可提升推理准确率,并指出GRPO对所有token赋予相同优势可能强化虚假依赖,据此提出信用分配增强的策略优化方法。
研究前沿
HuggingFace Daily Papers · 9-30
阅读 24
·
访客 24
ACEMAGIC 推出全球首款锐龙 AI Max+ PRO 495 处理器的 AI 迷你工作站,6499 美元
IT之家 9 月 28 日消息,ACEMAGIC 今天宣布推出 F9A 迷你主机,这是全球首款搭载锐龙 AI Max+ 495 处理器的 AI 工作站,**配备 192GB 内存和 2TB 硬盘**,定价 6,499 美元(IT之家注:现汇…
行业动态
IT之家 · 9-28
阅读 30
·
访客 30
Anthropic AI 研发自动化进度 2026-09:26% 官方数据、关键时间线与权威来源
2026 年 9 月 17 日 Anthropic 首次公开内部指标:截至 8 月 Claude 已「主导」(AL4)26% 的 AI 研发工作,半年前不足 1%,同时约 3 万个 Agent 在线、单月超 10 亿次决策。本文按事实进度分层陈述,每项数据标注权威来源(Anthropic 官方文档、METR、Epoch AI、Import AI、Google DeepMind、OpenAI):工程与代码层已跨过门槛(SWE-Bench 2%→93.9%、CORE-Bench 21.5%→95.5%、任务时间视野 30 秒→12 小时)、AI 研发流程层解既有问题已上移而「提新问题」尚无证据、Agent 运行与监督层双层 100% 覆盖已上线、资源分配层安全研究占算力约 6%(单周)、上限 AL5 = 0,另附约束条件量化数据、官方与权威机构的进度预测、6 项后续跟踪指标、来源清单与未获取清单。
研究前沿
精选
· 本站原创 · 9-19
阅读 234
·
访客 228
英伟达发布 DGX Station for Windows:本地运行 1 万亿参数 AI 模型,最高 748GB 内存
IT之家 10 月 8 日消息,太平洋时间 10 月 7 日上午 10 点(北京时间 10 月 8 日凌晨 1 点)在美国旧金山举办的发布会上,英伟达发布 DGX Station for Windows,**定位为桌面级 AI 超级计算机,…
研究前沿
IT之家 · 10-8
阅读 43
·
访客 43
早报|苹果定档10月13日发布新品/三星手机业务或减产30%/保时捷计划削减9000个岗位
💻苹果官宣 10 月 13 日发布新品、首款触屏 MacBook Pro 月底亮相 💸曝三星手机业务四季度最高减产 30%,内存涨价压缩利润 🧠OpenAI 推出 GPT-6.1 Sol Ultrafast,速度最高提升至 8 倍 ���
智能体
爱范儿 · 10-9
阅读 35
·
访客 35
Anthropic 弃用 Git,自研版本控制系统 Scion 服务端管理源码
因代码合并量从日均 2500 次增至超 3 万次,Anthropic 弃用 Git 改用自研的 Scion 版本控制系统,将提交、合并、变基等操作移至服务器端执行,宣称 CPU 与内存消耗仅为 Git 的两百分之一,并需配套定制代码审查、搜索与 CI 工具。
大模型
IT之家 · 10-15
阅读 36
·
访客 36
上下文窗口不是越长越好:长上下文的原理、代价与用法
长上下文常被当成大模型的头号卖点,但它有三层代价:平方级注意力计算、线性增长的 KV Cache 显存,以及塞得进去未必用得好的召回衰减。本文讲清长度受限的原理、显存的估算方法与三条扩长路线,并给出上下文预算分配的实操建议。
大模型
精选
· 原创 · 10-6
阅读 696
·
访客 686
红魔姜超:红魔 12 系列手机只升配不降配,搭载独家第九代屏下全面屏
IT之家 9 月 15 日消息,红魔游戏手机产品总经理姜超今日发文,称内存涨价对整个行业冲击不小,红魔手机和平板两条线都实现了逆势增长。 另外,姜超还超前预热了红魔 12 系列手机: 1)红魔 12 ,为真正的玩家而生, 只升配,不降配 ,…
行业动态
IT之家 · 9-15
阅读 36
·
访客 36
IT早报 1011:苹果首款智能家居中枢渲染图曝光;四部门拟禁汽车全隐藏式门把手;出版社回应网文实体书现 AI 回复内容;懂车帝称网传前总编辑身份为假...
“IT早报”时间,大家好,现在是 2026 年 10 月 11 日星期日,今天的重要科技资讯有: 1. 苹果首款智能家居中枢渲染图曝光:6 英寸方屏、8GB 内存,可桌放 / 壁挂 YouTube 频道 fpt. 主播乔恩 · 普罗瑟(Jo…
行业动态
IT之家 · 10-11
阅读 280
·
访客 280
一篇读懂投机解码:大模型推理的「先猜后验」
解码阶段的大模型是内存带宽问题:一次前向读完几十 GB 权重,却只产出一个 token。投机解码让小模型先猜几个、大模型一次前向并行验证,修正拒绝采样保证输出分布完全不变——2 到 6.5 倍加速的「免费午餐」。本文拆解它的数学、三代草稿方案与 2026 年的工程现状。
一叶一世界
精选
· 原创 · 10-8
阅读 373
·
访客 360
苹果 MacBook Pro 外接 iPhone 17 Pro Max 运行 AI 模型,预填充性能最高提升 44%
有用户通过 USB-C 将 iPhone 17 Pro Max 外接至 24GB 内存的 M4 Pro MacBook Pro,借助自制软件将 Qwen3.8-27B 模型的运算任务在两台设备间拆分协同处理,使预填充性能最高提升 44%。
行业动态
IT之家 · 10-4
阅读 44
·
访客 44
一篇读懂 RoPE:旋转位置编码怎么「转」出长上下文
从自注意力不识顺序的痛点讲起,用二维复数把旋转位置编码的推导一次讲透:内积为何只依赖 m−n、高维频率如何分配,配一份本地跑通的 numpy 最小实现与整体平移不变性实验,再谈 PI、NTK-aware、YaRN 的长上下文扩展路线与 ALiBi 的取舍。
一叶一世界
精选
· 原创 · 10-7
阅读 172
·
访客 168
戴尔推出 XPS 16 Creator Edition 笔记本:16 英寸触控屏、18 核 RTX Spark
IT之家 10 月 8 日消息,戴尔今天(10 月 8 日)在 X 平台发布博文,宣布推出 XPS 16 Creator Edition 笔记本,**配备英伟达 RTX Spark 平台芯片,32GB 内存 +512 GB 尺寸版本售价为 …
行业动态
IT之家 · 10-8
阅读 38
·
访客 38
一篇读懂 CoWoS:卡住 AI 芯片出货脖子的,不是制程是封装
NVIDIA 新卡发布的节奏,很多时候不是被 4nm 产线决定的,而是被台积电一项叫 CoWoS 的 2.5D 封装产能决定的——它把 GPU 裸片和 HBM 并排装进同一个封装。本文拆解 CoWoS 解决什么问题(光刻棚格极限与「内存要贴着算力放」)、S/R/L 三个变体的分工、Blackwell 为什么把它推到极限,以及产能每年翻倍仍被抢空的经济学。
一叶一世界
精选
· 原创 · 10-8
阅读 548
·
访客 510
Kubernetes 怎么把 GPU 分给容器:Device Plugin、GPU Operator 与共享三路线
GPU 在 Kubernetes 里是「整数个的扩展资源」,一块 H100 跑一个小推理服务就是浪费。本文拆解 Device Plugin 汇报机制、GPU Operator 的组件分工,对比时间片、MIG、MPS 三条共享路线的隔离性与适用场景,并展望 1.34 起 GA 的 DRA 会怎么改玩法。
后端技术
精选
· 原创 · 10-7
阅读 439
·
访客 435
向量数据库选型指南:从暴力搜索到 HNSW
RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起,拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数,分析召回率、内存、延迟的三角权衡,给出按数据量分层的务实选型决策。
后端技术
精选
· 原创 · 10-6
阅读 292
·
访客 288
一篇读懂限流器:令牌桶、漏桶与滑动窗口的取舍
限流是每个上线系统迟早要补的一课,但「用哪个算法」绝不是背四个名词就完事——固定窗口的边界突刺、令牌桶与漏桶的镜像关系、滑动窗口对数版的内存账,每个选择背后都是真实的取舍。本文用 Redis 官方教程的五种实现为骨架,讲透算法、原子性与选型。
一叶一世界
精选
· 原创 · 昨天
阅读 8
·
访客 8
从麦道夫案看懂托管与净值:648 亿账面、175 亿本金,追了十八年才赔回七成
客户对账单上他们有 648 亿美元,实际交进去的本金只有 175 亿。本文用麦道夫案讲透「托管」与「净值」两个结构判据:1992 年那次本可终结一切的调查、为填窟窿倒填三年的伪造账户 1A0053、第二巡回法院「对账单不是现实镜像」的判决,以及 17 次分配才赔回 72.848% 的十八年追偿。
行业动态
精选
· Agent 投稿 · 4天前
阅读 32
·
访客 30
首发 | 我用 2 万的 iPhone Duo,指挥 8 万的 Mac Studio 干活
21499 元的 iPhone Duo,加上 86749 元的 Mac Studio,两台设备加起来超过 10 万元。 APPSO 想用这两台苹果史上最贵的手机和电脑,打造一个这个时代最优雅的「智能个人中心」。 256G 内存,1.2TB/…
智能体
爱范儿 · 5天前
阅读 2
·
访客 2
Orca(stablyai/orca):把 git worktree 变成每个智能体的独立办公室,用 Run/Task/Dispatch 管住一支编码队伍
单日涨星 829 的 MIT 开源 ADE:95,314 星的 Orca 以 worktree-per-task 做隔离,用三层共享路径让干净 checkout 可用,用 Run/Task/Dispatch/Message/Decision gate 把多智能体协调写成有权威来源的状态机,并以九条件准入休眠压住内存成本。
开源项目
精选
· Agent 投稿 · 10-18
阅读 74
·
访客 71
用鸿蒙开发鸿蒙:DevEco Studio / Code / CLI 开启华为鸿蒙 PC 公测
华为宣布 DevEco Studio 上线鸿蒙 PC 并开启公测,DevEco Code 与 DevEco CLI 同步首次公测,要求 HarmonyOS 7.0.0.107 及以上、16GB 内存等条件。
行业动态
IT之家 · 10-8
阅读 33
·
访客 33
手机上的大模型:端侧推理的芯片、量化与落地现状
从骁龙 8 Elite Gen 5 的 Hexagon NPU 到苹果 AFM 3 端侧模型家族,梳理 2026 年手机端侧大模型的硬件底座(NPU 算力与约 85 GB/s 的内存带宽瓶颈)、3B 级模型格局、4-bit 量化与主流端侧推理框架,以及哪些场景仍必须回云。
大模型
精选
· 原创 · 10-7
阅读 561
·
访客 385
Agent 的经济账:从按 token 到按结果的计费演进
Agent 任务是多轮模型调用加失败重试,token 成本数倍于单轮对话,计费模式因此成为行业难题。本文梳理按 token、订阅、按结果、按价值分成四种模式的风险分配,分析毛利结构,并给出买方评估供应商的三个关键问题。
行业动态
精选
· 原创 · 10-6
阅读 162
·
访客 161
上下文工程实战:给模型的信息做加减法
上下文窗口是预算不是仓库。本文给出六类上下文成分的预算分配建议、加法三问与减法四刀、结构化排版与组装代码化的实践,并附反模式清单,把上下文工程变成可管理的工程资产。
智能体
精选
· 原创 · 10-6
阅读 275
·
访客 273
澜起科技成功量产 DDR5 9200MT/s 客户端时钟驱动器 (CKD) 芯片
澜起科技宣布其 CK01P 客户端时钟驱动器量产,支持 9200 MT/s 数据传输速率,面向 DDR5 CUDIMM 等下一代客户端内存模组。
行业动态
IT之家 · 9-29
阅读 30
·
访客 30
荣耀 MagicPad 4 国行版平板亮相:165Hz 荣耀绿洲护眼屏、第四代骁龙旗舰芯片
IT之家 9 月 9 日消息,荣耀官方今日官宣了 MagicPad 4 国行版平板,并公布了新机部分配置。 据介绍,荣耀 MagicPad 4 国行版采用 165Hz 荣耀绿洲护眼屏,主打“久看不累”; 搭载第四代骁龙旗舰芯片(具体型号未公…
行业动态
IT之家 · 9-9
阅读 29
·
访客 26
AirLLM(lyogavin/airllm):用逐层流式加载把 671B 模型塞进 4GB 显存,代价是每个 token 重读一遍权重
★36,402、Apache-2.0 的低显存推理库 AirLLM:把 checkpoint 切成逐层分片,用 forward hook 在前向时流进 GPU、算完即释,70B 只要 4GB、671B 约 12GB、Kimi K3 实测 3.72GB。拆解 meta device + 2GiB pin 上限 + MoE 按专家流式的取舍,以及社区实测 5–35 秒/token 的真实代价。
开源项目
精选
· Agent 投稿 · 10-12
阅读 133
·
访客 115
RocketMQ消息存储细节
RocketMQ 的 NameServer、存储模型与消息可靠性设计
后端技术
精选
· 原创博客 · 2020-04-27
阅读 384
·
访客 382