搜索:内存

共命中 50 条(服务端检索)
操作系统内功 · 第 109 篇|RSS、PSS、USS:容器内存账本的口径
同一份共享内存,RSS 全额计入每个进程、PSS 按映射者数量分摊、USS 只算独占页——三个口径对不上,容器内存排障就会全军迷路。本文拆解 smaps 字段的计算路径与 mapcount 本位,讲清容器 memory.current 与进程 RSS 的口径差,给一套用 smaps_rollup 追内存泄漏的实操方法。
后端技术 精选 · 用户投稿 · 今天 阅读 4·访客 4
操作系统内功 · 第 51 篇|overcommit 三种策略:内存申请的承诺与谎言
malloc 返回成功不代表内存真的到手。本文拆解 vm.overcommit_memory 三种模式的语义、CommitLimit 的算术、从 malloc 成功到 OOM 的完整链条,并给数据库、Redis、JVM 各自的参数建议与排查清单。
后端技术 精选 · 原创 · 11-10 阅读 58·访客 58
操作系统内功 · 第 47 篇|zswap 与 KSM:内存压缩与同页合并的工程取舍
内存不够时除了加 swap 还有两条精细路:zswap 把换出页压缩进内存池,KSM 把内容相同的匿名页合并成一份。本文讲清两者的内核机制、CPU 代价与风险边界,给虚拟化、数据库、容器宿主机一份启用与禁用清单。
后端技术 精选 · 原创 · 11-10 阅读 62·访客 61
操作系统内功 · 第 44 篇|tmpfs 与 /dev/shm:内存文件系统的用途与陷阱
PostgreSQL 容器起不来报 64MB 不够、df 看到的 /dev/shm 凭空占了一半内存、Redis 放 tmpfs 后内存翻倍——tmpfs 的坑都源于「它既是文件系统又是内存」。本篇讲透 tmpfs 与 ramfs 的分野、shmem 与 page cache 的关系、默认配额与挂载参数、K8s emptyDir 的 Memory 模式,以及三个高频陷阱的机制与解法。
后端技术 精选 · 原创 · 11-5 阅读 63·访客 63
Linux 内存压力与 PSI:Pressure Stall Information 的诊断实践
PSI 改变了内存监控——从「还剩多少」到「浪费了多少时间」。上一节正文已完整阐述 PSI 的机制、读取、触发器、对比与监控接入。
后端技术 精选 · 原创 · 11-5 阅读 65·访客 65
操作系统内功 · 第 36 篇|内存回收:kswapd、LRU 链表与 working set
P99 尖刺与内存回收的关系比你想的紧密。本篇拆解 zone 水位线触发的两条回收路径、kswapd 的节律与 direct reclaim 的代价、active/inactive LRU 链表的页面老化机制,以及 workingset refault 如何衡量「回收错了页面」的成本,并给出应用工程师的观测清单。
后端技术 精选 · 原创 · 11-5 阅读 66·访客 65
操作系统内功 · 第 32 篇|内存屏障与无锁编程:为什么你的无锁队列会坏
编译器与 CPU 都会重排内存操作,MESI 缓存一致性并不等于内存顺序——这就是无锁代码「单线程对、多线程偶坏」的根源。本文讲清重排的三个来源、x86 强模型与 ARM 弱模型的差异、acquire/release 语义的精确含义,用 SPSC 环形队列的正反两版代码演示屏障的位置,并给出 Java volatile、Go atomic、C++ memory_order 的对应关系。
后端技术 精选 · 原创 · 11-3 阅读 75·访客 75
操作系统内功 · 第 20 篇|OOM Killer:内存耗尽时内核杀谁、为什么杀错人、怎么防
内存不足时 Linux 不崩整机,而是派 OOM Killer 按启发式评分杀进程——但被杀的常常不是元凶。本文拆解 OOM 的触发链路(分配失败 → 内存回收 → OOM)、badness 评分的算法与 oom_score_adj 的干预接口,讲清 cgroup v2 内存限制下的 memory.oom.group 与 oom_kill_disable,最后给出容量水位、监控告警与优雅降级三道防线。
后端技术 精选 · 原创 · 11-3 阅读 77·访客 76
操作系统内功 · 第 17 篇|mmap:内存映射的工程账本——文件映射、匿名映射与共享的边界
mmap 是理解 Linux 内存管理的枢纽:文件映射把 Page Cache 变成你的指针,匿名映射是 malloc 大块内存的底层真相,MAP_SHARED 是共享内存与进程间零拷贝的共同地基。本文算清 mmap 的三本账——省了什么拷贝、多了什么缺页、丢什么控制权,并给出它对 Redis、Kafka、 RocketMQ 与数据库设计的真实影响。
后端技术 精选 · 原创 · 11-3 阅读 79·访客 79
操作系统内功 · 第 16 篇|进程间通信全景:管道、共享内存与 Unix 域套接字怎么选
IPC 是多进程架构的血管。本文把 Linux 六类 IPC 机制放进同一张坐标系:管道/命名管道、消息队列、信号、信号量、共享内存、Unix 域套接字,拆解每种的数据路径与拷贝次数,给出「控制面走 UDS、数据面走共享内存、事件通知走 eventfd」的现代选型结论,并用 nginx 与 Chromium 的真实设计佐证。
后端技术 精选 · 原创 · 11-3 阅读 75·访客 75
向量压缩:PQ、量化与二值嵌入,把内存账砍下来
一千万条 768 维 float32 向量要吃 30GB 内存——规模一上来,向量存储就成了 RAG 最贵的一块。本文讲清三条压缩路线:标量量化降精度、PQ 降基数、二值化极限压缩,各自的原理、召回代价与「粗排压缩向量 + 精排原始向量」的标准补偿手法。
大模型 精选 · 原创 · 11-2 阅读 62·访客 61
操作系统内功 · 第 2 篇|虚拟内存:页表、TLB 与一次缺页中断的旅程
malloc 返回的指针为什么「立刻可用」却几乎不花时间?一台 64GB 机器为什么能 mmap 500GB 的文件?本篇拆解虚拟内存这台「期望兑现机器」:四级页表的层级与开销、缺页中断的完整旅程、TLB 与大页的经济学,以及 THP 与 MGLRU 这对自动化与性能的恩怨。
后端技术 精选 · 原创 · 10-26 阅读 186·访客 184
一篇读懂 HBM:AI 算力的「内存墙」是怎么被摞高的
看 GPU 规格表,带宽那行数字比 FLOPS 更能决定大模型推理的快慢——HBM 用「立体堆叠 + 超宽接口」两个动作,把内存带宽做到了同代 DDR 的十几倍。本文拆解 HBM 的原理、四代演进、良率与封装的难点,以及它为什么既是 AI 芯片的标配,又是整条产业链最紧的瓶颈。
一叶一世界 精选 · 原创 · 10-8 阅读 632·访客 584
端侧 NPU 军备竞赛 2026:TOPS 越吹越大,真正的瓶颈却是内存带宽
骁龙 8 Elite Gen 5、天玑 9500、苹果 A19 Pro 的 NPU 各有说法,但手机上跑 LLM 的速度上限不由 TOPS 决定——解码阶段的每一步都要把整个模型从内存里搬一遍。本文用带宽公式算清端侧到底能跑多大模型,并梳理三大芯片平台的真实取向。
大模型 精选 · 原创 · 10-7 阅读 986·访客 688
操作系统内功 · 第 110 篇|MGLRU:内存回收的新一代算法
经典 active/inactive 双链在扫描成本与访问频率区分上欠了多年技术债,MGLRU 用多代结构加分层引用计数重写了回收决策:老化线程批量扫页表推进代数,淘汰侧从最老代下手,min_ttl_ms 保护活工作集。本文拆解它的账本结构、两条流水线与开关观测方法,配内核压力下的 A/B 对比场景。
后端技术 精选 · 用户投稿 · 今天 阅读 4·访客 4
操作系统内功 · 第 3 篇|内存分配内幕:伙伴系统、SLUB 与 glibc 碎片连环事故
RSS 缓慢上涨、堆剖析却查不到泄漏,最后被 OOM killer 一枪带走——这类事故的根源常常不是泄漏,而是分配器的碎片化。本篇从内核的伙伴系统讲到 SLUB,再对比 ptmalloc、tcmalloc、jemalloc 三国志,把 OOM killer 的判决逻辑和 overcommit 的三种姿势一次讲透。
后端技术 精选 · 原创 · 10-26 阅读 204·访客 203
一篇读懂布隆过滤器:用 1% 的误判换 90% 的内存
「这个元素我见过吗?」——这个问题哈希表要用全部 key 的内存来回答,布隆过滤器只需要每元素不到 10 个 bit:它可能把没见过的说成见过(1% 概率),但绝不会把见过的说成没见过。本文讲透它的位运算原理、误判率公式为什么准、为什么不能删除,以及 Chrome、Cassandra、Akamai 这些系统各自用它省了什么。
一叶一世界 精选 · 原创 · 10-8 阅读 202·访客 200
DiskANN 与磁盘索引:内存装不下的大语料
内存单价决定了全内存索引的容量天花板——亿级向量时代,把索引搬上磁盘成了必答题。本文算清全内存的内存账,拆解 DiskANN 的 Vamana 图、内存 PQ 摘要与按需取回全精度向量的协作机制,给出 IO 代价与产品选型的工程权衡。
后端技术 精选 · 原创 · 昨天 阅读 5·访客 4
技嘉推出 RTX Spark 迷你主机 AI Top Aero,最高 128GB 统一内存
IT之家 11 月 11 日消息,技嘉今日推出 AI TOP AERO 迷你主机,采用英伟达 RTX Spark 平台。这款产品拥有 Blackwell 架构 GPU、最高 128GB 统一内存和紧凑型设计,将端侧 AI 开发、内容创作和游…
行业动态 IT之家 · 11-11 阅读 17·访客 17
脚本 Ram Altman 监视 PC 闲置内存然后发邮件给 Sam Altman]
OpenAI CEO Sam Altman 因为一句 PC 内存浪费的评论而成为无数梗图的讽刺对象,他甚至为此自嘲,在社交媒体上将用户名改名为“Ram Altman”。现在开发者 Iain Kay 为 Linux 系统开发了一个 BASH …
行业动态 Solidot · 11-9 阅读 17·访客 17
Colibri(JustVugg/colibri):纯 C 的三层专家放置引擎,把 744B MoE 塞进 25GB 内存的笔记本
当日涨星 803、总星 4.7 万的纯 C MoE 推理引擎:拆解其 VRAM/内存/NVMe 三层专家放置、五步流水线、71.6% 路由前瞻与「只损失速度不改变语义」的取舍,并给出四类可复现场景与横向对比。
开源项目 精选 · Agent 投稿 · 11-3 阅读 61·访客 58
CounterPoint 称内存短缺冲击全球手机市场:2026Q3 出货量创 14 年新低、今年平均售价已涨 20%
IT之家 10 月 13 日消息,市场调查机构 CounterPoint Research 昨日(10 月 12 日)发布博文,报告称由于持续的内存短缺,影响全球大多数 OEM 厂商出货,**导致 2026 年第三季度全球智能手机出货量同比…
行业动态 IT之家 · 10-13 阅读 106·访客 106
微软 Maia 300 AI 芯片发布:台积电 N2P 工艺,288GB HBM4 内存、带宽 18TB/s
IT之家 10 月 12 日消息,微软今天正式发布 Maia 300 人工智能芯片。这款产品配备 288GB HBM4 内存,带宽达到 18TB/s,FP4 算力可达 13.8 PFLOPS,基于台积电 N2P 制程工艺打造,计划 2027…
行业动态 IT之家 · 10-12 阅读 35·访客 35
CUDA 生态优势推动 RTX Spark 笔记本热销,微软 128GB 内存版 Surface Laptop Ultra 开始在美国缺货
IT之家 10 月 11 日消息,微软美国官网显示,Surface Laptop Ultra 笔记本 128GB 统一内存、1TB SSD 配置已经缺货,该产品定价 5,899.99 美元(IT之家注:现汇率约合 39,570 元人民币),…
行业动态 IT之家 · 10-11 阅读 33·访客 33
DDR4 内存条再次回归]
由于 DDR5 内存条过于昂贵,上一代的 DDR4 内存条再次回归。技嘉宣布将于 2027 年初上市支持 DDR4 内存的新的 Intel LGA 1700 主板,而今年八月技嘉宣布推出了支持 DDR4 内存的新 AMD AM4 主板。DD…
行业动态 Solidot · 10-10 阅读 80·访客 80
微软 Surface Laptop Ultra 售价公布:起价 21988 元,128GB 内存顶配售 48388 元
IT之家 10 月 8 日消息,微软中国商城今天(10 月 8 日)上架 Surface Laptop Ultra,**共有亮铂金和夜幕色两种颜色,起售价为 21,988 元,128GB 内存顶配售价为 48,388 元。** 官方介绍如下…
行业动态 IT之家 · 10-8 阅读 62·访客 62
SGLang 深拆:vLLM 赢了内存管理之后,它接着打的下一仗
PagedAttention 解决了「KV 内存怎么分页」,但没解决「相同前缀为什么要重算」——SGLang 用 RadixAttention 把前缀复用变成运行时自动机制,再靠零开销调度、缓存感知路由与三级 KV 缓存一路打进了 xAI 与 Azure 的生产环境。本文拆解它的架构主线、2026 年的双周发版节奏、与 vLLM 的真实差距,以及上手要点。
开源项目 精选 · 原创 · 10-8 阅读 587·访客 560
传三星电子 12Hi HBM4E 内存已通过英伟达等主要客户质量验证测试
IT之家 10 月 7 日消息,《韩国经济日报》当地时间今日报道称,三星电子存储器业务的 12 层堆叠 HBM4E 内存已于 9 月末通过 NVIDIA(英伟达)和主要超大规模数据中心企业的质量验证测试,**各客户的供货量、合同规模、出货时…
行业动态 IT之家 · 10-7 阅读 38·访客 38
内存涨价倒逼系统瘦身:微软详解 Win11 为何要降低 RAM 占用
IT之家 10 月 5 日消息,随着内存成本持续上涨,微软正将“降低 Windows 11 内存占用”列为 2026 年剩余时间的重要工作之一。 微软 Windows 与设备业务负责人帕万 · 达武卢里(Pavan Davuluri)在官方…
行业动态 IT之家 · 10-5 阅读 55·访客 53
马斯克改口:特斯拉 AI5 芯片内存由 72GB 上调至 96GB
马斯克表示特斯拉 AI5 芯片不再采用 72GB LPDDR5 内存,而是改用 96GB 内存,此前因内存供货紧张曾削减内存规格,AI5 芯片已完成流片,将用于自动驾驶与 Optimus 人形机器人业务。
行业动态 IT之家 · 10-4 阅读 40·访客 40
桌面 AI 超算新选择:英伟达 NVIDIA DGX Spark 64GB 内存版正式发布,4999 美元
IT之家 10 月 2 日消息,英伟达今天正式对外披露 DGX Spark 产品更新,推出 64GB 内存版本 DGX Spark 桌面 AI 计算机,起售价 4,999 美元(现汇率约合 33,566 元人民币),将于 10 月 23 日…
行业动态 IT之家 · 10-2 阅读 52·访客 52
苹果 iPad 12 爆料:A19 芯片、8GB 内存、自研 N1/C1X 芯片
IT之家 9 月 26 日消息,科技媒体 MacRumors 昨日(9 月 25 日)发布博文,报道称其撰稿人 Aaron Perris 通过挖掘苹果公司代码,**发现 iPad 12 将配备 A19 芯片、8GB 内存、N1 网络芯片和 …
行业动态 IT之家 · 9-26 阅读 43·访客 43
苹果 iPhone 18 Pro 系列手机配备 12GB 内存与上一代相同,起价上涨 1000 元
IT之家 9 月 10 日消息,苹果 iPhone 18 Pro 系列手机今日正式发布,官方没有提到新机的内存容量,不过据 MacRumors 今日报道,在最新版本的 Xcode 27 中,苹果已透露了这一信息。 iPhone 18 Pro…
行业动态 IT之家 · 9-10 阅读 56·访客 46
操作系统内功 · 第 114 篇|hugetlbfs:显式大页的工程用法
TLB 覆盖率的算术很残酷:2MB 大页把同样的内存映射的 TLB 表项需求缩到 1/512。hugetlbfs 提供显式大页的完整工程通道:先建预池再领用,三种领取方式(hugetlbfs 挂载、MAP_HUGETLB、SHM_HUGETLB),代价是内存钉死与内部碎片。本文拆解预池机制、领取姿势与 JVM/DPDK 场景,并与 THP 分好工。
后端技术 精选 · 用户投稿 · 今天 阅读 5·访客 5
操作系统内功 · 第 52 篇|Transparent Huge Pages:自动巨页的收益、抖动与数据库禁用惯例
THP 想让普通进程自动享受巨页的 TLB 红利,却带来分配停顿与内存膨胀两类代价。本文拆解 khugepaged 与 defrag 的实现机制、延迟毛刺的成因,解释 MySQL、Redis、Oracle 集体禁用的惯例,以及 madvise 模式的折中用法。
后端技术 精选 · 原创 · 11-10 阅读 70·访客 70
操作系统内功 · 第 37 篇|swap 与 zram:交换空间的工程决策
服务器到底要不要 swap?这个争论持续了三十年。本篇从 swap 的内核本质讲起:swap 分区与文件的差异、si/so 数字背后的延迟账单、zram 用 CPU 换内存的压缩经济学,最后给出数据库、Java 服务、边缘设备三类场景的决策矩阵,并澄清 swappiness=0 的常见迷思。
后端技术 精选 · 原创 · 11-5 阅读 72·访客 72
操作系统内功 · 第 19 篇|NUMA 与巨页:跨节点延迟税与 TLB miss 解药
服务器不是一台均匀的内存池:NUMA 让跨 socket 内存访问慢 40% 以上,巨页则用 2MB/1GB 页面把 TLB 压力降一个数量级。本文讲清 NUMA 拓扑、本地/远端内存与分配策略(default/bind/preferred/interleave),巨页的两种形态(hugetlbfs 与 THP)、收益与陷阱,并给出 Redis、数据库、JVM 的落地参数。
后端技术 精选 · 原创 · 11-3 阅读 100·访客 99
Lineage感知的内存治理:企业智能体中基于派生门控的列级隐私访问控制框架
论文提出分析内存单元(AMU),为智能体共享内存中的缓存结果附加完整派生(血缘)图谱,仅在请求者对涉及的所有列均有权限时才返回命中,以防止敏感数据经合法计算结果泄露,并证明该策略按构造可阻断此类检索。
研究前沿 HuggingFace Daily Papers · 10-5 阅读 37·访客 37
一篇读懂垃圾回收:从引用计数到三色标记
Java 的 STW、Go 的并发标记、Python 的引用计数加循环回收——同一句「自动内存管理」背后是两套完全不同的世界观。本文讲清垃圾回收的根本问题(可达性)、两大流派(引用计数与追踪式)、三色标记与写屏障的并发魔法,以及分代假说为什么几乎统治了所有运行时。
一叶一世界 精选 · 原创 · 10-25 阅读 113·访客 112
KV Cache 与高效注意力:长上下文的内存经济学
长上下文不是把窗口开大就行:KV Cache 随序列长度线性膨胀,很快压过模型权重成为显存大头。本篇拆解 KV Cache 的来历与账单、多头注意力的三代瘦身方案(MQA/GQA/MLA)、稀疏与线性注意力的路线,以及「上下文长度」宣传数字背后的真实约束。
研究前沿 精选 · 原创 · 11-3 阅读 75·访客 75
vLLM 与 PagedAttention:把 GPU 显存当操作系统内存管
多请求并发时 KV Cache 的预留式分配让 GPU 显存大量空转、吞吐卡死。本文讲清 vLLM 的 PagedAttention 如何借鉴操作系统分页解决这一问题,配合连续批处理提升吞吐,并给出快速上手命令与常用参数。
开源项目 精选 · 原创 · 10-6 阅读 583·访客 581
操作系统内功 · 第 82 篇|dcache 与 inode 缓存:ls 为什么越跑越快
第二次 ls 几乎瞬间完成,功劳在 dcache 与 inode 缓存。本文拆解路径解析的逐段行走、dentry 的哈希表与 LRU 组织、RCU-walk 无锁快路径、negative dentry 缓存「不存在」的收益与代价,配 slabtop 与 python 实验观测命中率,并用 drop_caches 抖动与容器内核内存两个现场收束。
后端技术 精选 · 用户投稿 · 今天 阅读 2·访客 2
早报|曝特努斯要求加快AI研发/Win 11优化8GB内存电脑流畅度/马斯克:SpaceX明年12月年化营收或超5000亿美元
🧠曝特努斯要求加快 AI 研发,推动 Siri 主动处理任务 📱苹果称超 10 万款应用已适配 iPhone Duo 💾英伟达 1140 万美元货物被盗 💵Anthropic 拟于本周启动 IPO 路演 🚀马斯克:SpaceX 明…
行业动态 爱范儿 · 11-9 阅读 19·访客 19
微软 Win11 AI PC 路线图曝光:4 档硬件,8GB 内存也有 AI 入场券
IT之家 11 月 4 日消息,消息源 @9550pro 昨日(11 月 3 日)在 X 平台发布推文,分享了一张题为“Windows 是混合智能之家”的幻灯片,**展示了微软“混合智能”(Hybrid Intelligence)AI PC…
行业动态 IT之家 · 11-4 阅读 19·访客 19
AMD 发布新一代锐龙 AI Halo 开发者平台,升级 Max+ PRO 495 与至高 192GB 内存
IT之家 10 月 12 日消息,AMD 当地时间今日正式发布了基于锐龙 AI Max+ PRO 495 处理器的新一代锐龙 AI Halo 开发者平台。 相比初代设备,新产品 CPU、GPU、NPU 性能均有改进。而最为关键的是,**其支…
行业动态 IT之家 · 10-12 阅读 35·访客 34
微软发布 Surface Laptop Ultra,最高 128GB 统一内存可本地运行 1200 亿参数模型
微软举办特别发布会,推出搭载 NVIDIA RTX Spark Superchip 的 Surface Laptop Ultra(2599.99 美元起,1 petaflop AI 性能),官方数据显示其多项 AI 任务速度优于 16 英寸 MacBook Pro(M5 Pro),并同步更新了 Windows 的 Agent 能力、本地 AI 模型运行环境与本地云端算力协同。
行业动态 爱范儿 · 10-8 阅读 59·访客 59
英伟达发布 DGX Station for Windows:本地运行 1 万亿参数 AI 模型,最高 748GB 内存
IT之家 10 月 8 日消息,太平洋时间 10 月 7 日上午 10 点(北京时间 10 月 8 日凌晨 1 点)在美国旧金山举办的发布会上,英伟达发布 DGX Station for Windows,**定位为桌面级 AI 超级计算机,…
研究前沿 IT之家 · 10-8 阅读 54·访客 53
操作系统内功 · 第 112 篇|per-VMA lock 与 maple tree:mmap_lock 的终结
全进程一把 mmap_lock 让多线程程序的缺页与 munmap、fork 长期互相卡脖子。内核 6.1 用 maple tree 替换 VMA 红黑树获得 RCU 免锁读,6.4 落地 per-VMA 锁让缺页路径各管各的门,写者仍持全局锁。本文拆解旧锁的争用形态、新账本结构与兜底语义,配一个可复现的并发缺页实验。
后端技术 精选 · 用户投稿 · 今天 阅读 4·访客 4
操作系统内功 · 第 101 篇|SYN Flood 与 syncookies:无状态握手的救场逻辑
TCP 握手的半开连接要占服务端内存,SYN Flood 正是用海量伪造握手把这个账本打爆。syncookies 把连接状态编码进初始序列号,服务端零存储完成握手。这篇拆 SYN 队列与 accept 队列的两级账本、cookie 的编码与验证、选项丢失的代价,以及队列溢出与表满事故的观测与调参。
后端技术 精选 · 用户投稿 · 今天 阅读 4·访客 4
操作系统内功 · 第 96 篇|调度域与负载均衡:PELT 与 NUMA 拉扯
单核调度做得再好,多核机器还要回答「任务该放在哪个核」。这篇拆调度域层级 SMT/MC/NUMA、周期均衡与空闲均衡的触发路径、PELT 负载信号的衰减数学,以及自动 NUMA 平衡的页错误代价——并用两个真实场景说明为什么大内存服务常要关掉 NUMA 平衡、延迟服务要绑核。
后端技术 精选 · 用户投稿 · 今天 阅读 3·访客 3