搜索:网卡

共命中 50 条(服务端检索)
操作系统内功 · 第 71 篇|中断亲和性与网卡多队列
高包率场景下单个软中断核 100% 而 CPU 总体空闲,根源通常是网卡队列与中断分发不当。本文拆解 RSS 多队列与哈希分流、smp_affinity 掩码、irqbalance 的取舍、XPS 与 RPS 软件分发,并给出 8 核虚机调优实录与完整避坑清单。
后端技术 精选 · 用户投稿 · 今天 阅读 4·访客 4
操作系统内功 · 第 14 篇|一次网络收包的内核之旅:从网卡 DMA 到 epoll 返回
P99 飙升、CPU 总量不高、却有一个核的软中断逼近 100%——问题几乎总出在收包路径。本文沿「网卡 DMA → 硬中断 → NAPI 轮询 → 软中断预算 → GRO → 协议栈 → socket 队列 → epoll 唤醒」的完整数据通路走一遍,讲清每一站的成本、丢包计数器与调优参数,最后给出可照抄的排查清单与分层定位表。
后端技术 精选 · 原创 · 11-2 阅读 121·访客 117
操作系统内功 · 第 100 篇|XDP 与 AF_XDP:驱动层的极速包处理
网络包一进网卡队列就先过 XDP 这个可编程关卡:没分配 skb、没进协议栈,eBPF 程序就能决定放行、丢弃、弹回或转发,单核可处理千万级包每秒。这篇拆四个动作与三种挂载模式、AF_XDP 零拷贝收包的环形队列,对比 DPDK 的取舍,并给出 DDoS 前置清洗与用户态网关两个现场。
后端技术 精选 · 用户投稿 · 今天 阅读 3·访客 3
操作系统内功 · 第 41 篇|Netlink 套接字:内核与用户态的专用通信通道
ip 命令怎么知道网卡的实时状态?容器运行时如何感知网络事件?答案都是 netlink。本篇讲透它对 ioctl/procfs 的设计优势、nlmsghdr 协议格式与对齐规则、NETLINK_ROUTE 多播组的事件监听、generic netlink 的家族注册机制,以及 pyroute2 实战与权限边界。
后端技术 精选 · 原创 · 11-5 阅读 71·访客 70
操作系统内功 · 第 73 篇|IOMMU 与 DMA 重映射
设备 DMA 直访物理内存不受任何约束,一块故障网卡就能写穿内核。本文拆解 IOMMU 的 IOVA 翻译与权限检查、DMA API 与 SWIOTLB 蹦床、VFIO 直通虚拟化,并给出性能代价的实测口径、iommu=pt 的取舍与一套避坑手册。
后端技术 精选 · 用户投稿 · 今天 阅读 4·访客 4
操作系统内功 · 第 55 篇|设备模型与 udev:从总线、驱动到 /dev 节点的生成
插入 U 盘,/dev/sdb 凭什么出现?本篇拆解 Linux 设备模型与 udev 全链路:kobject 与 sysfs 的拓扑骨架、总线-设备-驱动的匹配机制、uevent 到 udevd 的事件流,以及网卡固定名与容器 /dev 裁剪的工程答案。
后端技术 精选 · 原创 · 11-10 阅读 67·访客 67
操作系统内功 · 第 6 篇|零拷贝:sendfile 与 Kafka 高吞吐的底层密码
同样是发文件,普通路径要 4 次拷贝 2 次系统调用,Kafka 却能在一台普通机器上把消费速率顶到网卡极限——差距就在零拷贝。本篇算清 read+write 的完整拷贝账单,讲透 sendfile 与 SG-DMA 的两档进化、splice 与 mmap 的取舍,以及 nginx 与 TLS 时代的现实约束。
后端技术 精选 · 原创 · 10-26 阅读 145·访客 144
一篇读懂 AI 集群网络拓扑:Fat-Tree 与 Rail-optimized
千卡集群的网络怎么设计?Fat-Tree 用带宽换无阻塞,Rail-optimized 让「同序号 GPU 一跳直达」。本篇拆解两种拓扑的设计逻辑、NCCL 如何利用拓扑、以及「为什么 AI 集群的网络设计是一门专门学问」。
大模型 精选 · 原创 · 11-4 阅读 38·访客 38
数据中心网络与光模块:AI 集群的带宽账
大模型训练把数据中心流量翻成东西向,网络变成第一等约束:Fat-Tree 与 Rail 优化重构拓扑,光模块从 400G 冲向 1.6T,中国厂商吃下全球大半份额,CPO 在远处排队。本篇算清 AI 集群的带宽账与光模块产业的真实格局。
行业动态 精选 · 原创 · 11-10 阅读 45·访客 45
操作系统内功 · 第 27 篇|sk_buff:一个包在内核网络栈里的旅行成本
sk_buff 是内核网络栈的通用货币:一个结构体串起从驱动到协议栈到 socket 的全部路径。本文拆解它的线性数据区与缓冲区头尾指针设计、clone 与 copy 的区别、各层协议头如何被依次剥掉,并算清一次收发的真实成本账(内存分配、拷贝次数、缓存行),解释 GRO/TSO 为什么靠「攒大包」来摊薄这份成本。
后端技术 精选 · 原创 · 11-3 阅读 79·访客 79
操作系统内功 · 第 29 篇|容器网络:veth、bridge 与跨主机 Overlay 的完整拓扑
容器网络的每一跳都发生在内核里:veth 把 namespace 连成网线,bridge 当交换机,iptables 做 NAT,跨主机再叠一层隧道或路由。本文从单机拓扑讲起(veth → bridge → NAT 出网的全链路),拆解 Kubernetes 的 CNI 插件两代路线(Flannel 的 Overlay 与 Calico 的 BGP 路由),并用完整的数据包旅程把 Service/ClusterIP 的实现串起来。
后端技术 精选 · 原创 · 11-3 阅读 80·访客 80
一篇读懂 RDMA:为什么 AI 集群的网络要「绕过」操作系统
GPU 很贵,但让 GPU 排队等网络的往往是操作系统——数据包要过内核协议栈、要在内存里来回拷贝。RDMA 用「内核旁路 + 零拷贝」把这条路打通成内存对内存的直通车,把延迟压到微秒级。本文讲透 RDMA 的三大机制、三条传输路线,以及为什么它成了 AI 集群的标配。
后端技术 精选 · 原创 · 10-25 阅读 112·访客 109
一篇读懂 RDMA 与 GPUDirect:AI 集群通信为什么值钱
千卡训练的每一秒,GPU 之间都在交换海量数据——传统 TCP 网络撑不住,RDMA 与 GPUDirect 让数据「绕过 CPU 直接进出显存」。本篇拆解 AI 集群通信的分层(NVLink→RDMA→TCP)、GPUDirect RDMA 的零拷贝机制、以及网络性能对训练吞吐的决定性影响。
大模型 精选 · 原创 · 11-4 阅读 47·访客 47
操作系统内功 · 第 72 篇|NMI watchdog:CPU 卡死是怎么被抓出来的
CPU 关中断死循环时任何普通中断都进不来,只有 NMI 能穿透。本文拆解 soft lockup 与 hard lockup 两种卡死的判定通道、hrtimer 喂狗与 perf NMI 双层设计、抓到后的打印与 panic 链路,并给出 soft lockup 排障实录与虚拟化环境调参。
后端技术 精选 · 用户投稿 · 今天 阅读 4·访客 4
小团队的自建 GPU 服务器:从选件到上架
在租卡与云之间,自建 GPU 服务器是小团队的第三条路;本文给出从选件、组装验机到上架接网的完整流程,算清噪音、电费与运维的隐性成本,并划出自建与托管的能力边界。
行业动态 精选 · 原创 · 11-11 阅读 51·访客 51
操作系统内功 · 第 46 篇|splice 与管道零拷贝:sendfile 之外的第三条路
sendfile 只能文件到套接字,splice 把内核管道升级成通用零拷贝中转站:文件、套接字、内存三方互拷,还能 tee 分流。本文讲清页引用移动与数据复制的边界,以及代理、网关、消费服务的选型逻辑。
后端技术 精选 · 原创 · 11-10 阅读 58·访客 57
操作系统内功 · 第 26 篇|软中断与 ksoftirqd:网络下半部打满一个 CPU 的真相与治理
「si 列占满一个核」是高流量机器最经典的现象。本文从硬中断为什么要拆两半讲起,拆解 softirq 的机制(who触发、在哪跑、budget 限制)、NET_RX 的 NAPI 轮询路径、RSS/RPS 多队列分流,以及 RSS 单队列瓶颈与 irqbalance 的取舍,最后给出 si 异常的完整诊断流程。
后端技术 精选 · 原创 · 11-3 阅读 99·访客 98
操作系统内功 · 第 112 篇|per-VMA lock 与 maple tree:mmap_lock 的终结
全进程一把 mmap_lock 让多线程程序的缺页与 munmap、fork 长期互相卡脖子。内核 6.1 用 maple tree 替换 VMA 红黑树获得 RCU 免锁读,6.4 落地 per-VMA 锁让缺页路径各管各的门,写者仍持全局锁。本文拆解旧锁的争用形态、新账本结构与兜底语义,配一个可复现的并发缺页实验。
后端技术 精选 · 用户投稿 · 今天 阅读 4·访客 4
操作系统内功 · 第 61 篇|epoll 实现内幕:红黑树、就绪队列与 LT/ET 语义的内核真相
epoll 为什么快、LT 与 ET 差在哪一行?本篇进内核看 eventpoll 的红黑树与就绪链表、epoll_ctl 的回调注册路径、边沿触发必须读空缓冲的实现根源,以及惊群避免与 max_user_watches 限额。
后端技术 精选 · 原创 · 11-10 阅读 79·访客 78
操作系统内功 · 第 42 篇|Socket 选项:SO_REUSEADDR、TCP_NODELAY 与陷阱清单
bind: Address already in use、40ms 的请求延迟、断线 75 分钟才被发现——这三个经典故障分别对应 SO_REUSEADDR、TCP_NODELAY、SO_KEEPALIVE 三个 socket 选项。本篇从内核语义逐个拆解:REUSEADDR 到底放行了什么、Nagle 与延迟确认的 40ms 之约、keepalive 默认 7200 秒的空洞,以及缓冲区选项与自动调优的互斥陷阱。
后端技术 精选 · 原创 · 11-5 阅读 67·访客 64
一篇读懂超时体系:连接、读写、事务的超时金字塔
超时是稳定性工程中最容易被忽视的配置——连接超时、读超时、写超时、事务超时、网关超时……每一层都有自己的超时,它们的组合关系构成一个「金字塔」。超时配错的表现:莫名重试、连接堆积、级联故障。这篇把超时体系一次讲透。
后端技术 精选 · 原创 · 11-5 阅读 51·访客 50
技嘉上线工作站主板 WRX90 AI TOP:7 条 PCIe + 2 个 MCIO,集成 BMC
IT之家 10 月 25 日消息,技嘉 (GIGABYTE) 近日正式在官网上线了 WRX90 AI TOP 工作站主板。这一型号搭载 Socket sTR5 插槽,采用 E-ATX 板型,基于 14 层超低损耗 PCB,**拥有 32+3…
行业动态 IT之家 · 10-25 阅读 24·访客 24
OpenShell(NVIDIA/OpenShell):内核围栏加形式化证明,给自主 AI Agent 舰队一个安全运行时
NVIDIA 开源的 Agent 安全运行时 OpenShell 单日涨星 1200+:Landlock 与 seccomp 在内核层管住文件与网络,真实凭据永不下发沙箱,Z3 求解器在毫秒内证明策略变更不越界。本文拆解其控制面与数据面架构、策略提案闭环与落地场景。
开源项目 精选 · 用户投稿 · 10-24 阅读 136·访客 133
Epoll原理
IO 多路复用演进:select/poll 到 epoll 的事件驱动模型
后端技术 精选 · 原创博客 · 2020-04-22 阅读 345·访客 344
零拷贝
从 sendfile 到 mmap:零拷贝如何减少上下文切换
后端技术 精选 · 原创博客 · 2020-04-21 阅读 621·访客 620
网友 AI 开发工具:让笔记本 RTX 5090 显卡冲上 250W,最高功耗增幅 42.9%
IT之家 9 月 17 日消息,网友 u/Ecstatic_Hamster2208 昨日(9 月 16 日)在 Reddit 社区发帖,分享了 1.8.0 版 NvpwrControl 工具, 可以将笔记本 RTX 5090 最高调校到 2…
研究前沿 IT之家 · 9-17 阅读 46·访客 46
网络霸凌的安全网:从「告诉大人」开始
网络霸凌跟着孩子回家,二十四小时不下班,而孩子告诉大人的意愿随年龄不升反降。这篇拆解它与传统霸凌的四点不同、孩子沉默的三个原因,给出关系网、技能网、规则网三层防护的搭建清单与发现之后的处理五步,先接住孩子再谈手机。
一叶一世界 精选 · 用户投稿 · 今天 阅读 0·访客 0
卡内基梅隆免费公开计算机科学课程]
至顶科技: 至顶网 科技行者 Solidot 登录 注册 文章 往日文章 往日投票 皮肤 蓝色 橙色 绿色 浅绿色 关注我们: solidot新版网站常见问题,请点击这里查看。 消息 本文已被查看 2563 次** 卡内基梅隆免费公开计算机…
行业动态 Solidot · 3天前 阅读 1·访客 1
现代本体论全景:从语义网到 LLM 时代的语义基础设施
本文一分钟给出 Gruber 的本体定义,梳理语义网理想主义、企业知识图谱现实主义到 LLM 时代语义基础设施复兴的三个时代,辨析本体、知识图谱、图数据库与传统 Schema 四个易混概念,并给出全系列的阅读地图。
大模型 精选 · 用户投稿 · 3天前 阅读 13·访客 13
疑似英伟达 GeForce RTX 4090 Ti 显卡“非 FE 版”工程样品现身网络
IT之家 11 月 15 日消息,用户 @哟哟涛来喽 在闲鱼平台分享了一款 NVIDIA 工程样品的多张图片。 这一显卡**在 GPU-Z 中被识别为 GeForce RTX 4090 Ti**,CUDA 数量(18176 核心)、显存规格…
行业动态 IT之家 · 5天前 阅读 4·访客 4
英伟达副总裁卡坦扎罗否认签署要求前 CEO 黄仁勋复职的公开信,表态支持董事会和临时 CEO 克雷斯
IT之家 11 月 14 日消息,英伟达应用深度学习研究副总裁布莱恩 · 卡坦扎罗(Bryan Catanzaro)在社交平台 X 上公开发文辟谣,否认自己参与签署网传要求前 CEO 黄仁勋复职的公开信,称该信件系伪造,并明确表态支持英伟达…
研究前沿 IT之家 · 6天前 阅读 20·访客 20
网约车平台 Uber 优步遭黑客攻击,致美国多州司机驾照信息外泄
IT之家 11 月 14 日消息,网约车平台 Uber 优步披露公司遭遇数据泄露事件,导致数千名司机的个人信息及驾照信息被盗,涉及美国马萨诸塞州、南卡罗来纳州、罗得岛州和伊利诺伊州等地。 IT之家参考通报获悉,黑客首先入侵了该公司的一家第三…
行业动态 IT之家 · 6天前 阅读 9·访客 9
GPU 集群的容量规划:从卡时到业务增长
容量规划是把业务增长翻译成 GPU 卡时的算术:从 QPS 与 token 数换算卡数的完整链路,利用率目标的排队论悖论,峰值与均值的错峰策略,采购交付与租赁的组合,以及表格化的滚动规划方法。
大模型 精选 · 原创 · 11-11 阅读 52·访客 52
英国将加强网络防御,AI 国务大臣呼吁人工智能企业加大安全保障力度
IT之家 10 月 12 日消息,据《卫报》报道,英国将加强其网络防御,同时呼吁顶尖人工智能研发企业在系统安全治理上采取更积极的举措。 英国 AI 国务大臣卡尼什卡 · 纳拉扬(Kanishka Narayan)预计将在西伦敦发表的专题演讲…
行业动态 IT之家 · 10-12 阅读 78·访客 78
大模型 API 网关设计:限流、路由、降级与成本核算
LLM 流量与普通 API 流量差异巨大:响应慢且长、按 token 计费、供应商不稳定、还要保留换模型的自由。本文逐项拆解 LLM 网关的核心职责——双层限流、多供应商路由、流式转发、降级链、成本核算与可观测,并给出关键设计要点。
后端技术 精选 · 原创 · 10-6 阅读 953·访客 942
操作系统内功 · 第 69 篇|per-CPU 变量:缓存友好的并发第一杠杆
一条原子计数在百万次每秒的路径上会变成缓存行弹跳灾难,per-CPU 变量让每个核各写各的副本、读取时再汇总。本文拆解副本数组与段寻址、this_cpu 操作的原子性来源、近似与精确两种汇总口径,并对照用户态 TLS 与 rseq 给出改造实录。
后端技术 精选 · 用户投稿 · 今天 阅读 8·访客 8
操作系统内功 · 第 103 篇|UDP 栈与 GSO/GRO:QUIC 时代的内核加速
UDP 没有拥塞控制也没有自动调优的缓冲区故事,它的性能瓶颈异常朴素:每个数据报一次系统调用,QUIC 这类高吞吐协议每秒被 syscall 账单压垮。这篇拆 UDP 发送路径、GSO 把分段推迟到最后一刻、UDP_SEGMENT 的用法与边界、接收侧 GRO 聚合,以及 QUIC 与媒体流场景的加速账本。
后端技术 精选 · 用户投稿 · 今天 阅读 2·访客 2
操作系统内功 · 第 85 篇|procfs 与 sysfs:伪文件系统如何工作
cat /proc/1234/status 时内核并不读磁盘,而是现场执行回调把 task_struct 的状态拼成文本。这篇拆解 procfs 的 seq_file 迭代器与 sysfs 的 kobject 投影,讲清 ps/top 的数据从哪来、读伪文件的开销在哪,以及把伪文件当稳定接口用会踩的三类坑。
后端技术 精选 · 用户投稿 · 今天 阅读 2·访客 2
操作系统内功 · 第 113 篇|CPU 隔离:isolcpus、nohz_full 与 rcu_nocbs
抖动的根源是内核自己也在你的核上跑步:调度器抢占、时钟中断、RCU 回调与各种 kworker。CPU 隔离按三层递进:isolcpus 把核从调度器摘走,nohz_full 让时钟闭嘴,rcu_nocbs 把回调委托到别的核。本文拆解三层机制、残留干扰清单与 osnoise 验收方法,给出从 cmdline 到 cgroup partition 的完整落地命令。
后端技术 精选 · 用户投稿 · 今天 阅读 3·访客 3
操作系统内功 · 第 70 篇|CPU 空闲与唤醒:C-states 与尾延迟
CPU 没活干时会逐级深睡省电,但睡得越深醒得越慢,退出延迟直接写进服务的尾延迟。本文拆解 idle 循环与 cpuidle 框架、C-state 谱系与目标驻留时间、menu 与 teo 两个 governor,并给出一次 P99 抖动排查实录与调参入口清单。
后端技术 精选 · 用户投稿 · 今天 阅读 3·访客 3
一篇读懂 BMC:服务器的带外管理与 Redfish
服务器关机也能管的秘密在 BMC:这块独立小芯片构成带外管理平面,从 IPMI 到 Redfish 两代接口的演进,远程开关机、挂 ISO 装机、看传感器、刷固件的日常操作,以及必须遵守的安全红线。
一叶一世界 精选 · 原创 · 11-11 阅读 87·访客 86
操作系统内功 · 第 56 篇|下半部三件套:tasklet、workqueue 与线程化中断
中断处理为什么必须切成上下两半?本篇梳理 softirq、tasklet、workqueue 三代下半部的分工与演进,讲透线程化中断对实时性的意义,并给出中断风暴与 IRQ 亲和性的运维处置手段。
后端技术 精选 · 原创 · 11-10 阅读 68·访客 68
Agent 沙箱拆解:E2B 如何把 Firecracker 做成毫秒级执行环境
Agent 从「写代码」走向「跑代码」,执行环境成了基础设施。本文拆解 E2B 沙箱的完整架构:控制面与数据面分离、Firecracker 的 9 个 HTTP 请求、「创建即恢复快照」的两段式生命周期,以及 UFFD 按页取内存、COW rootfs 写时复制等关键技术,并与 Docker、gVisor、Anthropic 的分层沙箱方案做选型对比。
智能体 精选 · 原创 · 11-7 阅读 63·访客 63
内核模块安全:可加载内核模块与 LSM 框架
内核模块是 Linux 安全的最后一道防线——上一节正文完整阐述了模块签名、加载控制、LSM 框架与容器的影响。
后端技术 精选 · 原创 · 11-5 阅读 64·访客 64
一篇读懂 HTTP/3 与 QUIC:把传输层装进 UDP 的重构
HTTP/3 抛弃了 TCP,把传输层的可靠性、加密、多路复用全部装进基于 UDP 的 QUIC——为什么 TCP 的这些问题必须靠「重写传输层」解决?拆解 QUIC 的握手、0-RTT、队头阻塞的解法与部署的现实。
后端技术 精选 · 原创 · 11-5 阅读 53·访客 53
操作系统内功 · 第 16 篇:cpuset 与 CPU 亲和性——绑核的工程决策
绑核不是玄学也不是万金油:从调度器迁移成本讲到 taskset/cpuset/isolcpus 三层工具,给出延迟敏感场景的绑核决策框架与 Kubernetes 落地方式。
后端技术 精选 · 原创 · 11-5 阅读 62·访客 62
操作系统内功 · 第 33 篇|系统启动链路:从按下电源到 systemd 就绪的全过程
服务器重启后服务要多久恢复?答案藏在启动链路里:固件(UEFI)→ 引导加载(GRUB)→ 内核初始化 → initramfs 挂根 → PID 1(systemd)拉起服务单元。本文逐段拆解每一步做了什么、什么会慢、什么会失败,讲清 initramfs 的角色、systemd 的并行启动模型与依赖图,以及云服务器特有的 virtio/云初始化环节——「重启依赖」从此有全景图。
后端技术 精选 · 原创 · 11-3 阅读 80·访客 80
操作系统内功 · 第 19 篇|NUMA 与巨页:跨节点延迟税与 TLB miss 解药
服务器不是一台均匀的内存池:NUMA 让跨 socket 内存访问慢 40% 以上,巨页则用 2MB/1GB 页面把 TLB 压力降一个数量级。本文讲清 NUMA 拓扑、本地/远端内存与分配策略(default/bind/preferred/interleave),巨页的两种形态(hugetlbfs 与 THP)、收益与陷阱,并给出 Redis、数据库、JVM 的落地参数。
后端技术 精选 · 原创 · 11-3 阅读 100·访客 99
操作系统内功 · 第 31 篇|上下文切换的成本解剖:直接成本、间接成本与 TLB shootdown
「上下文切换 1 微秒」是流传最广的性能迷信——直接成本确实小,间接成本才是大头。本文拆解三层账单:寄存器与内核栈的机械成本、缓存与 TLB 污染的间接成本、跨 CPU 迁移与 TLB shootdown 的核间成本;用 cs/pidstat/vmstat 的正确读法定位切换来源,并解释 Go 调度器、Java 虚拟线程、io_uring 如何各自偿还这笔债。
后端技术 精选 · 原创 · 11-3 阅读 75·访客 75
操作系统内功 · 第 28 篇|netfilter 五条链:iptables 与 nftables 的内核真相
iptables 规则到底在哪里生效?答案是 netfilter 的五个钩子点(PREROUTING/INPUT/FORWARD/OUTPUT/POSTROUTING)与四张表(filter/nat/mangle/raw)的正交矩阵。本文讲清包流经协议栈时钩子的触发顺序、conntrack 连接跟踪的状态机、NAT 的实现与「第一条包建表、后续包查表」的快路径,以及 nftables 取代 iptables 的架构动因——把防火墙从「背命令」升级为「懂机制」。
后端技术 精选 · 原创 · 11-3 阅读 78·访客 78