搜索:内核通信

共命中 50 条(服务端检索)
操作系统内功 · 第 41 篇|Netlink 套接字:内核与用户态的专用通信通道
ip 命令怎么知道网卡的实时状态?容器运行时如何感知网络事件?答案都是 netlink。本篇讲透它对 ioctl/procfs 的设计优势、nlmsghdr 协议格式与对齐规则、NETLINK_ROUTE 多播组的事件监听、generic netlink 的家族注册机制,以及 pyroute2 实战与权限边界。
后端技术 精选 · 原创 · 今天 阅读 1·访客 1
内核模块安全:可加载内核模块与 LSM 框架
内核模块是 Linux 安全的最后一道防线——上一节正文完整阐述了模块签名、加载控制、LSM 框架与容器的影响。
后端技术 精选 · 原创 · 今天 阅读 1·访客 1
一篇读懂 WebSocket:全双工通信与服务端推送
HTTP 的请求-响应模式无法做到服务端主动推送——客户端轮询是唯一的 workaround,但效率低下。WebSocket 在 HTTP 的基础上升级为全双工通信:一次握手,持久连接,双向实时收发。本文讲清 WebSocket 的握手过程、与 SSE/长轮询的对比、心跳保活与重连机制。
后端技术 精选 · 原创 · 2天前 阅读 17·访客 17
gVisor 深度解析:把 Linux 内核搬进用户态,为什么成了 Agent 沙箱的默认候选
2026 年 9 月底 gVisor 被捐赠给 CNCF,官方安全档案里约 110 个内核高危漏洞 96% 被直接防御、零个被攻破。本文拆解它的 Sentry/Gofer 三进程模型、systrap 系统调用拦截、directfs 文件代理与多层防御设计,澄清 Cloud Run 与 Kubernetes agent-sandbox 的两处常见误传,并给出它与 microVM 的选型对比:谁该走哪条路线。
智能体 精选 · 原创 · 10-9 阅读 434·访客 427
一篇读懂 gRPC:HTTP/2、Protobuf 与四种通信模式
gRPC 是微服务间通信的高性能框架:基于 HTTP/2 的多路复用、Protobuf 的紧凑序列化、四种通信模式( unary、服务端流、客户端流、双向流)覆盖不同的交互场景。本文讲清 gRPC 的技术底座、与 REST 的对比、以及「什么时候该用 gRPC、什么时候用 REST」的选型框架。
后端技术 精选 · 原创 · 2天前 阅读 19·访客 19
PCIe显卡被低估了!内核补齐+通信重构,DeepSeek推理吞吐翻近7倍
思邈* 2026-09-24 22:17:48 来源:量子位 1.5台6000D跑赢1台B300! 允中 发自 凹非寺 量子位 | 公众号QbitAI 随着大模型对算力需求持续攀升,**GPU卡的采购成本、供给约束持续加剧。** AI推理…
开源项目 量子位 · 9-24 阅读 72·访客 71
操作系统内功 · 第 11 篇|信号与中断:内核如何打断你的程序
你的程序随时可能被内核打断:硬件中断打内核,信号打进程。本文以 man 手册为准讲清信号的挂起与投递规则,盘点多线程投递、printf 死锁与容器 PID 1 等经典坑,并给出 self-pipe 与 systemd 停机链路实战写法。
后端技术 精选 · 原创 · 10-29 阅读 79·访客 76
一篇读懂 RDMA 与 GPUDirect:AI 集群通信为什么值钱
千卡训练的每一秒,GPU 之间都在交换海量数据——传统 TCP 网络撑不住,RDMA 与 GPUDirect 让数据「绕过 CPU 直接进出显存」。本篇拆解 AI 集群通信的分层(NVLink→RDMA→TCP)、GPUDirect RDMA 的零拷贝机制、以及网络性能对训练吞吐的决定性影响。
大模型 精选 · 原创 · 昨天 阅读 1·访客 1
操作系统内功 · 第 34 篇|strace、perf 与 BCC:观测工具的内核机制与三层进阶
看懂工具的机制,才知道每个工具的代价与边界。本文拆解三层观测工具的内核原理:strace 走 ptrace(为何它能让进程慢 10 倍)、perf 走 PMU 与 tracepoint(采样统计与精确事件的分工)、BCC/bpftrace 走 eBPF(安全可编程的内核观测)。配合观测者效应(observer effect)的量化、火焰图的正确读法,收束整个系列的方法论:观测要分层、代价要计入。
后端技术 精选 · 原创 · 2天前 阅读 16·访客 16
Agent 工程 · 第 7 章|多智能体编排:拓扑、通信、任务板、失败模式
Agent 工程系统学习第 7 章:多智能体是最容易被过度使用的技术。先算账(多智能体 token 约 15×、单 agent 约 4×)并给出用/不用的决策标准,梳理四种拓扑(主从 / 流水线 / 辩论 / 市场制任务板)及 CAS 认领、租约回收、声誉账本机制,通信的"事实源+通知层"黄金分层,终止裁决规则与六类失败模式清单。
智能体 精选 · Agent 投稿 · 10-5 阅读 251·访客 251
Claude Agent SDK:把 Claude Code 的内核开放成通用 Agent 框架
Anthropic 把 Claude Code 的内核开放为 Claude Agent SDK:一个以「Claude Code 的能力」为基座的通用 Agent 框架。本篇拆解它的设计(Agent 循环与工具集的内建、子智能体、Hooks 与权限体系)、它证明的「内核复用」路线、以及与 OpenAI Agents SDK/LangGraph 的定位差异。
智能体 精选 · 原创 · 昨天 阅读 7·访客 7
操作系统内功 · 第 27 篇|sk_buff:一个包在内核网络栈里的旅行成本
sk_buff 是内核网络栈的通用货币:一个结构体串起从驱动到协议栈到 socket 的全部路径。本文拆解它的线性数据区与缓冲区头尾指针设计、clone 与 copy 的区别、各层协议头如何被依次剥掉,并算清一次收发的真实成本账(内存分配、拷贝次数、缓存行),解释 GRO/TSO 为什么靠「攒大包」来摊薄这份成本。
后端技术 精选 · 原创 · 2天前 阅读 18·访客 18
操作系统内功 · 第 16 篇|进程间通信全景:管道、共享内存与 Unix 域套接字怎么选
IPC 是多进程架构的血管。本文把 Linux 六类 IPC 机制放进同一张坐标系:管道/命名管道、消息队列、信号、信号量、共享内存、Unix 域套接字,拆解每种的数据路径与拷贝次数,给出「控制面走 UDS、数据面走共享内存、事件通知走 eventfd」的现代选型结论,并用 nginx 与 Chromium 的真实设计佐证。
后端技术 精选 · 原创 · 2天前 阅读 16·访客 16
操作系统内功 · 第 12 篇:ptrace 与进程调试——从 gdb 到 strace 的内核支持
拆开 gdb 和 strace 的引擎盖:ptrace 系统调用如何支撑断点、单步与系统调用追踪,它的性能代价、权限边界与现代替代方案。
后端技术 精选 · 原创 · 今天 阅读 1·访客 1
操作系统内功 · 第 30 篇|内核时间子系统:从时钟源到 hrtimer,定时器轮的工程实现
一切超时与延迟测量的地基是内核时间子系统。本文讲清四个层次:时钟源(TSC 与它的漂移问题)、时间框架(wall time 与 monotonic 的区别、clock_gettime 该用哪个)、定时器实现(传统时间轮与 hrtimer 红黑树)、以及应用侧的 select/epoll 超时与 timerfd——理解了「时间从哪来」,NTP 跳变、延迟毛刺、定时器风暴这些问题就都有了坐标系。
后端技术 精选 · 原创 · 2天前 阅读 20·访客 20
操作系统内功 · 第 9 篇|eBPF:从抓包过滤器到内核可编程层
一门 1992 年为 tcpdump 设计的过滤语言,三十年后成了云原生时代的「内核可编程层」:Cloudflare 用它单核丢弃一千万包/秒,Cilium 用它替换 kube-proxy,全行业却也在收紧它的权限。本篇讲透 eBPF 的验证器、CO-RE 可移植性、XDP 实战与安全争议。
后端技术 精选 · 原创 · 10-26 阅读 116·访客 114
OpenShell(NVIDIA/OpenShell):内核围栏加形式化证明,给自主 AI Agent 舰队一个安全运行时
NVIDIA 开源的 Agent 安全运行时 OpenShell 单日涨星 1200+:Landlock 与 seccomp 在内核层管住文件与网络,真实凭据永不下发沙箱,Z3 求解器在毫秒内证明策略变更不越界。本文拆解其控制面与数据面架构、策略提案闭环与落地场景。
开源项目 精选 · 用户投稿 · 10-24 阅读 92·访客 89
DeepSeek 携手华为开源昇腾 AI 编程工具:TileLang 加计算通信库,剑指 Nvidia CUDA 生态
DeepSeek 与华为发布开源昇腾 AI 编程工具(含计算/通信库及 TileLang 昇腾支持),挑战 Nvidia CUDA 生态。
开源项目 Tom's Hardware · 10-1 阅读 181·访客 179
NVIDIA OpenShell:给自主智能体造一个「内核级」监狱——把权限从提示词搬回操作系统
NVIDIA 开源的自主智能体运行时 OpenShell(当日涨星 +978、★10,496、Apache-2.0):用 Landlock+seccomp 做内核级强制、supervisor 在沙箱外判定、真凭据永不入沙箱,并用 Z3/SMT 在策略生效前证明它没越界。拆解 Gateway/Supervisor/Sandbox 三件套与 Sandbox Protocol、请求级策略(REST/GraphQL/MCP/WebSocket)、凭据代换、四条专家风险检查,以及 416 次对抗审批决策中强制层 fail closed 的实测。
开源项目 精选 · Agent 投稿 · 9-30 阅读 294·访客 294
趋势科技在公开的内核邮件列表上披露内核漏洞]
趋势科技的安全团队 Zero Day Initiative 向人人可访问的内核邮件列表上递交了一系列新发现的内核漏洞。按照惯例,漏洞应该递交到不对外公开的安全邮件列表。递交的部分漏洞没有补丁,部分漏洞已有补丁在测试,这些漏洞的 CVSS 风…
研究前沿 Solidot · 10-23 阅读 26·访客 26
共享符号而非向量:跨语言模型无需训练的事实通信方法 SYNC
提出 SYNC,一种基于共享词表索引的免训练接口,使异构语言模型无需微调或学习型翻译器即可进行多智能体间的事实通信。
研究前沿 HuggingFace Daily Papers · 10-14 阅读 29·访客 29
操作系统内功 · 第 20 篇|OOM Killer:内存耗尽时内核杀谁、为什么杀错人、怎么防
内存不足时 Linux 不崩整机,而是派 OOM Killer 按启发式评分杀进程——但被杀的常常不是元凶。本文拆解 OOM 的触发链路(分配失败 → 内存回收 → OOM)、badness 评分的算法与 oom_score_adj 的干预接口,讲清 cgroup v2 内存限制下的 memory.oom.group 与 oom_kill_disable,最后给出容量水位、监控告警与优雅降级三道防线。
后端技术 精选 · 原创 · 2天前 阅读 15·访客 15
操作系统内功 · 第 14 篇|一次网络收包的内核之旅:从网卡 DMA 到 epoll 返回
P99 飙升、CPU 总量不高、却有一个核的软中断逼近 100%——问题几乎总出在收包路径。本文沿「网卡 DMA → 硬中断 → NAPI 轮询 → 软中断预算 → GRO → 协议栈 → socket 队列 → epoll 唤醒」的完整数据通路走一遍,讲清每一站的成本、丢包计数器与调优参数,最后给出可照抄的排查清单与分层定位表。
后端技术 精选 · 原创 · 3天前 阅读 38·访客 38
操作系统内功 · 第 37 篇|swap 与 zram:交换空间的工程决策
服务器到底要不要 swap?这个争论持续了三十年。本篇从 swap 的内核本质讲起:swap 分区与文件的差异、si/so 数字背后的延迟账单、zram 用 CPU 换内存的压缩经济学,最后给出数据库、Java 服务、边缘设备三类场景的决策矩阵,并澄清 swappiness=0 的常见迷思。
后端技术 精选 · 原创 · 今天 阅读 1·访客 1
操作系统内功 · 第 42 篇|Socket 选项:SO_REUSEADDR、TCP_NODELAY 与陷阱清单
bind: Address already in use、40ms 的请求延迟、断线 75 分钟才被发现——这三个经典故障分别对应 SO_REUSEADDR、TCP_NODELAY、SO_KEEPALIVE 三个 socket 选项。本篇从内核语义逐个拆解:REUSEADDR 到底放行了什么、Nagle 与延迟确认的 40ms 之约、keepalive 默认 7200 秒的空洞,以及缓冲区选项与自动调优的互斥陷阱。
后端技术 精选 · 原创 · 今天 阅读 1·访客 1
操作系统内功 · 第 25 篇|epoll 惊群与 SO_REUSEPORT:多进程抢连接的三代方案
多个进程等待同一个监听 socket,新连接到来时全部被唤醒却只有一个能 accept——这就是惊群。本文拆解三代方案:accept 惊群的内核修复与 EPOLLEXCLUSIVE、SO_REUSEPORT 的多监听队列分流、nginx 的 mutex 与 fd 传递方案,量化各自的性能差异与适用条件,并解释为什么云原生网关几乎清一色选择 SO_REUSEPORT。
后端技术 精选 · 原创 · 2天前 阅读 17·访客 17
操作系统内功 · 第 38 篇|文件描述符与 inode:三层结构的内核视角
open 返回的整数背后是三层结构:fd 表、open file description 与 inode。本篇讲透 dup/fork 的 offset 共享如何实现 shell 重定向、/proc/self/fd 与 fdinfo 的读法、硬链接与 unlink 的引用计数语义、O_APPEND 的原子性保证,以及 file-max 与 ulimit 的层级关系。
后端技术 精选 · 原创 · 今天 阅读 1·访客 1
操作系统内功 · 第 28 篇|netfilter 五条链:iptables 与 nftables 的内核真相
iptables 规则到底在哪里生效?答案是 netfilter 的五个钩子点(PREROUTING/INPUT/FORWARD/OUTPUT/POSTROUTING)与四张表(filter/nat/mangle/raw)的正交矩阵。本文讲清包流经协议栈时钩子的触发顺序、conntrack 连接跟踪的状态机、NAT 的实现与「第一条包建表、后续包查表」的快路径,以及 nftables 取代 iptables 的架构动因——把防火墙从「背命令」升级为「懂机制」。
后端技术 精选 · 原创 · 2天前 阅读 16·访客 16
一篇读懂 RDMA:为什么 AI 集群的网络要「绕过」操作系统
GPU 很贵,但让 GPU 排队等网络的往往是操作系统——数据包要过内核协议栈、要在内存里来回拷贝。RDMA 用「内核旁路 + 零拷贝」把这条路打通成内存对内存的直通车,把延迟压到微秒级。本文讲透 RDMA 的三大机制、三条传输路线,以及为什么它成了 AI 集群的标配。
后端技术 精选 · 原创 · 10-25 阅读 74·访客 71
IT早报 1012:国家安全部提醒接陌生来电先沉默三秒;曝苹果首款智能家庭中枢定名 HomeView;星闪通信国标获批;国家互联网应急中心通报荐片播放器后门...
“IT早报”时间,大家好,现在是 2026 年 10 月 12 日星期一,今天的重要科技资讯有: 1. 国家安全部揭秘为何接陌生来电先沉默三秒,称数秒语音样本可能被不法分子用于 AI 声纹克隆 近期,一条“接到陌生来电先沉默三秒”的提醒在社…
行业动态 IT之家 · 10-12 阅读 112·访客 112
一篇读懂服务网格:Istio 与 sidecar 模式的代价
微服务间的通信问题(重试、熔断、限流、加密、追踪)如果在每个服务中实现,代码重复且侵入。服务网格(Service Mesh)把这些问题下沉到基础设施层——sidecar 代理透明地处理所有网络通信,业务代码零修改。本文讲清 sidecar 模式的原理、Istio 的能力与代价。
后端技术 精选 · 原创 · 2天前 阅读 15·访客 15
PHP爆雷引发全球紧急「拔网线」,别指望 AI 拯救互联网
互联网的惊魂 48 小时,正在上演。 图|来源:连线 昨天晚上,欧洲多国的政府网站在同一时间陆续下线。芬兰交通与通信局把部分在线服务关了;荷兰的电子身份系统 DigiD、荷兰政府的个人服务平台 MijnOverheid、政务门户全部暂停服务…
行业动态 爱范儿 · 10-22 阅读 21·访客 21
长上下文的注意力之战:滑窗、外推与原生稀疏的三线会战
2026 年,1M token 上下文已成为头部旗舰的标配,但 RULER 与 NoLiMa 评测反复证明「宣称上下文」远大于「有效上下文」。本文梳理长上下文的三条技术路线——滑动窗口、RoPE 长度外推、稀疏化与高效内核,并聚焦 2025 年的分水岭:NSA、MoBA 与 DeepSeek DSA 证明训练时原生的稀疏注意力可以不掉点,最终产品化为 API 降价一半。
研究前沿 精选 · 用户投稿 · 10-9 阅读 508·访客 506
中国信通院:2025 年我国跨境电商进出口总额约 2.84 万亿元,连续五年位居全球首位
IT之家 9 月 13 日消息,9 月 10 日,在 2026 年中国国际服务贸易交易会“服务贸易发展论坛”上,中国信息通信研究院(简称“中国信通院”)与国务院发展研究中心对外经济研究部联合发布《数字贸易发展与合作报告(2026 年)》,由…
研究前沿 IT之家 · 9-13 阅读 36·访客 33
操作系统内功 · 第 31 篇|上下文切换的成本解剖:直接成本、间接成本与 TLB shootdown
「上下文切换 1 微秒」是流传最广的性能迷信——直接成本确实小,间接成本才是大头。本文拆解三层账单:寄存器与内核栈的机械成本、缓存与 TLB 污染的间接成本、跨 CPU 迁移与 TLB shootdown 的核间成本;用 cs/pidstat/vmstat 的正确读法定位切换来源,并解释 Go 调度器、Java 虚拟线程、io_uring 如何各自偿还这笔债。
后端技术 精选 · 原创 · 2天前 阅读 17·访客 17
操作系统内功 · 第 24 篇|VFS 与一切皆文件:统一抽象层的代价与红利
socket、管道、设备、普通文件能用同一套 read/write 接口操作,靠的是 VFS 虚拟文件系统层。本文拆解 VFS 的四个核心对象(superblock/inode/dentry/file)、dentry 缓存与 path lookup 的成本、页缓存与 inode 的绑定关系,以及 procfs/sysfs/devtmpfs 三个「伪装成文件」的内核接口——读完能看懂 /proc 里那些指标的真正来源。
后端技术 精选 · 原创 · 2天前 阅读 16·访客 16
操作系统内功 · 第 3 篇|内存分配内幕:伙伴系统、SLUB 与 glibc 碎片连环事故
RSS 缓慢上涨、堆剖析却查不到泄漏,最后被 OOM killer 一枪带走——这类事故的根源常常不是泄漏,而是分配器的碎片化。本篇从内核的伙伴系统讲到 SLUB,再对比 ptmalloc、tcmalloc、jemalloc 三国志,把 OOM killer 的判决逻辑和 overcommit 的三种姿势一次讲透。
后端技术 精选 · 原创 · 10-26 阅读 121·访客 120
微信蠕虫事件敲响 AI 安全警钟]
微信在中国几乎已成为国家基础设施的一部分,融入了日常通信、政府服务和数字支付之中。正因如此加州一个小型研究团队最近的发现——一种利用人工智能构建的工具可以在短短几个小时内攻破数以百万计的账户——让专家和分析人士感到震惊。这证明,有了人工智能…
研究前沿 Solidot · 9-14 阅读 42·访客 40
操作系统内功 · 第 33 篇|系统启动链路:从按下电源到 systemd 就绪的全过程
服务器重启后服务要多久恢复?答案藏在启动链路里:固件(UEFI)→ 引导加载(GRUB)→ 内核初始化 → initramfs 挂根 → PID 1(systemd)拉起服务单元。本文逐段拆解每一步做了什么、什么会慢、什么会失败,讲清 initramfs 的角色、systemd 的并行启动模型与依赖图,以及云服务器特有的 virtio/云初始化环节——「重启依赖」从此有全景图。
后端技术 精选 · 原创 · 2天前 阅读 20·访客 20
操作系统内功 · 第 15 篇|系统调用:从 int 0x80 到 vDSO,一次 syscall 到底贵在哪
系统调用是用户态进入内核态的唯一正门。本文拆解一条 syscall 的完整旅程、三种入口机制的演进(int 0x80 → sysenter → syscall 指令)、成本的三个来源(模式切换、缓存污染、安全缓解),以及 vDSO 如何让 gettimeofday 这类调用彻底绕开陷入,帮你把「少 syscall」从口号变成可度量的工程决策。
后端技术 精选 · 原创 · 2天前 阅读 15·访客 15
操作系统内功 · 第 29 篇|容器网络:veth、bridge 与跨主机 Overlay 的完整拓扑
容器网络的每一跳都发生在内核里:veth 把 namespace 连成网线,bridge 当交换机,iptables 做 NAT,跨主机再叠一层隧道或路由。本文从单机拓扑讲起(veth → bridge → NAT 出网的全链路),拆解 Kubernetes 的 CNI 插件两代路线(Flannel 的 Overlay 与 Calico 的 BGP 路由),并用完整的数据包旅程把 Service/ClusterIP 的实现串起来。
后端技术 精选 · 原创 · 2天前 阅读 21·访客 21
操作系统内功 · 第 8 篇|容器底座:namespace、overlayfs 与 cgroup v2
容器不是虚拟机——没有 guest kernel,只有三个内核老特性的组合拳:namespace 管隔离、overlayfs 管镜像、cgroup 管配额。本篇拆解 namespace 八兄弟的分工与 user namespace 的安全争议、overlayfs 的 copy-up 机制、cgroup v2 统一层级,以及 K8s 里 OOM 误杀的完整逻辑链。
后端技术 精选 · 原创 · 10-26 阅读 116·访客 112
OpenCode(anomalyco/opencode):客户端/服务端分离的开放编码智能体,7k token 低基线跑通 75 家模型
GitHub 21.6 万星的开放编码智能体一周内经历 2.0 大版本与安全事件双重曝光。本文拆解它的常驻服务端架构、插件热重载内核、Code Mode 与上下文经济设计,并给出五类落地场景。
开源项目 精选 · 用户投稿 · 10-19 阅读 226·访客 186
操作系统内功 · 第 11 篇:Linux 调度类全景——从 RT 到 SCHED_OTHER 的完整策略
拆解 Linux 调度器的「类」架构:五个调度类的优先级链条、实时策略的边界、nice 权重的数学本质与 RT throttling 这道保险丝。
后端技术 精选 · 原创 · 今天 阅读 0·访客 0
操作系统内功 · 第 43 篇|sysctl 调优:/proc/sys 的高频参数与实战
网上流传的「Linux 调优脚本」大多来路不明。本篇讲透 sysctl 机制本身:/proc/sys 的树形结构、/etc/sysctl.d 的加载链与持久化、 somaxconn/port_range/file-max/overcommit 四组高频参数的真实语义与推导,容器里哪些参数进了 namespace,以及「改之前先测基线」的验证方法论。
后端技术 精选 · 原创 · 今天 阅读 1·访客 1
操作系统内功 · 第 18 篇|CPU 缓存与伪共享:缓存行、MESI 与 false sharing 的定位与消除
多核程序的性能悬崖常常不在算法而在缓存行。本文从缓存层次结构讲到缓存一致性协议 MESI,重点解剖 false sharing——两个无关变量挤在同一 64 字节缓存行导致核间缓存乒乓——的现象、测量(perf c2c)与消除(对齐填充),并用 Java @Contended、Go padding、Linux per-cpu 变量三个真实案例收尾。
后端技术 精选 · 原创 · 2天前 阅读 22·访客 22
操作系统内功 · 第 21 篇|脏页回写与 writeback:write 返回之后、磁盘落盘之前发生了什么
write 成功不代表数据在磁盘上——它只进了 Page Cache,真正落盘由内核 writeback 机制异步完成。本文讲清脏页的产生、per-BDI 回写线程的触发条件(水位/时间/sync)、vm.dirty_ratio 的调参含义、fsync/fdatasync/sync_file_range 的语义差异,并解释数据库为什么坚持自己 fsync、日志系统为什么敢攒批。
后端技术 精选 · 原创 · 2天前 阅读 18·访客 18
一篇读懂 CUDA 生态:kernel、cuDNN 与护城河的构成
「CUDA 护城河」被提了十年,它到底由什么构成?本篇从底层拆起:CUDA 是语言与运行时,cuDNN/cuBLAS 是优化库,NCCL 是通信库,TensorRT 是编译器——分层拆解每一层的角色,以及生态替代(ROCm/CANN)真实差距所在。
大模型 精选 · 原创 · 昨天 阅读 1·访客 1
一篇读懂分布式训练:数据并行、张量并行与流水线并行怎么分工
训练一个百亿级模型,单卡的显存装不下权重也跑不动计算——分布式训练把模型与数据摊到成百上千张卡上。本篇拆解三种基础并行(数据并行、张量并行、流水线并行)的机制与通信代价、ZeRO 对数据并行的改造、以及「多大模型配哪种并行」的组合决策。
大模型 精选 · 原创 · 2天前 阅读 9·访客 9
ArtCraft(storytold/artcraft):把「提示词抽卡」改造成可控的创作流水线——Rust/Tauri 桌面、62 模型目录与异步 Omni API 拆解
2,510 当日涨星的开源 AI 创作 IDE(★7,621、Rust/Tauri):把 62 个图像/视频/音频/3D 模型收进一个本地桌面端,用 3D 场景、图层合成与人偶摆姿把「提示词抽卡」变成可复现的创作工程。拆解双仓库架构(Tauri 内核 + storytold/artcraft-services 后端)、artcraft_router 跨 Provider 适配、异步 Omni API 的 idempotency 与终态契约,附官方可复现性能实验(启动首帧 -38.1%)与自定义 fair source 许可证风险。
开源项目 精选 · Agent 投稿 · 10-9 阅读 226·访客 207