两代文件监控 API 的分工

「目录里一有新文件就处理」「配置文件改了就重载」「谁打开了这个受保护文件」——对文件变化做反应是文件系统之上的常见需求,靠轮询既费 IO 又有延迟。Linux 提供两代监控 API,分工明确:inotify(内核 2.6.13 起可用)面向单个进程,按 watch 订阅具体文件或目录的变化,轻量、无权限要求、事件只进不出;fanotify(内核 2.6.37 起逐步成型)面向整个系统,按挂载点或文件系统整体订阅,能拿到事件的文件句柄读取内容,甚至能拦截一次 open,让用户态守门人决定放行与否——它是杀毒软件、EDR、数据防泄漏系统的标准底座。一句话概括分工:inotify 管自己的耳朵,fanotify 管全世界的门。
本文先拆 inotify 的 watch 与队列机制(以及三个最容易踩的上限),再拆 fanotify 的系统级订阅与权限事件模型,中间配一段可直接编译的 C 代码读事件流,最后用两个工程现场把 IDE 的 ENOSPC 报警与杀毒拖慢全机这两个经典事故讲透。
inotify:以 fd 为中心的 watch 与事件队列
inotify 的使用模型三步:inotify_init1 建一个实例(返回普通 fd,可 epoll、可非阻塞);inotify_add_watch 对某个路径注册关注的掩码(IN_CREATE、IN_MODIFY、IN_CLOSE_WRITE、IN_MOVED_TO、IN_DELETE、IN_ATTRIB 等);read 这个 fd 批量取回 struct inotify_event 数组——每条事件带 watch 描述符 wd、事件掩码、可选 cookie(配对 MOVED_FROM/MOVED_TO)与文件名。设计上有两个必须内化的要点。其一,watch 挂在 inode 上且不递归:对目录建 watch,收到的是「该目录的直接子项」变化,子目录的子目录不归它管,递归监控要应用自己遍历补挂(这个坑专设一节讲)。其二,wd 与路径的映射由应用维护:内核只回 wd 号,目录被移动、删除或重挂后,应用必须能从 wd 找回路径语义,还要处理 IN_IGNORED(watch 因目标消失被内核摘除)这类生命周期事件。
事件队列是 per 实例的:内核把事件堆进队列,应用 read 得快。堆不下的时刻就是下面这节的主角——溢出。inotify fd 天然与 epoll 融合,这是它相对老 dnotify(信号通知)最大的工程进步:一个事件循环同时等网络 fd、信号 fd(signalfd,本系列后文有专篇)与文件事件,文件监控不再是独立的轮询线程。
sequenceDiagram
participant App as 应用(epoll 循环)
participant K as 内核 inotify
participant FS as 文件系统
App->>K: inotify_init1 / add_watch(dir, IN_CREATE|IN_CLOSE_WRITE)
FS->>K: 目录内发生 create/close_write
K->>K: 组装 inotify_event 入队列
App->>K: read(fd) 批量取事件
K-->>App: [wd, mask, name] 列表
App->>App: 处理事件、维护 wd 到路径映射
Note over K: 队列满:追加 IN_Q_OVERFLOW<br/>丢弃后续事件直到排空
队列溢出与三个 sysctl
inotify 的一切资源问题都藏在 /proc/sys/fs/inotify/ 的三个文件里。max_queued_events 是单个实例队列的长度上限(默认 16384),队列满时内核追加一条 IN_Q_OVERFLOW(wd 为 -1 的特殊事件),此后的变化不再产生事件——直到应用把队列读空。max_user_watches 是每用户可挂 watch 总数(老内核默认 8192,现代发行版普遍上调到几十万),挂满时 add_watch 报 ENOSPC。max_user_instances 限制每用户实例数(默认 128),守护进程泄漏 inotify fd 的话会在这里撞墙。三个上限合起来定义了「监控规模」的天花板,而 IDE、同步盘这类工具的常见报错——ENOSPC——几乎都是第二项撞的。
溢出的处理原则比参数更重要:收到 IN_Q_OVERFLOW 说明队列发生了「断流」,应用此刻的 wd 到路径映射可能已经过期(目录被删了、文件被改名了),唯一正确的动作是把监控范围完整重扫一遍,重建基线后再继续依赖增量事件。把溢出当普通事件吞掉的应用,注定在某天读到「从未发生过的世界」——这是文件监控类代码最隐蔽的一类 bug。另一个相关细节:read 返回的事件里,文件名只保证是当前目录项的快照,高并发改名场景下「事件说 create、你 open 却 ENOENT」是正常现象,处理逻辑必须容忍「事件与现状不一致」,必要时 fallback 到重扫。
fanotify:挂在挂载点上的系统级哨兵
fanotify 的模型换了一层:fanotify_init 建组(决定事件类与 fd 属性),fanotify_mark 按挂载点(FAN_MARK_MOUNT)或整个文件系统(FAN_MARK_FILESYSTEM)订阅,事件推给组里所有订阅者,谁都可以是「系统哨兵」。它有三样 inotify 给不了的东西。第一是事件里的文件句柄:事件可以携带打开的 fd(FAN_OPEN、FAN_CLOSE_WRITE、FAN_MODIFY 等),哨兵直接读内容做扫描——杀毒软件的按需扫描就是这么接进来的,不用跟应用抢文件锁。第二是权限事件:FAN_OPEN_PERM 之类的事件把内核里那次 open 挂起,等哨兵通过 write 回写应答(允许/拒绝)再继续——这是「拦截」能力,防勒索软件加密用户文件、DLP 阻止敏感文件外发的机制基础。第三是挂载级的 ignore 标记:FAN_MARK_IGNORED_MASK 给白名单目录降噪,性能与误报都靠它控制。
门槛同样要认识清楚:fanotify 传统上要求 CAP_SYS_ADMIN(较新内核对部分受限模式放宽,但拦截类能力仍在特权一侧),它没有「某个用户自己监控」的语义,注册的是系统视角;权限事件的应答延迟就是应用的阻塞时长——哨兵卡 100ms,全机器每次 open 都卡 100ms,这是后面现场 B 的事故原型。两代 API 的本质差异可以压成一行:inotify 的订阅单位是「我关心的 inode」,fanotify 的订阅单位是「我管辖的挂载世界」,前者做应用逻辑,后者做基础设施。
fanotify 的 mark 体系本身有一套精细的叠加规则,值得写安全类软件的人吃透:订阅可以打在 inode、挂载点或整个文件系统三个层级上,更具体的层级优先于更宽的层级——挂在某个敏感目录 inode 上的权限事件,不会被整盘挂载级订阅的宽松设置冲掉;ignore 标记同样分层叠加,哨兵可以「整盘订阅、白名单目录免除」,也可以反过来「整盘观察、重点目录加严」。这套叠加让同一台机器上多家安全产品(EDR 管进程行为、DLP 管外发、杀毒管内容)各订各的层、互不打架成为可能——前提是每家都正确使用分层 mark,历史上出过安全软件互相用挂载级权限事件把对方扫描进程也拦住的恶性案例,根因就是全用最宽层级、没有给彼此留 inode 级的豁免。
C 代码读 inotify 事件流
下面这段完整的 C 程序演示标准用法:非阻塞 fd 挂进事件循环、处理溢出与 IGNORED、维护目录 watch,可直接编译运行对着它 mkdir、touch 观察输出:
#define _GNU_SOURCE
#include <errno.h>
#include <poll.h>
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <sys/inotify.h>
#include <unistd.h>
#define WATCH_DIR "/tmp/watchme"
#define EVENTS (IN_CREATE | IN_CLOSE_WRITE | IN_MOVED_TO | IN_DELETE)
int main(void) {
int fd = inotify_init1(IN_NONBLOCK);
if (fd < 0) { perror("inotify_init1"); return 1; }
int wd = inotify_add_watch(fd, WATCH_DIR, EVENTS);
if (wd < 0) { perror("inotify_add_watch"); return 1; }
struct pollfd pfd = { .fd = fd, .events = POLLIN };
char buf[4096] __attribute__((aligned(__alignof__(struct inotify_event))));
for (;;) {
if (poll(&pfd, 1, -1) < 0) continue; /* 事件循环等待 */
for (;;) { /* 一次排空队列 */
ssize_t len = read(fd, buf, sizeof(buf));
if (len <= 0) break; /* EAGAIN:队列已空 */
for (char *p = buf; p < buf + len; ) {
struct inotify_event *e = (struct inotify_event *)p;
if (e->mask & IN_Q_OVERFLOW) {
fprintf(stderr, "overflow! full rescan needed\n");
} else if (e->mask & IN_IGNORED) {
fprintf(stderr, "watch removed (wd=%d)\n", e->wd);
} else {
printf("wd=%d mask=%x name=%s\n", e->wd, e->mask,
e->len ? e->name : "");
}
p += sizeof(*e) + e->len;
}
}
}
}
对照事件表读这段代码,几个语义点值得停下来:IN_Q_OVERFLOW 的 wd 恒为 -1,正常事件里不会出现;IN_IGNORED 是内核在摘 watch 时的告别通知(目标被删或 IN_ONESHOT 触发),收到它就该把 wd 的映射清掉;MOVED_FROM 与 MOVED_TO 共享 cookie,用来把「移走」与「移入」配成一个 rename 语义——不处理 cookie 的应用会把一次 rename 当成删加建两个事件,同步类逻辑因此出双份动作。
两个工程现场
现场 A:IDE 的 ENOSPC 与递归监控的竞态
开发团队反馈 VS Code 弹窗 Nodejs: ENOSPC,JetBrains 索引失效,症状集中在 monorepo 机器上。诊断三步:lsof | grep inotify 或 cat /proc/sys/fs/inotify/max_user_watches 看上限配置;find <仓库> -type d | wc -l 数目录数——node_modules 一展开,几十万个目录轻松超过老默认值;再把每用户 watch 总量与 sysctl fs.inotify.max_user_instances 里的实例数对一遍(浏览器、同步盘、语言服务器各自占实例)。解法按层次:发行版现代默认已上调 watch 上限,老机器显式 sysctl 并写进镜像;应用侧改「每目录一个 watch」为「有节制的深度」(深层目录用惰性展开,用户展开到哪挂到哪);同步类工具加退避。这里还叠加着第二个坑:递归监控的建立本身有竞态——遍历过程中新建的目录在 watch 挂上之前发生的变化收不到事件,标准解法是「先遍历挂 watch,再完整重扫一遍对账」,两轮之间靠事件兜底增量;只扫一遍的实现,仓库越大丢事件的概率越高,这类「监控偶发漏文件」的灵异现象多半源于此。
现场 B:杀毒软件的权限事件与全机卡顿
某企业给终端全量装上带实时扫描的安全软件后,编译机 CI 时间翻倍,任意程序首次打开文件都有可感知的卡顿。抓取路径确认根因:安全软件用 fanotify 的权限事件做扫描(FAN_OPEN_PERM),每次 open 被挂起等扫描结论,扫描线程忙时应答排队——一次 open 的等待从微秒涨到几十毫秒,编译进程动辄开几千个文件,延迟线性放大成整体翻倍。整改清单按性价比排列:白名单优先——对编译产物目录、包管理缓存、版本库对象目录用 IGNORED 标记免除拦截(这些目录文件多、变化频繁、信任等级高);模式降级——对只读扫描场景把 FAN_CLASS_CONTENT 降到通知类(FAN_CLASS_NOTIF),从「挂起等结论」变「事后通知」,损失拦截能力换回零阻塞;扩容哨兵——扫描线程池与事件队列容量匹配机器核数,避免单线程应答成为全机瓶颈。这个现场的普适结论是:权限事件是全机同步点,它的容量设计必须按「全系统每秒 open 数」规划,而白名单的工程价值远高于堆硬件。
对比与选型建议
把两代 API 的差异收敛成一张表,选型按行对号入座:
| 维度 | inotify | fanotify |
|---|---|---|
| 订阅粒度 | 单个 inode(目录不递归) | 挂载点或整个文件系统 |
| 权限要求 | 普通用户即可 | 传统要求 CAP_SYS_ADMIN |
| 拿到内容 | 只有事件名与掩码 | 事件携带打开的 fd,可读内容 |
| 拦截能力 | 无 | 权限事件可挂起 open 等应答 |
| 典型用户 | IDE、同步盘、文件服务 | 杀毒、EDR、DLP、审计 |
补充三条表格之外的工程判断。其一,inotify 在网络文件系统上不保证收到远端变更(NFS 服务端改动不产生本地事件),跨主机的同步逻辑要有轮询兜底。其二,事件与现状不一致是常态而非异常,「事件驱动加重扫对账」是所有文件监控系统的标准架构,不存在纯事件驱动的可靠方案。其三,监控逻辑尽量挂在「终态事件」(CLOSE_WRITE、MOVED_TO)而不是过程事件(MODIFY、OPEN)上——MODIFY 一来一串,只有 close 才代表「写完了」,挂在错的事件上,下游处理的全是半截文件。
小结
- inotify:fd 化的事件订阅,watch 挂 inode 不递归,wd 映射与生命周期(IN_IGNORED)由应用维护,溢出(IN_Q_OVERFLOW)必须触发重扫。
- 三个 sysctl 定规模:max_queued_events、max_user_watches、max_user_instances;ENOSPC 大多是第二个撞的。
- fanotify:系统级订阅、事件带 fd 可读内容、权限事件可拦截,是安全类软件的底座;应答延迟即全机延迟,白名单与降级是两大治理手段。
- 递归监控的正确姿势:遍历挂 watch 后再完整重扫对账;网络文件系统上事件不可靠,轮询兜底。
- 挂终态事件不挂过程事件;事件与现状不一致要容忍,监控架构永远保留重扫能力。
读者留言
COMMENTS 暂无还没有留言,来说第一句?