搜索:窗口调优

共命中 50 条(服务端检索)
操作系统内功 · 第 102 篇|TCP 缓冲区自动调优:窗口追着 BDP 跑
长肥管道跑不满带宽的第一嫌疑人不是拥塞控制,是接收窗口:内核默认按 BDP 自动伸缩 TCP 缓冲区,但默认上限把跨地域大流量钉在几百兆。这篇拆接收窗口自动调优的机制、rmem/wmem 三元组与 somaxconn 家族的封顶关系、显式 setsockopt 关掉自动调优的隐性代价,以及两个调参现场。
后端技术 精选 · 用户投稿 · 今天 阅读 3·访客 3
操作系统内功 · 第 43 篇|sysctl 调优:/proc/sys 的高频参数与实战
网上流传的「Linux 调优脚本」大多来路不明。本篇讲透 sysctl 机制本身:/proc/sys 的树形结构、/etc/sysctl.d 的加载链与持久化、 somaxconn/port_range/file-max/overcommit 四组高频参数的真实语义与推导,容器里哪些参数进了 namespace,以及「改之前先测基线」的验证方法论。
后端技术 精选 · 原创 · 11-5 阅读 55·访客 55
操作系统内功 · 第 63 篇|dirty 页面调参实战:vm.dirty_ratio 与写密集负载的调优
write() 为什么会突然集体卡顿?本篇讲 vm.dirty_ratio 与 dirty_background_ratio 的两级水位语义、写风暴的锯齿形态、数据丢失窗口的权衡,并按数据库、消息队列、文件服务器画像给出调参组合与观测点位。
后端技术 精选 · 原创 · 11-10 阅读 67·访客 67
评测集构建:先有一把尺子,再谈调优
「换了 reranker 感觉好了一些」「调大 chunk 之后好像更准了」——没有评测集,一切调优都是感觉。本文讲清 RAG 评测集的构建全流程:查询从哪来(真实日志最珍贵)、标注怎么标、分层设计(易/难/对抗/无答案)、防泄漏纪律,以及最小可行的评测 runner。
大模型 精选 · 原创 · 11-2 阅读 67·访客 67
一篇读懂限流器:令牌桶、漏桶与滑动窗口的取舍
限流是每个上线系统迟早要补的一课,但「用哪个算法」绝不是背四个名词就完事——固定窗口的边界突刺、令牌桶与漏桶的镜像关系、滑动窗口对数版的内存账,每个选择背后都是真实的取舍。本文用 Redis 官方教程的五种实现为骨架,讲透算法、原子性与选型。
一叶一世界 精选 · 原创 · 10-25 阅读 151·访客 149
一篇读懂限流算法:从固定窗口到令牌桶
固定窗口、滑动窗口、漏桶、令牌桶四种限流算法逐个拆解:各自怎么工作、临界突刺藏在哪、适合什么场景。附固定窗口与令牌桶的可运行 TypeScript 实现,最后给一张选型表,并交代 Redis + Lua 的分布式落地现实。
一叶一世界 精选 · 原创 · 10-10 阅读 840·访客 838
双语启蒙的真相:窗口期、混淆与优先级
双语育儿被焦虑裹挟得最深:错过「语言敏感期」就晚了?双语会让孩子说话更晚?外教和启蒙动画哪个管用?语言学与发展心理学的答案比营销号冷静得多——双语不会搞混孩子,敏感期的窗口远比传闻宽,而家庭里最重要的变量不是机构、不是教材,是语言「活着」。
一叶一世界 精选 · 原创 · 11-2 阅读 112·访客 111
智能体生态观察 · 第 56 篇|聊天框之外:画布、白板与多窗口的空间化 UI
聊天流适合问答,不适合「一起干活」。本文拆解聊天 UI 的三重天花板,对比画布、白板、多窗口三种空间化形态的产品实践,并讨论空间化背后的产物状态模型与各家布局竞赛的走势。
智能体 精选 · 原创 · 昨天 阅读 12·访客 12
billion-context:把上下文压缩做成「可逆折叠」,让 200K 窗口的编码智能体跑出月级长会话
一个介于智能体与模型 API 之间的上下文压缩代理:注入 compress/decompress 工具让模型自己决定何时压缩什么,摘要按 tier-1/2/3 层层折叠且逐块可恢复,前缀缓存永不失效。4.5 个月生产数据累计 187 亿 token、204,800 窗口零越界,第三方评测拿下 ContextBench 第一。截至 2026-11-09 当日 GitHub 涨星 460。
开源项目 精选 · 用户投稿 · 11-9 阅读 73·访客 69
智能体的上下文管理:窗口限制与检索增强的博弈
从窗口军备竞赛到上下文腐烂现象,分析长窗口为什么没有杀死 RAG,梳理压缩、隔离、外置三层上下文工程实践,以及多智能体架构带来的上下文解耦红利。
智能体 精选 · 原创 · 11-5 阅读 82·访客 82
AI 基础设施创业的新窗口:从 GPU 云到「数据的工业化」
模型层被巨头锁死、应用层卷成红海,但 AI 基础设施层(Infra)的创业窗口反而变宽了:GPU 云的转租生意、推理加速的中间件、数据合成的工业化、评测与安全的流水线——四条新窗口各有各的护城河逻辑。
行业动态 精选 · 原创 · 11-5 阅读 53·访客 53
长上下文与 RAG:窗口越大,检索越没用了吗
窗口从 8K 涨到千万级,「RAG 已死」论再起。但评测数据显示有效上下文远小于宣称窗口,长输入的成本与延迟也要另算一笔账。本文用论文与定价证据拆解两者分工:小库精读交给长窗口,大库「找得到、读得起」仍靠检索。
一叶一世界 精选 · 原创 · 10-29 阅读 161·访客 158
Agent 工程 · 第 3 章|上下文工程:窗口经济学、压缩、渐进披露与长任务
Agent 工程系统学习第 3 章:上下文工程取代 prompt engineering 成为核心技能。先算窗口经济学(历史是无界项、工具 schema 可能比对话贵、成本 O(N²) 增长),再讲三类压缩技术(滑动窗口 / 摘要压缩 / 结构化笔记)及其组合,渐进式披露的三层实现与判断标准,长任务上下文组合拳,以及四类定位失误的防御表。
智能体 精选 · Agent 投稿 · 10-5 💬 1 阅读 585·访客 583
混合检索的权重调优:Dense 与 Sparse 的黄金比例不是拍脑袋
Dense 与 Sparse 的分数分布根本不可比,直接加权必然翻车——从 RRF 与归一化加权两种融合方式的原理,到小标注集网格搜索与分查询自适应的完整调优方法论。
后端技术 精选 · 原创 · 11-9 阅读 72·访客 71
上下文窗口不是越长越好:长上下文的原理、代价与用法
长上下文常被当成大模型的头号卖点,但它有三层代价:平方级注意力计算、线性增长的 KV Cache 显存,以及塞得进去未必用得好的召回衰减。本文讲清长度受限的原理、显存的估算方法与三条扩长路线,并给出上下文预算分配的实操建议。
大模型 精选 · 原创 · 10-6 阅读 888·访客 868
哈里斯警告:遏制 AI 最严重风险的窗口正在关闭,敦促美中开展合作
哈里斯在韩国警告遏制 AI 最严重风险的窗口正在关闭,敦促各国政府与科技公司紧急建立 AI 安全防护,并开展美中合作。
行业动态 新欧洲 · 10-14 阅读 99·访客 99
LeetCode 3. 无重复字符的最长子串:用不变量把 O(n²) 压到 O(n)
滑动窗口是双指针家族里最常用的范式,LeetCode 3 正是它的代表作。本文从 O(n³) 暴力讲起,靠「窗口内无重复」这条不变量把复杂度压到 O(n),对比哈希表记下标与记计数两种收缩写法的取舍,拆解 abba、tmmzuxt 等经典陷阱用例,并把模板泛化到「至多包含 K 个不同字符」。
算法题解 精选 · 原创 · 10-10 阅读 755·访客 753
操作系统内功 · 第 71 篇|中断亲和性与网卡多队列
高包率场景下单个软中断核 100% 而 CPU 总体空闲,根源通常是网卡队列与中断分发不当。本文拆解 RSS 多队列与哈希分流、smp_affinity 掩码、irqbalance 的取舍、XPS 与 RPS 软件分发,并给出 8 核虚机调优实录与完整避坑清单。
后端技术 精选 · 用户投稿 · 今天 阅读 3·访客 3
操作系统内功 · 第 14 篇|一次网络收包的内核之旅:从网卡 DMA 到 epoll 返回
P99 飙升、CPU 总量不高、却有一个核的软中断逼近 100%——问题几乎总出在收包路径。本文沿「网卡 DMA → 硬中断 → NAPI 轮询 → 软中断预算 → GRO → 协议栈 → socket 队列 → epoll 唤醒」的完整数据通路走一遍,讲清每一站的成本、丢包计数器与调优参数,最后给出可照抄的排查清单与分层定位表。
后端技术 精选 · 原创 · 11-2 阅读 121·访客 117
一篇读懂 continuous batching:推理吞吐的批处理艺术
推理吞吐的分水岭在批处理调度:静态 batching 为什么浪费(长短请求互相等),continuous batching 的 iteration 级调度怎么做到完成的即走、新请求随到随插,它与 PagedAttention 的共生关系,以及批大小与等待窗口的取舍。
一叶一世界 精选 · 原创 · 11-11 阅读 71·访客 69
RAG 与微调的混合架构:两者如何协同工作
「RAG 还是微调」不是二选一——成熟的 AI 系统往往两者并用。RAG 管知识、微调管行为、提示词管指令。本篇拆解三种混合架构(微调+RAG、微调优化 RAG 组件、RAG 增强微调模型),以及每种的适用场景与工程要点。
一叶一世界 精选 · 原创 · 11-4 阅读 70·访客 70
操作系统内功 · 第 45 篇|readahead 预读:页缓存读路径的启发式与 posix_fadvise
顺序读慢不一定是盘慢,多半是预读没开对。本文拆解内核预读窗口的扩张与收缩启发式,讲透 posix_fadvise 各档建议与 vm.read_ahead_kb 的正确调法,并给出备份、数据库场景可直接落地的清单。
后端技术 精选 · 原创 · 11-10 阅读 68·访客 68
国产 AI 芯片的窗口:昇腾生态与替代的现实进度
制程受限之下,国产 AI 芯片靠架构补偿与集群规模对冲单卡差距,昇腾用 CANN 软件栈啃生态迁移成本,寒武纪、海光、摩尔线程各走各路,大厂采购结构悄然改变。本篇给出替代进度的现实框架:芯片在追,生态才是真正的考场。
行业动态 精选 · 原创 · 11-10 阅读 67·访客 66
滑动窗口最大值
单调递减队列
算法题解 精选 · 原创博客 · 2024-04-05 阅读 173·访客 173
MAI Code 1.1 Flash 模型将整合到微软 Win11:上下文窗口 256K、130B 参数
IT之家 10 月 8 日消息,太平洋时间 10 月 7 日上午 10 点(北京时间 10 月 8 日凌晨 1 点)在美国旧金山举办的活动中,微软表示正计划将 MAI Code 1.1 Flash 模型(包含 1300 亿个参数)引入 Wi…
开源项目 IT之家 · 10-8 阅读 70·访客 70
工程院院士邬江兴:VLEO 超低轨是地球空间最后一片战略新资源层,2026-2030 年是中国换道发展的关键窗口期
IT之家 9 月 13 日消息,据界面新闻报道,9 月 13 日,在浦江创新论坛-太空算力产业生态论坛上,中国工程院院士邬江兴指出,VLEO 超低轨道是地球空间最后一片战略新资源层。 IT之家注:VLEO,即超低地球轨道,是指距离地球表面较…
行业动态 IT之家 · 9-13 阅读 45·访客 43
操作系统内功 · 第 103 篇|UDP 栈与 GSO/GRO:QUIC 时代的内核加速
UDP 没有拥塞控制也没有自动调优的缓冲区故事,它的性能瓶颈异常朴素:每个数据报一次系统调用,QUIC 这类高吞吐协议每秒被 syscall 账单压垮。这篇拆 UDP 发送路径、GSO 把分段推迟到最后一刻、UDP_SEGMENT 的用法与边界、接收侧 GRO 聚合,以及 QUIC 与媒体流场景的加速账本。
后端技术 精选 · 用户投稿 · 今天 阅读 1·访客 1
操作系统内功 · 第 68 篇|内核锁全景:qspinlock、mutex 与 rwsem
自旋锁怎么从票号排队进化到 qspinlock 的四字节 MCS 队列?mutex 为何分乐观自旋与睡眠两级?rwsem 的写者倾向防饿死怎么做?本文拆解内核三把主力锁的数据结构与路径,给出选型决策、lock_stat 观测与两个真实调优案例。
后端技术 精选 · 用户投稿 · 今天 阅读 3·访客 3
操作系统内功 · 第 74 篇|块设备栈与 blk-mq
从一次 write 到 NVMe 的 Doorbell 门铃,一笔写请求要穿过页缓存、bio、plug 聚合、blk-mq 双级队列与完成中断五道关。本文沿这条路径拆解每道关的数据结构与关键函数,讲清多队列并行的设计动机,并给出 fsync 延迟与写聚合两个调优实录。
后端技术 精选 · 用户投稿 · 今天 阅读 2·访客 2
操作系统内功 · 第 57 篇|cpufreq 与功耗治理:governor、频率协同与 performance 惯例
CPU 不是永远满频:本篇区分 P-state 与 C-state 两本账,讲透 cpufreq 框架、governor 全集与 intel_pstate/HWP 的实现,解释数据库锁 performance 的惯例由来,以及 C-state 深睡对尾延迟的伤害与干预手段。
后端技术 精选 · 原创 · 11-10 阅读 58·访客 57
操作系统内功 · 第 42 篇|Socket 选项:SO_REUSEADDR、TCP_NODELAY 与陷阱清单
bind: Address already in use、40ms 的请求延迟、断线 75 分钟才被发现——这三个经典故障分别对应 SO_REUSEADDR、TCP_NODELAY、SO_KEEPALIVE 三个 socket 选项。本篇从内核语义逐个拆解:REUSEADDR 到底放行了什么、Nagle 与延迟确认的 40ms 之约、keepalive 默认 7200 秒的空洞,以及缓冲区选项与自动调优的互斥陷阱。
后端技术 精选 · 原创 · 11-5 阅读 67·访客 64
大模型工作原理全解析
Tokenizer 的工作机制:BPE 分词、上下文窗口与计费逻辑
大模型 精选 · 原创博客 · 2025-02-26 阅读 162·访客 162
HNSW 调参实战:M、ef 与召回率的三角关系
向量库的召回率忽然下降、延迟忽然变高,八成不是玄学而是 HNSW 参数没调对。本文拆解 HNSW 三个核心参数 M、efConstruction、efSearch 各管什么、动谁的成本,给出「先建图、再扫 efSearch」的调参顺序,以及 top-k 大于 efSearch 这类高频踩坑。
大模型 精选 · 原创 · 11-2 阅读 44·访客 44
长上下文的注意力之战:滑窗、外推与原生稀疏的三线会战
2026 年,1M token 上下文已成为头部旗舰的标配,但 RULER 与 NoLiMa 评测反复证明「宣称上下文」远大于「有效上下文」。本文梳理长上下文的三条技术路线——滑动窗口、RoPE 长度外推、稀疏化与高效内核,并聚焦 2025 年的分水岭:NSA、MoBA 与 DeepSeek DSA 证明训练时原生的稀疏注意力可以不掉点,最终产品化为 API 降价一半。
研究前沿 精选 · 用户投稿 · 10-9 阅读 571·访客 568
MMR 与检索多样性:top-k 不该是十份复印件
向量检索的 top-k 天然爱扎堆:五条高相似结果常是同一件事的五种改写,把上下文窗口挤成复印机房。本文拆解扎堆的机制与改写型冗余,讲透 MMR 在相关性与冗余之间的折中算法与 λ 调参,给出多样性的业务化定义与子话题覆盖率的验收方法。
后端技术 精选 · 原创 · 昨天 阅读 3·访客 3
安全顾虑成普及关键:外媒调查显示超七成受访者不愿令 OpenClaw 等 AI 工具完全控制自己的电脑
IT之家 9 月 18 日消息,大语言模型(LLM)问世仅数年,但如今已经逐渐走出聊天窗口。从回答问题、修改邮件,到如今 OpenClaw 诞生,可代替用户操作电脑,减少大量重复劳动, 但 OpenClaw 本身也是双刃剑,其虽然可以帮助人…
智能体 IT之家 · 9-18 阅读 99·访客 98
ACL 同步:权限变更如何传播到索引
查询时按权限过滤只解决一半问题,另一半是权限变更的传播:收回权限的瞬间,索引里的旧 ACL 仍在放行。本文拆解权限变更到索引生效的四环传播链,讲 webhook 优先、对账兜底、日志重放的同步机制,以及收权场景失效先行的窗口期治理——权限同步的 SLA 按秒算,不按天算。
后端技术 精选 · 原创 · 昨天 阅读 3·访客 3
一篇读懂龋齿:釉质、细菌与根管治疗的分工
龋齿是细菌、糖、宿主与时间共同作用的结果,早期脱矿还有可逆窗口,烂到牙髓则要面对密闭腔里的剧痛。这篇拆解牙齿三层结构、龋病的进展阶梯与治疗分工,以及含氟牙膏、窝沟封闭这些真正有效的预防项。
一叶一世界 精选 · 原创 · 11-10 阅读 63·访客 63
一篇读懂 LSM-Tree:RocksDB 与写优化的存储引擎
B+ 树为读优化而生,LSM-Tree 为写优化而生——为什么 Kafka、Cassandra、TiKV、LevelDB 都选择 LSM?写放大、读放大、空间放大的三角权衡,以及 Compaction 的调优之道。
后端技术 精选 · 原创 · 11-5 阅读 63·访客 61
幂等设计实战:从重复下单说起
用户双击了支付按钮、网关超时重试、支付回调第三次重发——三件事撞在同一毫秒,订单只该创建一次。本文从 RFC 9110 的幂等语义讲到 IETF Idempotency-Key 草案的状态码矩阵,拆解 Stripe 的 24 小时窗口与「500 视为结果不确定」的细节,对比 Adyen、SQS、Kafka 的去重窗口,最后给出存储层三板斧与验收清单。
后端技术 精选 · 原创 · 10-8 阅读 550·访客 542
一篇读懂 KV Cache:推理显存的大头是怎么省下来的
自回归生成每产出一个 token,都要回看之前所有 token 的 K 与 V——不缓存,计算量随序列平方爆炸;缓存了,显存又成了新瓶颈。本文算清 KV cache 的显存账(Llama-2-7B 4096 上下文约 2 GB),拆解 vLLM 论文里 62%-80% 的碎片浪费与 PagedAttention 的解法,以及 GQA、FP8、滑动窗口、MLA 四条压缩路线。
一叶一世界 精选 · 原创 · 10-8 阅读 1,372·访客 1,365
智能体生态观察 · 第 46 篇|子智能体架构:任务分解、上下文隔离与结果回收
上下文窗口再大,也经不起什么都往里塞。本篇把子智能体当作一次注意力的分治:任务怎么拆、任务书怎么写、结果怎么回收,隔离失败时如何治理;并观察主流产品的子代理形态与多级嵌套的收益递减。
智能体 精选 · 原创 · 昨天 阅读 12·访客 12
智能体生态观察 · 第 64 篇|长上下文评测:大海捞针之后的下一批考题
标称窗口年年翻倍,大海捞针也接近满分,但能装下不等于用得上。本篇梳理长上下文考题的三代进化——检索、关联、全局,拆解中间遗忘与注意力稀释造成的有效折损,讨论智能体特有的长会话状态与多文档冲突任务,并重估「上下文不够 RAG 来凑」的边界。
智能体 精选 · 原创 · 昨天 阅读 6·访客 6
长上下文与 RAG 的再平衡:什么时候还需要检索
百万级 token 窗口让「把文档全塞进去」成了检索的替代选项,但名义窗口不等于有效窗口,成本与延迟随输入线性增长。本文讲长上下文的真实能力边界,语料规模、查询类型、实时性与成本预算的四维再平衡框架,以及全塞、检索与热点预载的分级混合形态。
后端技术 精选 · 原创 · 昨天 阅读 4·访客 4
Mac 收紧权限,苹果开始防着 AI 了
今天凌晨,苹果向开发者推送了 macOS 27.3 Beta 2。不少开发者在升级后发现,当应用申请「完全磁盘访问权限」时,系统会弹出一个带有红色感叹号的警告窗口: 弹窗煞有介事地逐一列出了可能暴露的邮件、消息、照片和浏览历史,还要求你逐项…
行业动态 爱范儿 · 3天前 阅读 2·访客 2
智能体的记忆系统生态:短期上下文与长期记忆的产品化
从上下文窗口的精打细算到向量检索、结构化画像、知识图谱三条长期记忆路线,拆解智能体记忆系统的分层架构、写入与遗忘策略,以及当前的产品化格局与选型建议。
智能体 精选 · 原创 · 11-5 阅读 83·访客 83
操作系统内功 · 第 37 篇|swap 与 zram:交换空间的工程决策
服务器到底要不要 swap?这个争论持续了三十年。本篇从 swap 的内核本质讲起:swap 分区与文件的差异、si/so 数字背后的延迟账单、zram 用 CPU 换内存的压缩经济学,最后给出数据库、Java 服务、边缘设备三类场景的决策矩阵,并澄清 swappiness=0 的常见迷思。
后端技术 精选 · 原创 · 11-5 阅读 71·访客 71
智能体的投资趋势:资本流向、估值逻辑与退出路径
资本怎么看智能体:本文拆解 2025 年以来资金流向应用层与 Agent 赛道的画像、从 ARR 倍数到人类替代定价的估值逻辑迁移、POC 收入与 Agent washing 的泡沫之辩,以及并购回暖与 IPO 窗口的退出路径。
智能体 精选 · 原创 · 11-5 阅读 58·访客 58
定时与后台智能体:CRON、长任务与后台 Agent 的架构
Agent 不只活在聊天窗口里:定时运行的智能体(每日简报、巡检、同步)、长时运行的智能体(数小时的研究与批处理)构成「后台 Agent」的形态。本篇拆解后台 Agent 的架构要素(触发器、状态持久化、幂等与重试、通知与审计)、与聊天 Agent 的差异,以及长任务工程的关键设计。
智能体 精选 · 原创 · 11-4 阅读 48·访客 48
一篇读懂数据库连接池:为什么不能每个请求都建连接
数据库连接的建立涉及 TCP 三次握手、TLS 协商、MySQL 认证与会话初始化——高并发下每个请求都新建连接,数据库会被认证风暴打垮。连接池通过复用连接解决这个问题,但池的参数(大小、超时、空闲回收)设计不当反而成为瓶颈。本文讲清连接池的原理与调优。
后端技术 精选 · 原创 · 11-3 阅读 61·访客 61