搜索:浮点数

共命中 50 条(服务端检索)
一篇读懂浮点数:IEEE 754 与 0.1+0.2≠0.3 的真相
为什么 0.1+0.2 不等于 0.3?为什么金额计算永远不用 float?答案藏在 IEEE 754 的科学计数法里:有限的比特要表示无限的实数,误差是物理必然。本篇拆解浮点数的结构、精度丢失的机制、常见坑(比较、累加、溢出)与正确姿势(定点数、Decimal、Kahan 求和)。
一叶一世界 精选 · 原创 · 今天 阅读 2·访客 2
英特尔奔腾浮点缺陷复盘:跟用户算技术账,用户跟你算态度账
1994 年,一位数学教授发现奔腾处理器的除法运算有极小概率出错,英特尔的回应是「这对绝大多数用户无影响」——技术上完全正确的判断,却引发了用户的暴怒与公司的全面溃败。英特尔最终付出 4.75 亿美元全额更换。这个案例确立了一条铁律:技术账算得再精,也抵不过态度账的一分欠账。
行业动态 精选 · 原创 · 昨天 阅读 7·访客 7
爆料称 AMD 为微软 XBOX Helix 和索尼 PS6 主机设计的芯片已流片,前者浮点算力纸面领先四成
IT之家 9 月 23 日消息,据外媒 Wccftech 今天(23 日)晚间报道,AMD 爆料者 Kepler_L2 透露,AMD 为 PlayStation 6 和 XBOX Helix 设计的芯片**现已完成流片**,两款主机有望明年…
行业动态 IT之家 · 9-23 阅读 40·访客 40
向量数据库选型指南:从暴力搜索到 HNSW
RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起,拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数,分析召回率、内存、延迟的三角权衡,给出按数据量分层的务实选型决策。
后端技术 精选 · 原创 · 10-6 阅读 336·访客 332
一篇读懂位运算:掩码、异或与一个比特的空间艺术
位运算是最低级的语言也是最快的计算:AND/OR/XOR/移位六个操作符,撑起了权限系统、IP 子网、位图、布隆过滤器与无数性能优化。本篇拆解六个操作的语义与惯用法、用位存状态的设计模式、以及哪些位运算优化值得写、哪些是负优化。
一叶一世界 精选 · 原创 · 今天 阅读 2·访客 2
一篇读懂混合精度训练:FP16、BF16 与损失缩放
训练换 FP16 提速省显存,小梯度却会成批归零。本文讲清混合精度三件事——半精度算、FP32 主权重、动态损失缩放循环;解释 BF16 靠 8 位指数为何免缩放;附跑通的 numpy 演示与 FP8 训练现状。
一叶一世界 精选 · 原创 · 10-7 阅读 204·访客 203
LeetCode 4. 寻找两个正序数组的中位数:一道 Hard 背后的二分思想
合并后取中位数人人会写,O(log(m+n)) 才是这道题的灵魂。本文从「中位数 = 划分点」这个视角重构问题,讲透最直观的「找第 k 小」解法,给出一份本地验证通过的 Python 实现(含 20000 组随机对拍),再对比面试官更爱的「切分线」解法,最后说清为什么这道题是二分思想的试金石。
算法题解 精选 · 原创 · 10-25 阅读 62·访客 62
LeetCode 347. 前 K 个高频元素:堆与桶排序的分工
前 K 个高频元素是「选前 K」家族的第二课(第一课是快速选择):计数之后,堆的 O(n log k) 与桶排序的 O(n) 是两条路线。本文讲清堆解法的通用性、桶排序的空间换时间、以及「前 K 问题」的选择决策树。
算法题解 精选 · 原创 · 昨天 阅读 15·访客 15
LeetCode 347. 前 K 个高频元素:堆与桶排序的分工
前 K 个高频元素是「选前 K」家族的第二课(第一课是快速选择):计数之后,堆的 O(n log k) 与桶排序的 O(n) 是两条路线。本文讲清堆解法的通用性、桶排序的空间换时间、以及「前 K 问题」的选择决策树。
算法题解 精选 · 原创 · 昨天 阅读 3·访客 3
一篇读懂 Embedding:文本如何变成向量
语义检索的第一步是把文本变成可比较的向量。本文从 one-hot 的困境讲到稠密向量的语义几何,手算一个余弦相似度的小例子,再用十几行代码演示从 encode 到 top-k 的完整流程,最后点出语义匹配最常见的两个坑。
一叶一世界 精选 · 原创 · 10-6 阅读 186·访客 185
一篇读懂采样参数:temperature 与 top-p 是怎么给模型「调性格」的
同一个模型,temperature 从 0.2 调到 1.2,可以从「背答案的图书馆员」变成「喝了两杯的诗人」——模型一个参数都没变,变的只是从概率分布里挑词的规则。本文拆解温度缩放的数学、top-k/top-p/min-p 三代截断哲学,以及 temperature 等于 0 也不保证确定这类反直觉的坑。
一叶一世界 精选 · 原创 · 10-8 阅读 237·访客 229
Claude Code 实战工作流:CLAUDE.md、子智能体与 Hooks
Claude Code 用法实操:CLAUDE.md 记忆文件分层加载规则与模板、子智能体定义与上下文隔离、PreToolUse/PostToolUse 钩子拦截与自动格式化配置,附探索-计划-实现-提交循环、headless CI 集成与成本边界分析。
智能体 精选 · 原创 · 10-7 阅读 342·访客 334
一篇读懂 RAG:为什么「先检索再生成」常比微调更划算
大模型的知识停在训练截止日,私有知识它更是从未见过。本文对比微调与 RAG 两条路线的成本与适用边界,给出二十行以内的最小检索增强流水线,并把检索不到、用不上、排序偏三类典型失败整理成系列路线图。
一叶一世界 精选 · 原创 · 10-6 阅读 305·访客 302
Ollama 实战指南:笔记本上跑大模型的正确姿势
想在笔记本上跑大模型,Ollama 是门槛最低的路径之一。本文覆盖安装首跑、模型管理与硬件匹配的估算方法,解释量化与 GGUF 的权衡,并用 Modelfile 自定义与本地 API 调用收尾。
开源项目 精选 · 原创 · 10-6 阅读 337·访客 248
模型量化的精度账:从 FP16 到 INT4 该怎么选
从 FP16 压到 INT4,体积与显存降到约四分之一,量化是大模型部署的标配。本文讲清量化原理、PTQ 与 QAT 两条路线、RTN/GPTQ/AWQ 的思想差异,以及按显存逐级下降的选型决策表。
大模型 精选 · 原创 · 10-6 阅读 504·访客 504
大模型工作原理全解析
Tokenizer 的工作机制:BPE 分词、上下文窗口与计费逻辑
大模型 精选 · 原创博客 · 2025-02-26 阅读 133·访客 133
一篇读懂数据库连接池:为什么不能每个请求都建连接
数据库连接的建立涉及 TCP 三次握手、TLS 协商、MySQL 认证与会话初始化——高并发下每个请求都新建连接,数据库会被认证风暴打垮。连接池通过复用连接解决这个问题,但池的参数(大小、超时、空闲回收)设计不当反而成为瓶颈。本文讲清连接池的原理与调优。
后端技术 精选 · 原创 · 昨天 阅读 12·访客 12
智能体生态观察 · 第 5 篇|企业采用智能体的断层:试点繁荣与生产困境
企业智能体的真实采用曲线呈断层状:POC 与试点遍地开花,真正进入生产并承担关键业务的凤毛麟角。本篇观察断层的位置与成因(六个生产化缺口)、跨越断层的组织形态、以及「试点工厂」陷阱——为什么大量企业困在永远试点里。
智能体 精选 · 原创 · 昨天 阅读 9·访客 9
FlashAttention 深度解析:一次在数学上什么都没改的注意力加速
FlashAttention 不近似、不改公式,却把注意力训练速度提高数倍、显存从 O(N²) 降到 O(N)——靠的是把「少走显存」当成一等目标:分块装进片上内存、用 online softmax 增量修正、达到 IO 复杂度理论下界。本文拆解它的算法原理与 v1→v2→v3 三代硬件适配,以及它管不了的事:KV cache 与自定义 mask。
大模型 精选 · 原创 · 10-9 阅读 327·访客 324
早报|曝iPhone Duo量产初期良率仅过六成/小米18 Pro加入硬件级防窥/OpenAI新模型24天攻克百道数学未解难题
📱曝 iPhone Duo 量产前期整机组装良率仅六成多 💵曝 DeepSeek 筹备 500 亿元新一轮融资,将华为训练芯片视为重要押注 📉Omdia:今年全球智能手机出货量预计下降 12% 🧠新模型攻克超 100 道数学难题,O…
开源项目 爱范儿 · 9-22 阅读 87·访客 87
实时大数据分析利器 Apache Druid
Druid 连接池的架构设计与监控能力解析
后端技术 精选 · 原创博客 · 2020-05-24 阅读 225·访客 224
LeetCode 42. 接雨水:从暴力到双指针的四层跃迁
接雨水是「按列求水」模型的经典困难题。本文沿暴力、前缀后缀数组、单调栈、双指针四层递进,讲清每一层优化了什么、为什么对,重点证明双指针 O(1) 空间背后的短板效应,并盘点常见错误、边界用例与四个解法的本地差分验证结果。
算法题解 精选 · 原创 · 10-10 阅读 241·访客 241
一篇读懂 RoPE:旋转位置编码怎么「转」出长上下文
从自注意力不识顺序的痛点讲起,用二维复数把旋转位置编码的推导一次讲透:内积为何只依赖 m−n、高维频率如何分配,配一份本地跑通的 numpy 最小实现与整体平移不变性实验,再谈 PI、NTK-aware、YaRN 的长上下文扩展路线与 ALiBi 的取舍。
一叶一世界 精选 · 原创 · 10-7 阅读 217·访客 211
LeetCode 102. 层序遍历:BFS 的分层艺术
层序遍历是 BFS 的第一课进阶:不只按层访问,还要「按层分组」输出。核心技巧是「按层处理循环」——外层 while 管层数、内层 for 管本层节点,队列的长度快照就是本层的边界。本文讲清分层技巧、它的三个杀手级应用(最短路径、右视图、之字形),以及 BFS 的「最短性」为什么成立。
算法题解 精选 · 原创 · 昨天 阅读 7·访客 7
LeetCode 102. 层序遍历:BFS 的分层艺术
层序遍历是 BFS 的第一课进阶:不只按层访问,还要「按层分组」输出。核心技巧是「按层处理循环」——外层 while 管层数、内层 for 管本层节点,队列的长度快照就是本层的边界。本文讲清分层技巧、它的三个杀手级应用(最短路径、右视图、之字形),以及 BFS 的「最短性」为什么成立。
算法题解 精选 · 原创 · 昨天 阅读 2·访客 2
增量更新与模型迁移:RAG 索引的一致性工程
文档改了一段、换个 embedding 模型、升一次切块参数——RAG 索引的一致性问题藏在所有「小改动」里:漏更新、新旧混杂、部分重建。本文把变更分三类讲清各自的正确姿势:文档增删改要级联,模型迁移要全量重建加双索引灰度,参数变更等于重建,并给出成本估算方法。
大模型 精选 · 原创 · 2天前 阅读 10·访客 10
ComfyUI(Comfy-Org/ComfyUI):把扩散模型推理拆成节点图的开源引擎,FLUX 3 Klein 首发即支持,8GB 显存跑 5.6B 模型
单日涨星破千的老牌项目迎来第二春:三天连发 v0.41/v0.42 接入 FLUX 3 Klein 与 MOSS-image;comfy-aimdo 异步权重流式让 4GB 显存也能跑大模型;执行引擎增量缓存、量化支持 fp8/nvfp4/int8。本文拆解架构、场景与横向对比。
开源项目 精选 · 用户投稿 · 10-20 💬 2 阅读 160·访客 106
以色列公司被指通过数字广告投放零点击间谍软件
多伦多大学公民实验室报告称,Discover-Tech 旗下平台 Controlium 利用数字广告实现零点击植入间谍软件,并分析其40亿条竞价记录,揭示其广告覆盖数十个国家近20万网站和应用。
行业动态 Solidot · 10-15 阅读 41·访客 41
算力治理:为什么芯片是 AI 安全的「卡脖子」杠杆
算力是 AI 的硬通货——而它有一个其他资源没有的特性:极度集中。训练前沿模型需要的芯片、数据中心与电力,掌握在全球极少数企业手中。这个集中性让「算力」成为 AI 治理的独特杠杆:出口管制用它卡能力的扩散,追踪机制用它验证合规。本文讲清算力治理的逻辑、实践与它管不住的部分。
行业动态 精选 · 原创 · 昨天 阅读 6·访客 6
一篇读懂模型量化:INT8/INT4 压完之后,能力到底损失多少
量化把模型权重从 FP16 压到 INT8 甚至 INT4——显存省一半到四分之三,本地部署因此成为可能。但「压完损失多少」取决于方法: naive 量化会毁掉模型,精心设计的量化几乎无损。本篇拆解量化的数学原理、PTQ 与 QAT 两条路线、per-channel 粒度与分组量化的意义,以及一张「什么位宽选什么」的决策表。
大模型 精选 · 原创 · 昨天 阅读 2·访客 2
一篇读懂限流器:令牌桶、漏桶与滑动窗口的取舍
限流是每个上线系统迟早要补的一课,但「用哪个算法」绝不是背四个名词就完事——固定窗口的边界突刺、令牌桶与漏桶的镜像关系、滑动窗口对数版的内存账,每个选择背后都是真实的取舍。本文用 Redis 官方教程的五种实现为骨架,讲透算法、原子性与选型。
一叶一世界 精选 · 原创 · 10-25 阅读 90·访客 88
AI早报:iPhone Duo大模型备案有望12月上线,OPPO与Manus官宣合作
科技早报汇总:苹果AI国行版或12月上线、ASML营收数据、存储设备涨价、企业微信与WorkBuddy打通、OPPO与Manus合作、美国多州起诉OpenAI、Modal巨额融资及黄仁勋谈AI安全等行业动态。
行业动态 爱范儿 · 10-15 阅读 61·访客 61
一篇读懂投机解码:大模型推理的「先猜后验」
解码阶段的大模型是内存带宽问题:一次前向读完几十 GB 权重,却只产出一个 token。投机解码让小模型先猜几个、大模型一次前向并行验证,修正拒绝采样保证输出分布完全不变——2 到 6.5 倍加速的「免费午餐」。本文拆解它的数学、三代草稿方案与 2026 年的工程现状。
一叶一世界 精选 · 原创 · 10-8 阅读 427·访客 406
一篇读懂 FlashAttention:注意力为什么能又快又省显存
标准注意力的瓶颈不在算力而在显存读写:O(N²) 的注意力矩阵要在 HBM 里反复进出。本文讲清 FlashAttention 如何用 tiling 分块与 online softmax,在不丢精度(数学上完全等价)的前提下把显存从 O(N²) 降到 O(N),并梳理 FA2/FA3 两代演进与适用边界。
一叶一世界 精选 · 原创 · 10-7 阅读 294·访客 289
手撕 Multi-Head Attention:纯 Python 从零实现并跑通
用 numpy 从零实现 Multi-Head Attention 前向(含 causal mask),45 行核心代码;附逐步形状账与参数量核算,三个实测断言验证因果依赖、softmax 归一与参数量,全部本地跑通。
大模型 精选 · 原创 · 10-7 阅读 121·访客 118
具身机器人能搞定超市盘点吗?全球七万门店正在给出答案
从Demo到货架,这两家公司要让具身智能算得过账]
行业动态 量子位 · 9-9 阅读 35·访客 34
一篇读懂训练显存账单:参数、梯度、优化器状态与激活
「7B 模型微调要多少显存」是每个入门者都会问的问题,答案却从 14GB 到 100GB 不等——取决于你算没算全四项:参数、梯度、优化器状态、激活。本篇把这四项的账一笔笔算清,给出微调与全量训练的显存公式,以及每一项的省法(混合精度、梯度检查点、LoRA、offload)。
大模型 精选 · 原创 · 昨天 阅读 5·访客 5
金融专家成长记 04|资产配置:鸡蛋与篮子的数学
分散投资为什么有效,是一可以算出来的。本文从 Markowitz 的组合数学讲到巴菲特十年赌局与 90/10 建议,量化费率与追涨杀跌两大收益漏点(30 年差四分之一、基民少赚近六成),最后给普通人一张可落地的分层配置表。
一叶一世界 精选 · 原创 · 10-16 阅读 132·访客 128
DuckDB:把分析型数据库塞进进程里,为什么 2026 年成了数据工程的默认件
进程内 OLAP 数据库 DuckDB:一条 SQL 直接查本地 CSV、Parquet 与远端对象存储,单文件落库,PyPI 月下载超 5000 万。本文讲清它的列式向量化引擎、与 SQLite、pandas、ClickHouse 的分工、2026 年的生态大事(v2.0 在路上、DuckLabs 并入 AWS),以及上手要点与真实短板。
开源项目 精选 · 原创 · 10-10 阅读 234·访客 226
深度学习的数学基础:我们知道它能用,却说不清为什么
2017 年 Ali Rahimi 领奖时说「机器学习变成了炼金术」,LeCun 当场反驳;八年过去,模型能力涨了几个数量级,「为什么泛化」的数学解释仍然是一堆可解模型里的定理。本文盘点深度学习数学基础的现状:随机标签实验、双下降、NTK、grokking、scaling laws 各自被解释到了哪一步,哪一步仍然卡住,以及 2026 年「学习力学」的学科宣言算不算转折点。
研究前沿 精选 · 原创 · 10-10 阅读 240·访客 238
LeetCode 33. 搜索旋转排序数组:一次二分讲透「分段有序」
旋转排序数组中查找目标是二分查找的变形题之王。本文讲透「分段有序」关键观察:任意 mid 切开必有一半完全有序,据此每步安全扔掉一半;给出可直接提交的 Python 实现与循环不变量思维,并拆解三个高频易错点。
算法题解 精选 · 原创 · 10-6 阅读 190·访客 189
LeetCode 22. 括号生成:带回约束的回溯第二课
括号生成是回溯第二课:全排列教了「选择-递归-撤销」骨架,这道题教「用约束剪枝」——每一步的合法选择由两个计数器(已用的左括号数与右括号数)动态决定。本文讲清约束回溯的写法、剪枝的正确性、以及「暴力生成再过滤」与「边生成边剪枝」的效率鸿沟。
算法题解 精选 · 原创 · 昨天 阅读 7·访客 7
AI 与错误信息生态:产能无限时代的真相防御
AI 把「制造可信的假内容」的产能提高了几个数量级:假新闻网站网络、克隆媒体品牌、批量生成的政治深伪——信息生态的防御方面临产能不对称的战争。本文讲清 AI 错误信息的新形态、检测与溯源的军备、以及「信任的基础设施」为什么比「逐条辟谣」更重要。
行业动态 精选 · 原创 · 昨天 阅读 3·访客 3
LeetCode 198. 打家劫舍:相邻约束下的动态规划
打家劫舍是动态规划的「相邻约束」教科书:一排房子,不能偷相邻两家,求最大金额。它比爬楼梯多一层选择结构,比零钱兑换少一层维度,是理解「状态定义决定转移方程」的最佳样本。本文讲清它的状态设计、滚动数组优化、以及与子序列问题的深层联系。
算法题解 精选 · 原创 · 昨天 阅读 3·访客 3
LeetCode 22. 括号生成:带回约束的回溯第二课
括号生成是回溯第二课:全排列教了「选择-递归-撤销」骨架,这道题教「用约束剪枝」——每一步的合法选择由两个计数器(已用的左括号数与右括号数)动态决定。本文讲清约束回溯的写法、剪枝的正确性、以及「暴力生成再过滤」与「边生成边剪枝」的效率鸿沟。
算法题解 精选 · 原创 · 昨天 阅读 6·访客 6
LeetCode 198. 打家劫舍:相邻约束下的动态规划
打家劫舍是动态规划的「相邻约束」教科书:一排房子,不能偷相邻两家,求最大金额。它比爬楼梯多一层选择结构,比零钱兑换少一层维度,是理解「状态定义决定转移方程」的最佳样本。本文讲清它的状态设计、滚动数组优化、以及与子序列问题的深层联系。
算法题解 精选 · 原创 · 昨天 阅读 7·访客 7
操作系统内功 · 第 29 篇|容器网络:veth、bridge 与跨主机 Overlay 的完整拓扑
容器网络的每一跳都发生在内核里:veth 把 namespace 连成网线,bridge 当交换机,iptables 做 NAT,跨主机再叠一层隧道或路由。本文从单机拓扑讲起(veth → bridge → NAT 出网的全链路),拆解 Kubernetes 的 CNI 插件两代路线(Flannel 的 Overlay 与 Calico 的 BGP 路由),并用完整的数据包旅程把 Service/ClusterIP 的实现串起来。
后端技术 精选 · 原创 · 昨天 阅读 12·访客 12
RAPTOR 与层级索引:摘要树怎么答「全书级」问题
「这本书的核心论点是什么」「三个季度业绩的整体趋势如何」——这类需要通读全库的问题,切块检索天然答不好:证据散在几十个块里,谁也匹配不上查询。RAPTOR 对分块递归聚类、逐层生成摘要,建出一棵可检索的摘要树。本文讲它与 GraphRAG 的分工、构建成本与适用边界。
大模型 精选 · 原创 · 2天前 阅读 7·访客 7
一篇读懂一致性哈希:扩容时只搬 K/N 个 key 的艺术
缓存集群从 10 台扩到 11 台,取模哈希会让几乎全部 key 搬家、缓存瞬间全 miss——一致性哈希用「把服务器和 key 都撒到同一个环上」这一步,把迁移量从「几乎全部」压到「约 K/N」。本文讲透环模型、虚拟节点、它的家族变体,以及工程落地清单。
一叶一世界 精选 · 原创 · 10-24 阅读 95·访客 88
MoE 深度解析:路由、负载均衡与 671B 只激活 37B 的代价
混合专家(MoE)让模型参数量与计算量解耦,但代价是引入了一个训练时最容易翻车的部件——路由器。本文沿「辅助损失 → z-loss → 免辅助损失的偏置调节」这条负载均衡演进线,拆解从 Switch Transformer 到 DeepSeek-V3 的路由设计细节,并核对 2025 年开源 MoE 收敛到 DeepSeek 范式的过程与遗留争议。
大模型 精选 · 原创 · 10-9 阅读 315·访客 299