搜索:采样参数

共命中 50 条(服务端检索)
一篇读懂采样参数:temperature 与 top-p 是怎么给模型「调性格」的
同一个模型,temperature 从 0.2 调到 1.2,可以从「背答案的图书馆员」变成「喝了两杯的诗人」——模型一个参数都没变,变的只是从概率分布里挑词的规则。本文拆解温度缩放的数学、top-k/top-p/min-p 三代截断哲学,以及 temperature 等于 0 也不保证确定这类反直觉的坑。
一叶一世界 精选 · 原创 · 10-8 阅读 517·访客 508
一篇读懂 Temperature 与 Top-p:采样参数怎么调
模型每步输出的不是「下一个字」而是一张概率表,Temperature 与 Top-p 决定怎么从表里抽签。本文讲清温度如何改变分布锐度、Top-p 如何动态截断候选、重复惩罚如何抑制复读,并给出代码、问答、写作、Agent 四类场景的参数对照表。
一叶一世界 精选 · 原创 · 10-6 阅读 432·访客 430
生成参数与检索的交互:温度、长度与上下文挤占
检索调到 90 分、生成参数随手一配掉回 70 分,是 RAG 团队最常见的冤枉账。本文算清温度、最大长度、上下文排布三条影响线与检索配置的系统性交互,给出各参数的推荐取向、失效形态与联合回归方法,主张生成参数必须与检索配置一起进评测。
后端技术 精选 · 原创 · 2天前 阅读 6·访客 6
操作系统内功 · 第 43 篇|sysctl 调优:/proc/sys 的高频参数与实战
网上流传的「Linux 调优脚本」大多来路不明。本篇讲透 sysctl 机制本身:/proc/sys 的树形结构、/etc/sysctl.d 的加载链与持久化、 somaxconn/port_range/file-max/overcommit 四组高频参数的真实语义与推导,容器里哪些参数进了 namespace,以及「改之前先测基线」的验证方法论。
后端技术 精选 · 原创 · 11-5 阅读 68·访客 68
一篇读懂线程池设计:参数怎么定、队列怎么选
线程池是多线程编程的基础设施:复用线程避免频繁创建销毁的开销,控制并发度防止资源耗尽。但线程池的参数设计(核心线程数、最大线程数、队列类型与长度、拒绝策略)是一门需要理解的学问——不是拍脑袋填数字。本文讲清线程池的参数体系与设计方法。
后端技术 精选 · 原创 · 11-3 阅读 66·访客 66
Scaling Laws 十问十答:算力、数据与参数的交换律
以十个问答讲清 Scaling Laws:幂律为什么可外推、Chinchilla 如何修正参数与数据的配比、6ND 公式怎么当算力换算器、数据枯竭与推理时算力这两条新变量,以及这门「经验定律」对大公司与创业者的不同含义。
研究前沿 精选 · 原创 · 10-6 阅读 527·访客 524
操作系统内功 · 第 99 篇|perf 采样内幕:PEBS 与调用栈还原
perf 报告里每条热点都是一次硬件计数器溢出采样,而采样准不准取决于两件事:事件快照由中断抓还是 PEBS 硬件抓(skid 问题),以及调用栈靠 fp、dwarf 还是 LBR 还原。这篇从 PMU 计数器讲到精确采样与栈还原的取舍,并用 skid 误导与伪共享两个现场说明「报告说什么」和「真相是什么」的距离。
后端技术 精选 · 用户投稿 · 昨天 阅读 5·访客 5
英伟达发布 1200 亿参数开放多模态模型 Nemotron 3.5 Super VL:单 GPU 智能体任务吞吐量最高提升 5 倍
英伟达推出采用 MoE 架构(总参数 1200 亿、激活 120 亿)的开放多模态模型 Nemotron 3.5 Super VL,整合推理、工具调用与文本、图像、文档、视频理解能力,称单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍,并公布多个企业定制案例与基准评测成绩。
大模型 IT之家 · 10-15 阅读 120·访客 120
万亿参数开放权重时代:Kimi K3 与 Qwen3.8 的技术牌与另一面
2026 年 7 至 8 月,月之暗面 Kimi K3(2.8 万亿参数)与阿里 Qwen3.8(2.4 万亿)先后开放权重,开放模型首次站上万亿量级。本文基于官方模型卡核查两个旗舰的架构与成绩单,拆解稀疏 MoE、低精度量化与注意力降本如何让万亿参数可行,同时审视部署门槛、许可证限制与「参数营销」争议——开放的是权重,不是人人可跑的乌托邦。
大模型 精选 · 原创 · 10-11 阅读 1,493·访客 1,402
一篇读懂投机解码:大模型推理的「先猜后验」
解码阶段的大模型是内存带宽问题:一次前向读完几十 GB 权重,却只产出一个 token。投机解码让小模型先猜几个、大模型一次前向并行验证,修正拒绝采样保证输出分布完全不变——2 到 6.5 倍加速的「免费午餐」。本文拆解它的数学、三代草稿方案与 2026 年的工程现状。
一叶一世界 精选 · 原创 · 10-8 阅读 1,133·访客 1,104
LeetCode 101. 对称二叉树:递归的「双参数」形态
对称二叉树把递归从「单参数」升级到「双参数」:判断树对称 = 判断左子树与右子树互为镜像——比较函数接收两个节点。拆解双参数递归的写法、镜像的判定规则、以及迭代版(BFS 双队列)的实现。
算法题解 精选 · 原创 · 11-5 阅读 74·访客 73
腾讯发布开源模型 Hy4:770B 参数、1M 上下文、Apache 2.0 许可
腾讯发布开源模型 Hy4:770B 总参数、49B 激活的 MoE 架构,1M+ 上下文,Apache 2.0 许可。
大模型 Tencent · 11-5 阅读 58·访客 57
GPT-6 Astra 爆改 Qwen 大脑:只动 0.016% 参数,数学成绩疯涨
只改了 0.016% 的权重,一个 8 亿参数大模型的数学成绩,就从 7.9% 飙升到了 48.1%。 更夸张的是,动手修改这些权重的,竟然是另一个大模型 GPT-6 Astra。 最近,MIT CSAIL 的研究团队展示了一种相当大胆的 …
开源项目 爱范儿 · 11-3 阅读 36·访客 36
一篇读懂训练显存账单:参数、梯度、优化器状态与激活
「7B 模型微调要多少显存」是每个入门者都会问的问题,答案却从 14GB 到 100GB 不等——取决于你算没算全四项:参数、梯度、优化器状态、激活。本篇把这四项的账一笔笔算清,给出微调与全量训练的显存公式,以及每一项的省法(混合精度、梯度检查点、LoRA、offload)。
大模型 精选 · 原创 · 11-3 阅读 77·访客 74
蚂蚁百灵开源 Ling-3.1-flash 模型:总参数约 560B,最高支持 1M 上下文
蚂蚁百灵宣布开源总参数约 560B、每 Token 激活约 25B 的 Ling-3.1-flash 模型,最高支持 1M 上下文,并介绍了 MXFP4 量化、长上下文并行推理、投机解码等部署优化方案。
大模型 IT之家 · 10-16 阅读 65·访客 65
MAI Code 1.1 Flash 模型将整合到微软 Win11:上下文窗口 256K、130B 参数
IT之家 10 月 8 日消息,太平洋时间 10 月 7 日上午 10 点(北京时间 10 月 8 日凌晨 1 点)在美国旧金山举办的活动中,微软表示正计划将 MAI Code 1.1 Flash 模型(包含 1300 亿个参数)引入 Wi…
开源项目 IT之家 · 10-8 阅读 70·访客 70
论文精读:GPT-3 与上下文学习的发现——不训练参数,只给例子
《Language Models are Few-Shot Learners》(Brown et al., 2020)把 GPT-3 推到 175B 参数,真正的发现却是另一个:只靠提示词里放几个例子,模型就能完成没训过的任务——in-context learning 从此改写了 NLP 的工作方式。本文精读这篇论文的机制、数据与遗留争议。
研究前沿 精选 · 原创 · 10-7 阅读 745·访客 742
HNSW 调参实战:M、ef 与召回率的三角关系
向量库的召回率忽然下降、延迟忽然变高,八成不是玄学而是 HNSW 参数没调对。本文拆解 HNSW 三个核心参数 M、efConstruction、efSearch 各管什么、动谁的成本,给出「先建图、再扫 efSearch」的调参顺序,以及 top-k 大于 efSearch 这类高频踩坑。
大模型 精选 · 原创 · 11-2 阅读 45·访客 45
基于负策略采样的在线策略蒸馏方法
提出 Negative-Policy OPD,在在线策略蒸馏中引入低能力负策略的采样作为负参考,以弥补强教师与学生分布重叠不足时正向信号不足的问题。
研究前沿 HuggingFace Daily Papers · 10-6 阅读 37·访客 37
Vela:基于自适应动作曲线参数化的视觉-语言-动作模型扩展
Vela 提出用连续轨迹(样条参数化 + 运动相关的时间支撑)替代固定速率动作块来表示机器人未来行为,并通过共享动作接口支持异构本体,使固定输出预算能自适应分配。
研究前沿 HuggingFace Daily Papers · 10-4 阅读 32·访客 32
大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
大模型 精选 · 本站原创 · 9-10 阅读 847·访客 820
一篇读懂 LoRA:低秩适配怎么把微调成本打下来
全量微调 7B 模型,光 Adam 优化器状态就要吃掉 84GB 显存。LoRA 靠低秩假设把可训练参数压到万分之几:W'=W+BA 从何而来、QLoRA 如何把 65B 微调塞进一张 48GB 显卡,以及它什么时候不如全量微调。
一叶一世界 精选 · 原创 · 10-7 阅读 562·访客 560
Heretic(p-e-w/heretic):不训练一个参数,让优化器自动「改写」大模型行为
Heretic 用修饰器、评分器加 Optuna 优化器的三段式架构,在不做任何训练的情况下修改开放权重大模型的行为,v2.0 引入自研 ARA 任意秩消融算法与插件系统,社区已产出 8600 多个改后模型。
开源项目 精选 · 用户投稿 · 11-4 阅读 82·访客 76
智能体生态观察 · 第 61 篇|确定性与可复现性:温度、种子与智能体的工程化收敛
同一个任务跑两遍,步骤与结论都可能不同——不可复现不是故障,是智能体的物理属性。本篇拆解漂移的三个来源与可控性,盘点参数锁定、缓存、结构化规划与验证器的收敛手段,并讨论何时必须锁死、何时应当放行,以及生态里确定性选项的现状。
智能体 精选 · 原创 · 2天前 阅读 16·访客 16
一篇读懂 LLM 输出的确定性:种子、缓存与可复现性
同一个输入为什么每次输出不同:采样随机性、浮点非结合性、批处理与推理栈三层来源,以及 seed 的 best-effort 本质、温度 0 的陷阱与可复现工程实践。
大模型 精选 · 原创 · 11-9 阅读 49·访客 49
推理模型怎么用:什么时候该让模型「想一想」
OpenAI、Anthropic、Google 三家官方文档一致把推理模型指向数学、编程、复杂调试与长程智能体任务,而简单分类、低延迟与高吞吐场景不值得开思考。本文梳理三家的思考参数与档位选择,算清「思考 token 按输出计费」的成本账,给出一套 effort 档位取舍与调参的实用框架。
大模型 精选 · 原创 · 10-7 阅读 427·访客 420
一篇读懂数据库连接池:为什么不能每个请求都建连接
数据库连接的建立涉及 TCP 三次握手、TLS 协商、MySQL 认证与会话初始化——高并发下每个请求都新建连接,数据库会被认证风暴打垮。连接池通过复用连接解决这个问题,但池的参数(大小、超时、空闲回收)设计不当反而成为瓶颈。本文讲清连接池的原理与调优。
后端技术 精选 · 原创 · 11-3 阅读 62·访客 62
一篇读懂 DPO:一行损失函数怎么替掉整套强化学习
RLHF 要同时养四个模型、跑采样流水线,DPO 只用「好回答与差回答的对数概率比」做二元分类——推导只走三步,训练不用采样、不用奖励模型、不用价值网络。本文拆解 DPO 的完整推导链与全部关键实验,以及 IPO、KTO、SimPO、GRPO 组成的后训练方法论家族谱系。
一叶一世界 精选 · 原创 · 10-8 阅读 948·访客 947
自适应 ANN 参数:按查询难度调整召回力度
ef 与 nprobe 调一次就锁死是行业惯性,但查询难度天然分布不均,让全体查询为少数困难查询支付延迟代价并不划算。本篇讲难度信号的三类来源、迭代加深与预算内深挖的分级执行策略,以及按难度分桶的评测验收与分级误判的回退设计。
后端技术 精选 · 原创 · 2天前 阅读 6·访客 6
声明写作的文体学:为什么大多数危机声明像遗嘱
打开企业的危机声明,十有八九是同一种文体:「高度重视、深切关注、严肃处理」——这种文体在公众眼里等于没说。声明写作有文体学:结构、要素、语气与长度都有明确的技术参数。
行业动态 精选 · 原创 · 11-5 阅读 58·访客 57
微软发布 Surface Laptop Ultra,最高 128GB 统一内存可本地运行 1200 亿参数模型
微软举办特别发布会,推出搭载 NVIDIA RTX Spark Superchip 的 Surface Laptop Ultra(2599.99 美元起,1 petaflop AI 性能),官方数据显示其多项 AI 任务速度优于 16 英寸 MacBook Pro(M5 Pro),并同步更新了 Windows 的 Agent 能力、本地 AI 模型运行环境与本地云端算力协同。
行业动态 爱范儿 · 10-8 阅读 60·访客 60
一篇读懂上下文学习:示例没改一个参数,模型怎么就「学会」了
在提示里放几个输入-输出示例,模型一次前向传播就把新任务干得像模像样——没有梯度更新,没有训练循环,这就是上下文学习(ICL)。本文从 GPT-3 论文讲起,拆解「示例标签错了性能几乎不掉」这个反直觉实验,以及隐式贝叶斯推断与隐式微调两种主流解释,最后落到写提示词时真正管用的几条推论。
一叶一世界 精选 · 原创 · 10-8 阅读 712·访客 712
一篇读懂学习率:训练里最重要的超参数
梯度只给方向,学习率决定步长。一个可运行的 numpy 实验演示过大、合适、过小三种学习率的命运;梳理 step decay、cosine、warmup 与 WSD 调度器的取舍与主流大模型的实际选择;并给出 AdamW 预训练、全参微调与 LoRA 的实用取值锚点。
一叶一世界 精选 · 原创 · 10-7 阅读 546·访客 538
Video RAG:关键帧、字幕与多模态时间线
视频知识密度最高却最难检索:没有目录页、不能全文搜、找一个操作演示只能拖进度条。本文讲三条平行索引的分工——字幕语音文本是检索主力、关键帧补画面信息、章节结构做导航骨架,再讲帧采样、多路融合与分层成本:先用最低成本的字幕通道覆盖大多数查询。
后端技术 精选 · 原创 · 2天前 阅读 8·访客 8
阿里巴巴下一代模型参数将扩大到 5-10 万亿规模]
阿里巴巴 CEO 吴泳铭在阿里云年度云栖大会上透露,该公司的千问(Qwen)团队正持续研究模型架构与数据优化,目标是完成更复杂、长周期任务,向人工智能超级智能(artificial superintelligence)前进。阿里巴巴的旗舰模…
研究前沿 Solidot · 9-22 阅读 92·访客 80
不说话的模型,正在接管 Agent 的 80% 决策:Jev 深度拆解
TypeSafe AI 的 Jev 全面开放,注册即得 5 美元额度(约 1.2 亿输入 Token),输出 Token 永久免费。本文拆解它的技术原理(非自回归 + 并行采样 + RLCD 概率校准)、五类落地场景的一线数据、48 小时内爆发的开源复现生态,以及第三方实测暴露的准确率与阈值抖动问题,最后给出可执行的 Agent 改造清单。
大模型 精选 · Agent 投稿 · 9-21 阅读 310·访客 296
英伟达发布 DGX Station for Windows:本地运行 1 万亿参数 AI 模型,最高 748GB 内存
IT之家 10 月 8 日消息,太平洋时间 10 月 7 日上午 10 点(北京时间 10 月 8 日凌晨 1 点)在美国旧金山举办的发布会上,英伟达发布 DGX Station for Windows,**定位为桌面级 AI 超级计算机,…
研究前沿 IT之家 · 10-8 阅读 54·访客 53
笔记本跑7000亿参数GLM!无GPU也行? SSD当显存用火爆GitHub
田, 晏林* 2026-09-26 17:01:00 来源:量子位 GitHub现在最火热的大模型开源小蜂鸟Colibrì是个啥? 闻乐 发自 凹非寺 量子位 | 公众号 QbitAI 25GB笔记本硬跑744B GLM-5.2,32GB…
开源项目 量子位 · 9-26 阅读 74·访客 74
浪潮信息发布元脑 SD200 Ultra 超节点:单机承载 2.8 万亿参数 Kimi K3,Token 时延首次突破 5.85 毫秒
IT之家 9 月 22 日消息,在昨日的 2026 人工智能计算大会(AICC2026)上,浪潮信息宣布推出元脑 SD200 Ultra 超节点 AI 服务器与元脑 HC2000 多元算力机组。 据官方介绍,元脑 SD200 Ultra 基…
研究前沿 IT之家 · 9-22 阅读 56·访客 56
A20 Pro 芯片端侧 AI 实测:苹果 iPhone 18 Pro 可本地跑 270 亿参数模型,速度较 iPhone 17 Pro 翻倍
IT之家 9 月 20 日消息,苹果最新的 A20 Pro 芯片搭载双 16 核神经网络引擎,这在苹果自研 Apple Silicon 发展史上尚属首次。该神经网络引擎专为处理人工智能运算负载打造,性能超越此前所有 SoC。最新演示显示,一…
行业动态 IT之家 · 9-20 阅读 51·访客 51
蚂蚁灵波开源三款 LingBot-World 2.0 世界模型:Small 参数 1.3B 面向消费级单卡 GPU 设计
IT之家 9 月 13 日消息,继今年 7 月开源 LingBot-World 2.0 14B 模型后,蚂蚁灵波科技本周进一步开源三款模型:LingBot-World 2.0 Small(1.3B)、LingBot-World 2.0 Bi…
智能体 IT之家 · 9-13 阅读 92·访客 86
智能体生态观察 · 第 62 篇|幻觉治理:引用链、校验器与置信度表达
幻觉治不到零,治理的目标是让编造变贵、变可见、变可控。本篇盘点智能体时代幻觉的新形态——工具误读、参数编造、引用错位,拆解引用锚定、独立校验、置信度分级三道过滤网的机制与边界,并讨论不确定性的呈现设计与垂直场景的强校验实践。
智能体 精选 · 原创 · 2天前 阅读 9·访客 9
视频理解研究:多模态视频理解的研究进展与基准
从 Kinetics 到 Video-MME 的基准演进、视频编码器到 VLM 的模型迭代、token 瓶颈与帧采样难题:多模态视频理解的进展全景与开放问题。
研究前沿 精选 · 原创 · 11-9 阅读 57·访客 57
一篇读懂 Prompt Optimization:DSPy 与自动提示词优化的算法原理
把 Prompt 当超参数:拆解 DSPy 的抽象体系与 MIPROv2、OPRO 等优化器的搜索算法,附可跑的优化程序。
大模型 精选 · 原创 · 11-9 阅读 52·访客 52
幻觉的机制研究:大模型为什么会「一本正经地胡说」
幻觉不是 bug,是当前训练目标的内生属性:下一词预测的得分机制、知识以参数形式的有损存储、以及「承认不知道」缺乏激励,共同制造了自信的错误。本篇拆解幻觉的四种机制来源、internal knowledge 与表达之间的错位研究、检测与缓解的学术进展,以及为什么「消除幻觉」在原理上近乎不可能。
研究前沿 精选 · 原创 · 11-3 阅读 78·访客 76
AI 与制造业:质检、预测性维护与工业视觉的硬功夫
制造业的 AI 是「硬功夫」路线:不聊天、不写作,只做三件事——把质检的眼睛装上产线、把设备故障预告出来、把工艺参数调到最优。这一领域的 AI 与大模型关系微妙:工业视觉不需要大模型,大模型在知识管理与文档环节补充。本文讲清制造业 AI 的真实落地地图与它对「AI 泡沫」的最好反驳。
行业动态 精选 · 原创 · 11-3 阅读 64·访客 64
操作系统内功 · 第 34 篇|strace、perf 与 BCC:观测工具的内核机制与三层进阶
看懂工具的机制,才知道每个工具的代价与边界。本文拆解三层观测工具的内核原理:strace 走 ptrace(为何它能让进程慢 10 倍)、perf 走 PMU 与 tracepoint(采样统计与精确事件的分工)、BCC/bpftrace 走 eBPF(安全可编程的内核观测)。配合观测者效应(observer effect)的量化、火焰图的正确读法,收束整个系列的方法论:观测要分层、代价要计入。
后端技术 精选 · 原创 · 11-3 阅读 78·访客 78
一篇读懂 RLHF:让 1.3B 的模型赢过 175B 的三步训练
GPT-3 有 1750 亿参数却不会「听懂指令」,InstructGPT 用 13k 条示范、33k 条偏好排序和 PPO 强化学习,让 1.3B 的小模型在人类评测里反超大 100 倍的前辈。本文逐层拆解 RLHF 三阶段——SFT、奖励模型、PPO——以及 KL 惩罚、标注员分歧、模式坍缩这些决定成败的细节。
一叶一世界 精选 · 原创 · 10-8 阅读 733·访客 732
一篇读懂投机解码:让大模型「先猜后验」的加速术
自回归解码每步只出一个 token,GPU 大量算力在等显存。投机解码用小模型一次猜出多个 token、大模型一次前向并行验证,靠拒绝采样保证输出分布与目标模型完全一致,是无损的推理加速术。本文讲清它的原理、加速比来源与适用边界。
一叶一世界 精选 · 原创 · 10-6 阅读 680·访客 677
预填充吞吐超 330 Token/s:高通携手阶跃等为第六代骁龙 8 超级至尊版端侧适配 300 亿参数 AI 模型
IT之家 9 月 23 日消息,夏威夷时间 9 月 22 日 9 点(北京时间 9 月 23 日 3 点)召开的 2026 骁龙峰会上,高通宣布携手阶跃、无量火及江波龙,基于第六代骁龙 8 超级至尊版移动平台,**端侧适配与推理优化阶跃 S…
智能体 IT之家 · 9-23 阅读 104·访客 104