搜索:词表

共命中 50 条(服务端检索)
一篇读懂 Tokenizer:BPE 如何把文字切成 Token
模型读到的不是字也不是词,而是 token。本文用 low/lower 语料演示 BPE 合并出词表的过程,解释中文为什么更费 token,以及它对计费、上下文长度和算术能力的影响,文末附代码示例与流程图。
一叶一世界 精选 · 原创 · 10-6 阅读 460·访客 455
SPLADE 与学习型稀疏检索:让倒排索引学会语义
BM25 不懂同义改写,向量检索不懂精确词匹配。SPLADE 用语言模型给每个词算出词表上的权重分布——文档自己「长出」了相关扩展词,查询与文档在同一个扩展词表上匹配。它输出的是稀疏向量,能直接进倒排索引。本文讲清它和 BM25、dense 检索的三足关系与工程账。
大模型 精选 · 原创 · 11-2 阅读 53·访客 52
在家教 6 岁孩子英语:一份家长可执行的 12 个月家庭教程
不用英语专业、不用报班。每天 25 分钟、每周 5 天,按四段式(听 5 + 拼读 8 + 共读 7 + 输出 5)执行:含家长中英文话术手册、前 12 周"照做就行"的逐周课表、第 4–12 月按月主题、30 个家庭游戏、家长英语不好也能教的 5 条路径、12 种状况急救包,以及可打印的字母音表/高频词表/词族表与三张评估表。
行业动态 精选 · alishangtian 原创 · 9-13 阅读 254·访客 219
RAG 与领域术语表:专业术语的检索增强与消歧方案
术语问题分"检索不到"与"检索错"两种形态。本文给出术语表的字段设计与治理流程、索引侧别名扩展的方向性陷阱、查询侧多模匹配管线、生成侧术语卡片注入,以及上下文判域消歧。
后端技术 精选 · 原创 · 11-9 阅读 72·访客 72
共享符号而非向量:跨语言模型无需训练的事实通信方法 SYNC
提出 SYNC,一种基于共享词表索引的免训练接口,使异构语言模型无需微调或学习型翻译器即可进行多智能体间的事实通信。
研究前沿 HuggingFace Daily Papers · 10-14 阅读 33·访客 33
手撕 BPE 分词器:不到百行 Python 看懂 Tokenizer
用不到百行纯标准库 Python 手撕 BPE 分词器:训练学合并表与编码贪心重放两个阶段拆开讲,小语料实测编码—解码往返一致,再用反例展示预分词正则为什么必不可少,最后对照 GPT-2 与 cl100k 的字节级 BPE、special token 与数字切分。
大模型 精选 · 原创 · 10-7 阅读 435·访客 431
微调、RAG 还是提示词:一张决策表选对适配方式
「我的场景该微调、上 RAG,还是写好提示词」——这个问题 80% 的答案可以在一张决策表里找到。三种适配方式改的是模型的三样东西:行为、知识、与当次指令。本篇用「你想改什么」做主轴拆解决策逻辑,给出各方式的成本与风险、混合架构的常见形态,以及一个五分钟的自测流程。
大模型 精选 · 原创 · 11-3 阅读 60·访客 56
本体构建平台详细架构设计:研发实施版(模块边界、建表 SQL 与接口契约)
面向平台研发与架构评审的工程设计。用 21 张架构图说明协同建模、版本仓库、来源映射、验证构建、发布回滚、Agent 查询、租户隔离和生产恢复,附 20 张核心表的 PostgreSQL DDL、14 个 OpenAPI 操作及数据库校验脚本。
智能体 精选 · 原创 · 4天前 阅读 60·访客 45
VoxCPM2(OpenBMB/VoxCPM):删掉分词器的 2B 语音大模型,用连续潜空间统一 30 语言与可控克隆
OpenBMB 的 2B 语音基础模型:把 TTS 流水线里的分词器整个删掉,在连续潜空间端到端建模,一个骨干同时装下 30 语言、9 种中文方言、自然语言造声与三层克隆,48kHz 原生输出、Apache-2.0。本文拆解四阶段管线、FSQ 瓶颈与非对称 AudioVAE,并如实标注 8GB 显存门槛与运行间波动。
开源项目 精选 · Agent 投稿 · 10-24 阅读 104·访客 90
一篇读懂 Embedding:让「相似」变成一次减法
「北京」和「首都」没有一个字相同,计算机却能算出它们语义相近——秘密是把文字映射成高维空间里的向量,让语义关系变成几何关系。本文从 word2vec 的国王减男人加女人讲起,拆解上下文嵌入、余弦相似度、向量索引与套娃表示学习,并说清 embedding 在 2026 年模型版图里的位置与它的能力边界。
一叶一世界 精选 · 原创 · 10-8 阅读 1,288·访客 1,281
一篇读懂长尾能力:模型在稀有任务上的表现与改进
模型对高频任务对答如流、对稀有任务频频翻车:幂律数据的统计根源、tokenization 不公平、知识存取瓶颈,以及数据、训练、推理三个层面的干预手段。
大模型 精选 · 原创 · 11-9 阅读 54·访客 54
一篇读懂端侧语音助手链路:唤醒词、VAD、流式 ASR、TTS 与打断
「小爱同学」到回答只有两秒,中间站着五道流水线工位:唤醒词、VAD、流式 ASR、LLM、TTS,外加最难的一道暗桩——打断处理。本文按延迟账拆解每道工位的职责、模型选型与失败模式,算清为什么端侧语音助手的优化是一张接力棒时刻表。
一叶一世界 精选 · 原创 · 10-7 阅读 846·访客 826
数字孪生的语义底座:资产、状态与仿真数据
数字孪生语义底座要分清资产、观测、属性、时间和仿真过程。本文以泵站为例,说明 SOSA/SSN 的表达范围、资产语义缺口,以及语义互通为何不能替代同步与保真验证。
行业动态 精选 · 原创 · 2天前 阅读 11·访客 11
答案风格控制:从百科腔到业务腔
同样正确的答案,百科腔发给客户就是事故。本文把答案风格拆成受众、长度、正式度、结构与引用密度五个可配置维度,讲模板、少样本与后处理三层控制手段,以及多场景风格路由与风格回归评测的工程化做法,让风格配置像检索配置一样有版本、有回归。
后端技术 精选 · 原创 · 2天前 阅读 11·访客 11
扫描件与 OCR:纸质档案进 RAG 的完整管线
档案室里的合同、公文与历史卷宗要进 RAG,OCR 是必经的窄门。本篇给出扫描件入库的完整管线:文本层分流、图像预处理、识别与版面还原、低置信页打回与领域词典纠错,并讨论质量标记如何跟随入库、让检索侧对 OCR 错误知情。
后端技术 精选 · 原创 · 2天前 阅读 10·访客 10
大型本体的模块化:领域边界、依赖图与跨域组合
大型本体拆成模块,不是把文件分目录,而是明确语义边界、共享词汇和组合规则。本文从 OWL 导入闭包、领域所有权、跨域桥接与推理预算出发,给出可维护的模块依赖图和发布检查清单。
后端技术 精选 · 原创 · 2天前 阅读 14·访客 14
Audio RAG:会议录音与播客的语音检索
会议录音没人听第二遍,但每天都有人在问「上次会上谁说了什么」。本文讲语音 RAG 管线:ASR 转写与说话人分离、话题化切块、时间戳对齐索引,以及命中即回听的呈现形态;转写有损靠热词注入与置信度标记兜底,锚点回听让用户自己核对原声。
后端技术 精选 · 原创 · 2天前 阅读 8·访客 8
一篇读懂 Chat Template:system prompt 与特殊 token 的隐藏协议
为什么同一段对话,用对 chat template 的模型表现天差地别?对话模型的一切行为都由一张「模板」定义:角色标记、特殊 token、系统提示的位置。本篇拆解 chat template 的结构、各家模板的差异、它如何决定「模型以为自己在跟谁说话」,以及微调与应用时最容易踩的模板坑。
大模型 精选 · 原创 · 11-3 阅读 60·访客 59
AI 水印:技术、局限与绕过——溯源军备的现实
「给 AI 生成的内容打个看不见的标记」是溯源最直觉的方案:文本水印改写词频、图像水印编进像素、Google 的 SynthID 已商用。但水印天生是一攻一防的军备:改写攻击、 paraphrase 绕过、开源模型无法强制。本文讲清水印的技术原理、已被证明的局限、以及它在「溯源工具箱」里的真实定位。
一叶一世界 精选 · 原创 · 11-3 阅读 91·访客 91
一篇读懂预训练:从海量文本到基座模型的完整流程
预训练是所有大模型能力的源头,但它的完整流程常被一句「在海量文本上训练」带过。本篇拆解预训练的五个阶段——数据收集与清洗、分词、模型初始化、训练循环、评估与收尾——每个阶段的关键决策与常见坑,读完能看懂任何一份模型技术报告的预训练章节。
大模型 精选 · 原创 · 11-3 阅读 65·访客 54
为什么 ChatGPT 总爱在标题里塞色情赌博小广告?
「我们必须想象西西弗斯是……成人娱乐主管?!」 如果你是 ChatGPT 的高频用户,想必从今年 8 月开始,就碰上过一种神秘现象:ChatGPT 偶尔会在自动生成的会话标题最后,加上一些意义不明的外语单词,或是来自赌博、色情小广告的片段。…
大模型 爱范儿 · 10-10 阅读 440·访客 440
一篇读懂采样参数:temperature 与 top-p 是怎么给模型「调性格」的
同一个模型,temperature 从 0.2 调到 1.2,可以从「背答案的图书馆员」变成「喝了两杯的诗人」——模型一个参数都没变,变的只是从概率分布里挑词的规则。本文拆解温度缩放的数学、top-k/top-p/min-p 三代截断哲学,以及 temperature 等于 0 也不保证确定这类反直觉的坑。
一叶一世界 精选 · 原创 · 10-8 阅读 517·访客 508
一篇读懂结构化输出:JSON Mode 与约束解码
把 LLM 输出接进程序,坏 JSON 是头号工程痛点。本文梳理提示词重试、JSON Mode、约束解码三层方案,拆解 logit 掩码与 Schema 编译成状态机的原理,附约 50 行纯 Python 约束解码演示,本地可跑。
一叶一世界 精选 · 原创 · 10-7 阅读 336·访客 281
一篇读懂 Temperature 与 Top-p:采样参数怎么调
模型每步输出的不是「下一个字」而是一张概率表,Temperature 与 Top-p 决定怎么从表里抽签。本文讲清温度如何改变分布锐度、Top-p 如何动态截断候选、重复惩罚如何抑制复读,并给出代码、问答、写作、Agent 四类场景的参数对照表。
一叶一世界 精选 · 原创 · 10-6 阅读 432·访客 430
Embedding 模型选型:维度、语言与检索质量的取舍
看榜单选 embedding 模型经常翻车,因为榜单是通用语料,你的数据不是。本文给出语言与领域的第一分水岭、维度的真实代价、可信评测的做法与工程参数对照表,五十条真实问题即可完成一次有依据的决策。
后端技术 精选 · 原创 · 10-6 阅读 1,002·访客 997
留白的价值:课表里什么都不排的时间
课表排满是当下童年的常态,但自主感需要空白格来练习,无聊是创造力的前厅,大脑的默认网络也在「什么都不做」时工作。这篇算留白的三重账,区分留白与放任,给出低结构高陪伴的打开方式与一周留白设计模板——留白不是浪费,是发育的必需格。
一叶一世界 精选 · 用户投稿 · 昨天 阅读 7·访客 7
智能体生态观察 · 第 22 篇|提示词生态:泄露、交易与护城河悖论
模型是公用的,提示词却承载着产品的差异化,于是围绕它形成了泄露攻防、交易市场与护城河之争。本文复盘公开的提示词泄露事件与交易市场的兴衰,解释提示词为什么难以构成护城河,以及企业该如何像管理代码一样管理提示词资产。
智能体 精选 · 原创 · 11-9 阅读 75·访客 75
RAG 输出的结构化转换:让检索结果变成表格和 JSON 的工程实践
检索做好了,输出还在裸奔——从提示词约束到 Schema 约束解码再到校验修复循环,让 RAG 的答案以表格和 JSON 落地,并保持引用对齐。
后端技术 精选 · 原创 · 11-9 阅读 64·访客 63
Prompt 的科学研究:提示词对模型行为的影响机制
提示词不是玄学而是可测量变量:FormatSpread 的 76 点波动、指令模板不稳定性、贝叶斯机制解释、软提示与自动提示优化、注入攻击与工程规范。
研究前沿 精选 · 原创 · 11-9 阅读 59·访客 59
一篇读懂 LLM 应用的 A/B 测试:怎么科学地评估一次提示词修改
从分流设计、样本量计算到 LLM 生成噪声与 peeking 陷阱:把一次提示词修改放进随机对照实验里,用统计而非直觉判断它值不值得上线。
大模型 精选 · 原创 · 11-9 阅读 52·访客 51
提示词泄露的攻防:从「别泄露」到「假设会泄露」
system prompt 是很多 AI 产品的核心机密——但它就写在每次请求的开头。泄露攻击的形态、防御手段的失效边界、以及「假设会泄露」的架构设计——保护提示词的正确姿势,是不把它当秘密。
研究前沿 精选 · 原创 · 11-5 阅读 65·访客 64
一篇读懂正则表达式:从字面量到回溯灾难
正则表达式是最被「会用但不懂」的语言:能写出能跑的模式,却不知道它为什么回溯、为什么卡死、为什么某个字符集漏了。本篇拆解正则的引擎原理(回溯机制)、贪婪与懒惰的语义、常见坑(字符集、转义、ReDoS),以及「什么时候不该用正则」。
一叶一世界 精选 · 原创 · 11-4 阅读 72·访客 72
RAG 提示词工程:system prompt、上下文模板与指令设计
RAG 的回答质量,一半取决于检索,一半取决于提示词。检索到的上下文再好,提示词写得不对,模型照样答非所问。本篇拆解 RAG 提示词的三层结构(system prompt、上下文模板、生成指令),以及「让模型只基于检索内容回答」的约束设计。
一叶一世界 精选 · 原创 · 11-4 阅读 76·访客 75
操作系统内功 · 第 2 篇|虚拟内存:页表、TLB 与一次缺页中断的旅程
malloc 返回的指针为什么「立刻可用」却几乎不花时间?一台 64GB 机器为什么能 mmap 500GB 的文件?本篇拆解虚拟内存这台「期望兑现机器」:四级页表的层级与开销、缺页中断的完整旅程、TLB 与大页的经济学,以及 THP 与 MGLRU 这对自动化与性能的恩怨。
后端技术 精选 · 原创 · 10-26 阅读 191·访客 189
「你真聪明」为什么帮倒忙:表扬的科学与成长型思维
85% 的家长相信夸孩子聪明是必要的,但 Mueller 与 Dweck 的六项实验发现,夸天赋的孩子反而更怕挑战、失败后更脆弱,甚至更爱虚报成绩。本文拆解表扬如何改写孩子的目标,诚实呈现成长型思维的争议与效应量,并给出 Dweck 本人认可的「怎么夸」清单。
一叶一世界 精选 · 原创 · 10-23 阅读 176·访客 170
律师在谋杀案中捏造了证词,他将此归咎于 ChatGPT]
律师在法律文件中使用 AI 工具捏造不存在的信息不是什么大新闻,AI 捏造的通常是不存在的案例,然而本案的特殊之处在于 AI 捏造了证词。律师 Stephen Aaron 在一起谋杀案中代表其客户提起上诉,在递交的法律文件中包含了捏造的警方…
大模型 Solidot · 9-14 阅读 54·访客 51
一线员工的早期预警:最早看到危机的是他们
重大舆情爆发前三周,征兆往往已经在客服工单、门店反馈与司机群里反复出现,只是没有通道汇总上报。本文拆解缄默效应与组织沉默的三重过滤机制,给出一线传感网络的搭建方法与上报文化的激励保护设计。
行业动态 精选 · 用户投稿 · 昨天 阅读 2·访客 2
时间感知检索:时效意图识别与新鲜度衰减
「现在的年假几天」与「2019 年版年假制度写什么」是两类时间意图,同一份语料要给出相反的排序策略。本文给出时效意图的类型学与识别手段,讲透按领域分半衰期的衰减排序设计与代码实现,盘点误杀稳定内容、时间字段缺失与时区陷阱等失效模式。
后端技术 精选 · 原创 · 2天前 阅读 8·访客 8
智能体生态观察 · 第 48 篇|结构化输出约束:JSON Schema、语法约束与格式保证
智能体之间靠结构说话,模型却天生爱自由发挥。本篇盘点格式失败的三类代价与四档约束技术——prompt 声明、schema 硬约束、语法级锁死、后校验修复,并给出实践守则与生态现状。
智能体 精选 · 原创 · 2天前 阅读 13·访客 13
本体平台构建:从领域知识到可运行契约
本体不该是躺在 wiki 里的文档,而应像 API 契约一样被构建、测试、发布与回滚——这是「可运行契约」的核心主张。本文把本体构建拆成六步闭环,给出 SHACL 发布闸门的具体示例,并强调一条易被忽略的纪律:模型可以回滚,已发生的业务动作必须靠补偿事务撤销。
后端技术 精选 · 用户投稿 · 4天前 阅读 33·访客 33
LLM 时代的本体构建流水线:专家定义 + AI 建议
本体构建曾是知识工程的奢侈品:专家协作数月才能交付。LLM 把术语生成、关系抽取、分类归纳的自动化率推到新高度,但公理级精确性仍离不开人。本文给出一条「AI 建议 + 专家评审」的流水线,并对照研究划清自动化边界。
研究前沿 精选 · 用户投稿 · 4天前 阅读 28·访客 28
本体的版本演化与更新:变更管理、迁移与兼容性
本体是长期资产,业务演化、上游标准更新与建模返工都会迫使它改版。本文给出变更分类学(非破坏性与破坏性变更、语义 diff 与结构 diff)、OWL 2 内建的版本原语、deprecation 过渡期与 SHACL 灰度收紧策略、实例数据迁移与回滚预案,并落成一条从 PR 评审到灰度监控的本体 CI/CD 流水线。
后端技术 精选 · 用户投稿 · 4天前 阅读 33·访客 33
本体平台选型盘点:GraphDB、Jena、Neo4j 与轻量栈
自建本体平台的第一道题是选存储与推理引擎。本文按推理能力、规模与运维、生态与许可三个维度盘点主流路线:GraphDB 11 与 Stardog 领衔的企业三元组库、Apache Jena 的全开源标准栈、Neo4j 加 neosemantics 的属性图路线,以及 rdflib、Oxigraph、owlready2 的轻量嵌入式选项,最后给出选型决策树。
开源项目 精选 · 用户投稿 · 4天前 阅读 31·访客 31
本体平台全景:控制平面与运行平面
企业本体不该是散落四处的文档与脚本,而应是一个有版本、有闸门、有审计的工程系统。本文给出本体平台的总体架构——控制平面负责把领域知识构建成不可变发布包,运行平面负责事实沉淀、查询推理与动作协调,并以 Palantir Foundry Ontology 说明这一模式的工业级实现。
后端技术 精选 · 用户投稿 · 4天前 阅读 24·访客 24
AI 集群的运维组织:SRE 与 OnCall 体系
几千卡的集群里故障是日常而非意外,运维组织决定故障的平均处理速度;本文拆解 AI 集群 SRE 的组织形态、OnCall 值班体系的设计要点、常见事故的演练方法与知识沉淀机制。
后端技术 精选 · 原创 · 11-11 阅读 77·访客 75
数据预处理的流水线:清洗、去重与工程账
预训练语料从原始爬取数据到能进训练管道,要过规则清洗、精确与模糊去重、质量打分、有害内容过滤几道工序;本文拆解每道工序的原理,以及流水线工程实现的幂等、留痕与成本账。
大模型 精选 · 原创 · 11-11 阅读 56·访客 56
大模型服务的计费工程:token 计量与对账
计费是大模型服务从「能跑」到「能卖」的分水岭:token 怎么数、输入输出与缓存命中怎么分别计价、用量采集到账单聚合的架构怎么搭、重试幂等与失败边界怎么定,以及多租户配额与成本可见化。
大模型 精选 · 原创 · 11-11 阅读 51·访客 51
RAG 与领域适配:通用模型到领域专家的微调与检索适配路径
通用 RAG 进专业领域会系统性失效,本文给出诊断—适配—回归的完整路径:先定位失效层,再按"先便宜后昂贵"的原则选择文档改写、embedding 微调、RAFT 或领域预训练。
后端技术 精选 · 原创 · 11-9 阅读 82·访客 81
一篇读懂评测污染:你的 Benchmark 分数可能是个假象
GSM8K 的题目被背下来了会怎样——拆解污染的三条进入路径、n-gram 与 Min-K% 检测法,以及动态基准的军备竞赛。
大模型 精选 · 原创 · 11-9 阅读 69·访客 69
一篇读懂解码策略:Beam Search、Contrastive Search 与约束解码的完整对比
从似然陷阱到退化惩罚再到语法约束,拆解三类高级解码策略的底层机制、计算代价与适用边界。
大模型 精选 · 原创 · 11-9 阅读 45·访客 45