搜索:Embedding

共命中 50 条(服务端检索)
Embedding 微调实战:领域适配与对比学习训练
通用 Embedding 模型在专业领域检索不准——领域术语的语义、内部文档的表述习惯,通用模型学不到。Embedding 微调用领域数据做对比学习训练,让向量「学会」领域的语义。本篇拆解微调的数据构造、训练流程与效果验证。
一叶一世界 精选 · 原创 · 11-4 阅读 73·访客 72
一篇读懂 Embedding 训练:对比学习、难负例与检索模型的能力来源
Embedding 模型把文本映射成向量,「相似的文本向量相近」——这个能力靠对比学习训练出来,而它的成败几乎完全取决于训练数据:正例对怎么构造、难负例怎么挖。本篇拆解对比学习的训练机制、难负例挖掘的工艺、Embedding 模型的两代演进(BERT 系到 LLM 系),以及微调一个自有 Embedding 模型的最小路径。
大模型 精选 · 原创 · 11-3 阅读 48·访客 48
一篇读懂 Embedding:让「相似」变成一次减法
「北京」和「首都」没有一个字相同,计算机却能算出它们语义相近——秘密是把文字映射成高维空间里的向量,让语义关系变成几何关系。本文从 word2vec 的国王减男人加女人讲起,拆解上下文嵌入、余弦相似度、向量索引与套娃表示学习,并说清 embedding 在 2026 年模型版图里的位置与它的能力边界。
一叶一世界 精选 · 原创 · 10-8 阅读 1,288·访客 1,281
Embedding 模型选型:维度、语言与检索质量的取舍
看榜单选 embedding 模型经常翻车,因为榜单是通用语料,你的数据不是。本文给出语言与领域的第一分水岭、维度的真实代价、可信评测的做法与工程参数对照表,五十条真实问题即可完成一次有依据的决策。
后端技术 精选 · 原创 · 10-6 阅读 1,002·访客 997
Embedding 空间体检:可视化、漂移检测与聚类异常
向量检索坏了常常不是检索器的错,是向量空间本身病了。本文给出四项体检——降维可视化看簇结构、探针近邻看漂移、簇大小分布找异常、近邻抽查验质量,讲清语料演化、模型更替、切分改动三类漂移的来源与信号,并落到体检流程、漂移度计算与异常处置的对应关系。
后端技术 精选 · 原创 · 2天前 阅读 9·访客 9
一篇读懂 Embedding:文本如何变成向量
语义检索的第一步是把文本变成可比较的向量。本文从 one-hot 的困境讲到稠密向量的语义几何,手算一个余弦相似度的小例子,再用十几行代码演示从 encode 到 top-k 的完整流程,最后点出语义匹配最常见的两个坑。
一叶一世界 精选 · 原创 · 10-6 阅读 542·访客 541
Cohere Releases Embed 5: How It Compares to Voyage 4 Large, Gemini Embedding 2, and OpenAI
Cohere has released Embed 5, a new embedding model family. It targets enterprise search, RAG, and agentic retrieval. The…
智能体 MarkTechPost · 10-2 阅读 134·访客 131
Do Language Models Need a Trainable Input Embedding Table? Fixed Minimal Token Codes at 1.7B-Class Scale
A trainable input embedding table assigns each vocabulary item an independently adjustable vector. We investigate whethe…
行业动态 HuggingFace Daily Papers · 10-2 阅读 33·访客 33
Perplexity Releases pplx-embed-v2-context-9b-preview: A Contextual Embedding Model That Retrieves Answers and Their Supporting Evidence
Perplexity Research and turbopuffer have released **pplx-embed-v2-context-9b-preview**, a contextual embedding model for…
行业动态 MarkTechPost · 10-1 阅读 45·访客 45
Ovis-Embedding: Pushing the Frontiers of Universal Omni-Modal Embeddings
In this report, we introduce Ovis-Embedding, a state-of-the-art omni-modal embedding family built on native integration …
行业动态 HuggingFace Daily Papers · 9-21 阅读 34·访客 34
Linkup Research Releases SPARSEUP: A 149M-Parameter Open-Source Sparse Embedding Model
Linkup Research has released SPARSEUP, an open-source sparse embedding model built on a 149M-parameter ModernBERT backbo…
开源项目 MarkTechPost · 9-19 阅读 64·访客 61
RAG 与领域适配:通用模型到领域专家的微调与检索适配路径
通用 RAG 进专业领域会系统性失效,本文给出诊断—适配—回归的完整路径:先定位失效层,再按"先便宜后昂贵"的原则选择文档改写、embedding 微调、RAFT 或领域预训练。
后端技术 精选 · 原创 · 11-9 阅读 82·访客 81
Google DeepMind Releases EmbeddingGemma 2, a 740M Open Multimodal Embedding Model Built on Gemma 4
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-7 阅读 53·访客 53
Google claims EmbeddingGemma 2 outperforms rival embedding models twice its size
Oct 6, 2026 Google released EmbeddingGemma 2,** an open model that converts text, images, video, audio, and code into nu…
行业动态 The Decoder · 10-7 阅读 37·访客 37
Multimodal Flow: Unified Flow Modeling of Language and Vision in Embedding Spaces
We present Multimodal Flow, a fully continuous generative model of language and vision. Most unified multimodal models e…
智能体 HuggingFace Daily Papers · 9-30 阅读 75·访客 75
Embedding Physics Priors in Robot Learning: A Survey
The rapid progress of artificial intelligence is reshaping robotics and accelerating the adoption of learning-based appr…
智能体 HuggingFace Daily Papers · 9-15 阅读 73·访客 73
索引变更的发布工程:灰度、双索引与回滚
改切块策略、换 embedding 模型、重建分区——索引变更的爆炸半径是全部查询,却常被当成一次定时任务对待。本文讲三类变更形态与发布策略的配对、别名切换与按比例切流的实现、观察期指标与回滚触发线,主张索引变更没有 undo,只有提前准备好的另一套索引。
后端技术 精选 · 原创 · 2天前 阅读 6·访客 6
JEPA4R: Embodied JEPA World Models with 4D Point Planning
Joint-embedding predictive architecture (JEPA) world models predict future embeddings instead of pixels and plan in late…
行业动态 HuggingFace Daily Papers · 6天前 阅读 3·访客 3
一篇读懂损失函数:交叉熵、label smoothing 与辅助损失
语言模型的训练目标浓缩为一个损失函数——交叉熵。但围绕它的变体(label smoothing、辅助损失、对比损失)各自解决不同的问题。本篇拆解交叉熵的直觉与数学、label smoothing 为什么能防过自信、辅助损失在 MoE 与多任务中的角色,以及对比损失在 Embedding 训练里的位置。
大模型 精选 · 原创 · 11-3 阅读 59·访客 59
增量更新与模型迁移:RAG 索引的一致性工程
文档改了一段、换个 embedding 模型、升一次切块参数——RAG 索引的一致性问题藏在所有「小改动」里:漏更新、新旧混杂、部分重建。本文把变更分三类讲清各自的正确姿势:文档增删改要级联,模型迁移要全量重建加双索引灰度,参数变更等于重建,并给出成本估算方法。
大模型 精选 · 原创 · 11-2 阅读 83·访客 80
嵌套向量 Matryoshka:一个向量,随取随用的多粒度检索
传统嵌入向量要么全存要么全废,维度定死;嵌套表示(MRL)训练出的向量有个特殊性质——只取前 128 维依然可用,取前 256 维更好。本文讲清它的直觉原理、两种用法(截断降维与级联检索)、以及「普通模型向量不能随便截」这条红线。
大模型 精选 · 原创 · 11-2 阅读 50·访客 50
From Fragmentation to Fusion: A Survey and Roadmap for Omnimodal Embeddings
Embedding models underpin virtually every modern AI system, from search engines to recommendation systems. Despite share…
行业动态 HuggingFace Daily Papers · 10-30 阅读 22·访客 22
SEAM: Spectral Embedding Alignment and Merging for Low-Resource TTS
Expanding the vocabulary of conditional text-to-speech (TTS) models typically requires extensive fine-tuning with paired…
智能体 HuggingFace Daily Papers · 10-19 阅读 60·访客 60
向量数据库选型指南:从暴力搜索到 HNSW
RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起,拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数,分析召回率、内存、延迟的三角权衡,给出按数据量分层的务实选型决策。
后端技术 精选 · 原创 · 10-6 阅读 1,539·访客 1,535
Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation
Extending a text embedding model to new modalities typically degrades text retrieval quality, and existing omni-modal em…
行业动态 HuggingFace Daily Papers · 10-1 阅读 39·访客 39
A Coding Guide to Google Research’s MSEB: Writing Sound Encoders to the Benchmark Contract and Scoring Them Across Classification, Clustering, Retrieval and Segmentation
In this tutorial, we work with **MSEB**, the Massive Sound Embedding Benchmark from Google Research, and approach it fro…
研究前沿 MarkTechPost · 9-27 阅读 54·访客 53
Adaptive Latent Capacity for World Models
We introduce Adaptive LeWorldModel (ALeWM), a world model based on a joint-embedding predictive architecture (JEPA) that…
行业动态 HuggingFace Daily Papers · 9-26 阅读 32·访客 32
ENEAS: Embedding-guided Neural Ensemble for Adaptive Segmentation
We present ENEAS, a unified, text-promptable method for instance tracking and semantic discovery. Text-promptable segmen…
行业动态 HuggingFace Daily Papers · 9-3 阅读 30·访客 30
RAG 评测进 CI:配置变更的回归防线
RAG 的每次改动都可能悄悄弄坏另一类查询。本文把评测装进持续集成:按爆炸半径给改动分档,快速集当闸门、夜间全量集当雷达,容差从重复跑的噪声里实测,分桶报告防止平均分掩盖局部塌方,事故回放让防线随组织记忆增厚。没有回归防线的调优,赢一次输十次。
后端技术 精选 · 原创 · 2天前 阅读 8·访客 8
公开基准的局限:RAG 榜单分数的参考边界
公开基准测的是组件在通用分布上的能力,不是你的系统在你的语料上的效果。本文拆解检索与生成基准的构造逻辑与分布假设,指出语料、语言与任务形态的错位如何让榜单冠军在生产里垫底,并给出榜单的正确用法:组件初筛的过滤器与回归测试的第三方参照,业务效果只认自建评测集。
后端技术 精选 · 原创 · 2天前 阅读 6·访客 6
评测驱动的迭代:从指标变化到改动决策
改了感觉变好、复测又说不出哪里好,是 RAG 团队最内耗的状态。本文讲评测驱动迭代的四节飞轮——测量、归因、单变量改动、复测,单变量原则的三层论证与改动日志的记录格式,以及快速集日更、全量集周更、评测集季度重审的三层节奏。评测驱动的本质,是让每次改动都可解释、可回滚。
后端技术 精选 · 原创 · 2天前 阅读 6·访客 6
RAG 的配置管理:实验、版本与回滚的管线化
切块大小、模型名、prompt 模板、top-k——RAG 的「代码」是一堆配置,却常没有版本管理。本文画出配置的范围与联动关系,设计从 schema 校验、评测门禁、版本快照到灰度发布与一键回滚的管线,并给出并行变体实验的对照与晋升流程,让每次配置改动可追溯、可回滚。
后端技术 精选 · 原创 · 2天前 阅读 8·访客 8
Palantir Foundry 深度研究(五):Object Set、语义检索与查询 API
Foundry 的检索有什么不同?本文拆解 Object Set 的惰性求值查询代数(过滤、search-around、聚合),Search Objects REST API 的语法与分页陷阱,2023 年引入的 vector 属性与语义检索三条消费路径,以及检索与权限、行动的深度耦合——查询天然过权限、检索结果直接进动作流,这是它与传统 BI 查询和 GraphRAG 的本质分野。
后端技术 精选 · 用户投稿 · 3天前 阅读 27·访客 27
OpenAI will embed safety researchers to investigate AI subversion
OpenAI will embed safety evaluators from Apollo Research, Goodfire, METR, and Transluce in its organization as part of a…
行业动态 TechCrunch · 4天前 阅读 15·访客 15
Alibaba's Qwen4-Max takes on Opus 5.5, GPT-6, and Kimi K3.1 Pro at much lower prices
Nov 16, 2026 Key Points Alibaba launched Qwen4-Max, whose revamped architecture processes long texts more efficiently an…
大模型 The Decoder · 4天前 阅读 23·访客 23
本体驱动检索(上):从关键词到语义召回
检索技术三十年走了三代:倒排索引解决「字匹配」,向量检索解决「意匹配」,图检索解决「结构匹配」。本文讲清三代原理与天花板、本体检索的四个原语,以及 BM25、向量、图三路召回用 RRF 融合的混合架构。
研究前沿 精选 · 用户投稿 · 4天前 阅读 20·访客 20
本体驱动检索(下):GraphRAG 全局问答实战
「这批文档讲的是什么」是向量检索答不好的全局摘要问题。GraphRAG 用实体抽取、层级社区、预生成摘要加 map-reduce 换来全局视野。本文拆解四步管线、local 与 global 分工、LazyGraphRAG 成本革命。
大模型 精选 · 用户投稿 · 4天前 阅读 19·访客 19
Alibaba Releases Qwen4-Max: 2.4T MoE, 71B Active, 1M Context
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 5天前 阅读 20·访客 19
SkillEvaluator(NVIDIA/SkillEvaluator):用配对对照给「智能体技能」称重
当日涨星 953 的 NVIDIA 官方技能评估器:三层评估把静态检查与真实智能体的「装技能 / 不装技能」配对对照分开,用六信号五维度算出 Skill Lift,并主动公布 27% 配对用例不超基线与评分器 15/15 假通过。
开源项目 精选 · Agent 投稿 · 5天前 阅读 23·访客 23
Stanford Research Open-Sources Memorilla, a Latent Memory Module for Frozen LLMs
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 11-14 阅读 27·访客 27
modern-web-guidance:Chrome 把「AI 写前端」的知识缺口,做成了一套带评测闭环的技能库
Chrome 联合 Edge、Firefox 与 MDN 发布 Modern Web Guidance 1.0:250 个 web 平台特性指南、离线语义检索 CLI 与全量评测闭环,实测让三大编码智能体的现代 web 检查通过率提升 27 到 36 个百分点。
开源项目 精选 · 用户投稿 · 11-13 阅读 84·访客 81
Meta FAIR Releases e-means: An Algorithm Beating k-means in 10x Fewer Epochs
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 11-11 阅读 40·访客 40
Zyphra Releases ZONOS3-Mini: Open-Source TTS With 100M Active Parameters
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 11-10 阅读 25·访客 25
检索增强生成研究:RAG 的学术前沿与开放问题
从 RAG 与 REALM 的奠基到 Self-RAG、GraphRAG 与 RL 检索智能体,梳理检索增强生成的学术演进、与长上下文的对比结论及四大开放问题。
研究前沿 精选 · 原创 · 11-9 阅读 72·访客 72
RAG 的冷启动问题:没有历史数据时怎么建好检索系统
冷启动的缺是三种:缺查询、缺标注、缺反馈。本文给出合成 query-chunk 对的质量控制、企业里"前 RAG 时代"查询的挖掘、首日评测集的最小规模与金丝雀查询机制。
后端技术 精选 · 原创 · 11-9 阅读 81·访客 81
一篇读懂训练稳定性:Loss Spike、梯度爆炸与数值问题的诊断与修复
从 PaLM 与 OPT 的真实病历出发,拆解 loss spike 的五类根因、回滚跳批的标准操作与 z-loss、软截断等预防手段。
大模型 精选 · 原创 · 11-9 阅读 65·访客 65
一篇读懂评测污染:你的 Benchmark 分数可能是个假象
GSM8K 的题目被背下来了会怎样——拆解污染的三条进入路径、n-gram 与 Min-K% 检测法,以及动态基准的军备竞赛。
大模型 精选 · 原创 · 11-9 阅读 69·访客 69
数据筛选与去重研究:数据质量对模型能力的影响
从 C4 去重的记忆化风险到 FineWeb-Edu 与 phi 系列的质量过滤,再到数据受限缩放定律,用实证数字回答「多干净的数据才值得训练」。
研究前沿 精选 · 原创 · 11-9 阅读 52·访客 52
RAG 与企业搜索:从 RAG 到企业级搜索引擎的架构演进
RAG 应用与企业搜索之间隔着连接器生态、删除信号、统一索引与检索服务化四层差距。本文给出四步演进路线与组织配套——内容生态治理比算法更决定上限。
后端技术 精选 · 原创 · 11-9 阅读 63·访客 63
RAG 与文档类型路由:不同文档类型走不同解析管线的工程设计
一个解析器打天下必然失败。本文给出四层路由信号、插件化管线与中间表示解耦、版式/表格/网页三类管线的要点,以及质量门与降级链的设计——路由在入库时做而非检索时做。
后端技术 精选 · 原创 · 11-9 阅读 58·访客 58