AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
it之家
solidot
港股
搜索:
Embedding
共命中 50 条(服务端检索)
Embedding
微调实战:领域适配与对比学习训练
通用
Embedding
模型在专业领域检索不准——领域术语的语义、内部文档的表述习惯,通用模型学不到。
Embedding
微调用领域数据做对比学习训练,让向量「学会」领域的语义。本篇拆解微调的数据构造、训练流程与效果验证。
一叶一世界
精选
· 原创 · 11-4
阅读 73
·
访客 72
一篇读懂
Embedding
训练:对比学习、难负例与检索模型的能力来源
Embedding
模型把文本映射成向量,「相似的文本向量相近」——这个能力靠对比学习训练出来,而它的成败几乎完全取决于训练数据:正例对怎么构造、难负例怎么挖。本篇拆解对比学习的训练机制、难负例挖掘的工艺、
Embedding
模型的两代演进(BERT 系到 LLM 系),以及微调一个自有
Embedding
模型的最小路径。
大模型
精选
· 原创 · 11-3
阅读 48
·
访客 48
一篇读懂
Embedding
:让「相似」变成一次减法
「北京」和「首都」没有一个字相同,计算机却能算出它们语义相近——秘密是把文字映射成高维空间里的向量,让语义关系变成几何关系。本文从 word2vec 的国王减男人加女人讲起,拆解上下文嵌入、余弦相似度、向量索引与套娃表示学习,并说清
embedding
在 2026 年模型版图里的位置与它的能力边界。
一叶一世界
精选
· 原创 · 10-8
阅读 1,288
·
访客 1,281
Embedding
模型选型:维度、语言与检索质量的取舍
看榜单选
embedding
模型经常翻车,因为榜单是通用语料,你的数据不是。本文给出语言与领域的第一分水岭、维度的真实代价、可信评测的做法与工程参数对照表,五十条真实问题即可完成一次有依据的决策。
后端技术
精选
· 原创 · 10-6
阅读 1,002
·
访客 997
Embedding
空间体检:可视化、漂移检测与聚类异常
向量检索坏了常常不是检索器的错,是向量空间本身病了。本文给出四项体检——降维可视化看簇结构、探针近邻看漂移、簇大小分布找异常、近邻抽查验质量,讲清语料演化、模型更替、切分改动三类漂移的来源与信号,并落到体检流程、漂移度计算与异常处置的对应关系。
后端技术
精选
· 原创 · 2天前
阅读 9
·
访客 9
一篇读懂
Embedding
:文本如何变成向量
语义检索的第一步是把文本变成可比较的向量。本文从 one-hot 的困境讲到稠密向量的语义几何,手算一个余弦相似度的小例子,再用十几行代码演示从 encode 到 top-k 的完整流程,最后点出语义匹配最常见的两个坑。
一叶一世界
精选
· 原创 · 10-6
阅读 542
·
访客 541
Cohere Releases Embed 5: How It Compares to Voyage 4 Large, Gemini
Embedding
2, and OpenAI
Cohere has released Embed 5, a new
embedding
model family. It targets enterprise search, RAG, and agentic retrieval. The…
智能体
MarkTechPost · 10-2
阅读 134
·
访客 131
Do Language Models Need a Trainable Input
Embedding
Table? Fixed Minimal Token Codes at 1.7B-Class Scale
A trainable input
embedding
table assigns each vocabulary item an independently adjustable vector. We investigate whethe…
行业动态
HuggingFace Daily Papers · 10-2
阅读 33
·
访客 33
Perplexity Releases pplx-embed-v2-context-9b-preview: A Contextual
Embedding
Model That Retrieves Answers and Their Supporting Evidence
Perplexity Research and turbopuffer have released **pplx-embed-v2-context-9b-preview**, a contextual
embedding
model for…
行业动态
MarkTechPost · 10-1
阅读 45
·
访客 45
Ovis-
Embedding
: Pushing the Frontiers of Universal Omni-Modal
Embedding
s
In this report, we introduce Ovis-
Embedding
, a state-of-the-art omni-modal
embedding
family built on native integration …
行业动态
HuggingFace Daily Papers · 9-21
阅读 34
·
访客 34
Linkup Research Releases SPARSEUP: A 149M-Parameter Open-Source Sparse
Embedding
Model
Linkup Research has released SPARSEUP, an open-source sparse
embedding
model built on a 149M-parameter ModernBERT backbo…
开源项目
MarkTechPost · 9-19
阅读 64
·
访客 61
RAG 与领域适配:通用模型到领域专家的微调与检索适配路径
通用 RAG 进专业领域会系统性失效,本文给出诊断—适配—回归的完整路径:先定位失效层,再按"先便宜后昂贵"的原则选择文档改写、
embedding
微调、RAFT 或领域预训练。
后端技术
精选
· 原创 · 11-9
阅读 82
·
访客 81
Google DeepMind Releases
Embedding
Gemma 2, a 740M Open Multimodal
Embedding
Model Built on Gemma 4
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态
MarkTechPost · 10-7
阅读 53
·
访客 53
Google claims
Embedding
Gemma 2 outperforms rival
embedding
models twice its size
Oct 6, 2026 Google released
Embedding
Gemma 2,** an open model that converts text, images, video, audio, and code into nu…
行业动态
The Decoder · 10-7
阅读 37
·
访客 37
Multimodal Flow: Unified Flow Modeling of Language and Vision in
Embedding
Spaces
We present Multimodal Flow, a fully continuous generative model of language and vision. Most unified multimodal models e…
智能体
HuggingFace Daily Papers · 9-30
阅读 75
·
访客 75
Embedding
Physics Priors in Robot Learning: A Survey
The rapid progress of artificial intelligence is reshaping robotics and accelerating the adoption of learning-based appr…
智能体
HuggingFace Daily Papers · 9-15
阅读 73
·
访客 73
索引变更的发布工程:灰度、双索引与回滚
改切块策略、换
embedding
模型、重建分区——索引变更的爆炸半径是全部查询,却常被当成一次定时任务对待。本文讲三类变更形态与发布策略的配对、别名切换与按比例切流的实现、观察期指标与回滚触发线,主张索引变更没有 undo,只有提前准备好的另一套索引。
后端技术
精选
· 原创 · 2天前
阅读 6
·
访客 6
JEPA4R: Embodied JEPA World Models with 4D Point Planning
Joint-
embedding
predictive architecture (JEPA) world models predict future
embedding
s instead of pixels and plan in late…
行业动态
HuggingFace Daily Papers · 6天前
阅读 3
·
访客 3
一篇读懂损失函数:交叉熵、label smoothing 与辅助损失
语言模型的训练目标浓缩为一个损失函数——交叉熵。但围绕它的变体(label smoothing、辅助损失、对比损失)各自解决不同的问题。本篇拆解交叉熵的直觉与数学、label smoothing 为什么能防过自信、辅助损失在 MoE 与多任务中的角色,以及对比损失在
Embedding
训练里的位置。
大模型
精选
· 原创 · 11-3
阅读 59
·
访客 59
增量更新与模型迁移:RAG 索引的一致性工程
文档改了一段、换个
embedding
模型、升一次切块参数——RAG 索引的一致性问题藏在所有「小改动」里:漏更新、新旧混杂、部分重建。本文把变更分三类讲清各自的正确姿势:文档增删改要级联,模型迁移要全量重建加双索引灰度,参数变更等于重建,并给出成本估算方法。
大模型
精选
· 原创 · 11-2
阅读 83
·
访客 80
嵌套向量 Matryoshka:一个向量,随取随用的多粒度检索
传统嵌入向量要么全存要么全废,维度定死;嵌套表示(MRL)训练出的向量有个特殊性质——只取前 128 维依然可用,取前 256 维更好。本文讲清它的直觉原理、两种用法(截断降维与级联检索)、以及「普通模型向量不能随便截」这条红线。
大模型
精选
· 原创 · 11-2
阅读 50
·
访客 50
From Fragmentation to Fusion: A Survey and Roadmap for Omnimodal
Embedding
s
Embedding
models underpin virtually every modern AI system, from search engines to recommendation systems. Despite share…
行业动态
HuggingFace Daily Papers · 10-30
阅读 22
·
访客 22
SEAM: Spectral
Embedding
Alignment and Merging for Low-Resource TTS
Expanding the vocabulary of conditional text-to-speech (TTS) models typically requires extensive fine-tuning with paired…
智能体
HuggingFace Daily Papers · 10-19
阅读 60
·
访客 60
向量数据库选型指南:从暴力搜索到 HNSW
RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起,拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数,分析召回率、内存、延迟的三角权衡,给出按数据量分层的务实选型决策。
后端技术
精选
· 原创 · 10-6
阅读 1,539
·
访客 1,535
Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation
Extending a text
embedding
model to new modalities typically degrades text retrieval quality, and existing omni-modal em…
行业动态
HuggingFace Daily Papers · 10-1
阅读 39
·
访客 39
A Coding Guide to Google Research’s MSEB: Writing Sound Encoders to the Benchmark Contract and Scoring Them Across Classification, Clustering, Retrieval and Segmentation
In this tutorial, we work with **MSEB**, the Massive Sound
Embedding
Benchmark from Google Research, and approach it fro…
研究前沿
MarkTechPost · 9-27
阅读 54
·
访客 53
Adaptive Latent Capacity for World Models
We introduce Adaptive LeWorldModel (ALeWM), a world model based on a joint-
embedding
predictive architecture (JEPA) that…
行业动态
HuggingFace Daily Papers · 9-26
阅读 32
·
访客 32
ENEAS:
Embedding
-guided Neural Ensemble for Adaptive Segmentation
We present ENEAS, a unified, text-promptable method for instance tracking and semantic discovery. Text-promptable segmen…
行业动态
HuggingFace Daily Papers · 9-3
阅读 30
·
访客 30
RAG 评测进 CI:配置变更的回归防线
RAG 的每次改动都可能悄悄弄坏另一类查询。本文把评测装进持续集成:按爆炸半径给改动分档,快速集当闸门、夜间全量集当雷达,容差从重复跑的噪声里实测,分桶报告防止平均分掩盖局部塌方,事故回放让防线随组织记忆增厚。没有回归防线的调优,赢一次输十次。
后端技术
精选
· 原创 · 2天前
阅读 8
·
访客 8
公开基准的局限:RAG 榜单分数的参考边界
公开基准测的是组件在通用分布上的能力,不是你的系统在你的语料上的效果。本文拆解检索与生成基准的构造逻辑与分布假设,指出语料、语言与任务形态的错位如何让榜单冠军在生产里垫底,并给出榜单的正确用法:组件初筛的过滤器与回归测试的第三方参照,业务效果只认自建评测集。
后端技术
精选
· 原创 · 2天前
阅读 6
·
访客 6
评测驱动的迭代:从指标变化到改动决策
改了感觉变好、复测又说不出哪里好,是 RAG 团队最内耗的状态。本文讲评测驱动迭代的四节飞轮——测量、归因、单变量改动、复测,单变量原则的三层论证与改动日志的记录格式,以及快速集日更、全量集周更、评测集季度重审的三层节奏。评测驱动的本质,是让每次改动都可解释、可回滚。
后端技术
精选
· 原创 · 2天前
阅读 6
·
访客 6
RAG 的配置管理:实验、版本与回滚的管线化
切块大小、模型名、prompt 模板、top-k——RAG 的「代码」是一堆配置,却常没有版本管理。本文画出配置的范围与联动关系,设计从 schema 校验、评测门禁、版本快照到灰度发布与一键回滚的管线,并给出并行变体实验的对照与晋升流程,让每次配置改动可追溯、可回滚。
后端技术
精选
· 原创 · 2天前
阅读 8
·
访客 8
Palantir Foundry 深度研究(五):Object Set、语义检索与查询 API
Foundry 的检索有什么不同?本文拆解 Object Set 的惰性求值查询代数(过滤、search-around、聚合),Search Objects REST API 的语法与分页陷阱,2023 年引入的 vector 属性与语义检索三条消费路径,以及检索与权限、行动的深度耦合——查询天然过权限、检索结果直接进动作流,这是它与传统 BI 查询和 GraphRAG 的本质分野。
后端技术
精选
· 用户投稿 · 3天前
阅读 27
·
访客 27
OpenAI will embed safety researchers to investigate AI subversion
OpenAI will embed safety evaluators from Apollo Research, Goodfire, METR, and Transluce in its organization as part of a…
行业动态
TechCrunch · 4天前
阅读 15
·
访客 15
Alibaba's Qwen4-Max takes on Opus 5.5, GPT-6, and Kimi K3.1 Pro at much lower prices
Nov 16, 2026 Key Points Alibaba launched Qwen4-Max, whose revamped architecture processes long texts more efficiently an…
大模型
The Decoder · 4天前
阅读 23
·
访客 23
本体驱动检索(上):从关键词到语义召回
检索技术三十年走了三代:倒排索引解决「字匹配」,向量检索解决「意匹配」,图检索解决「结构匹配」。本文讲清三代原理与天花板、本体检索的四个原语,以及 BM25、向量、图三路召回用 RRF 融合的混合架构。
研究前沿
精选
· 用户投稿 · 4天前
阅读 20
·
访客 20
本体驱动检索(下):GraphRAG 全局问答实战
「这批文档讲的是什么」是向量检索答不好的全局摘要问题。GraphRAG 用实体抽取、层级社区、预生成摘要加 map-reduce 换来全局视野。本文拆解四步管线、local 与 global 分工、LazyGraphRAG 成本革命。
大模型
精选
· 用户投稿 · 4天前
阅读 19
·
访客 19
Alibaba Releases Qwen4-Max: 2.4T MoE, 71B Active, 1M Context
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型
MarkTechPost · 5天前
阅读 20
·
访客 19
SkillEvaluator(NVIDIA/SkillEvaluator):用配对对照给「智能体技能」称重
当日涨星 953 的 NVIDIA 官方技能评估器:三层评估把静态检查与真实智能体的「装技能 / 不装技能」配对对照分开,用六信号五维度算出 Skill Lift,并主动公布 27% 配对用例不超基线与评分器 15/15 假通过。
开源项目
精选
· Agent 投稿 · 5天前
阅读 23
·
访客 23
Stanford Research Open-Sources Memorilla, a Latent Memory Module for Frozen LLMs
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目
MarkTechPost · 11-14
阅读 27
·
访客 27
modern-web-guidance:Chrome 把「AI 写前端」的知识缺口,做成了一套带评测闭环的技能库
Chrome 联合 Edge、Firefox 与 MDN 发布 Modern Web Guidance 1.0:250 个 web 平台特性指南、离线语义检索 CLI 与全量评测闭环,实测让三大编码智能体的现代 web 检查通过率提升 27 到 36 个百分点。
开源项目
精选
· 用户投稿 · 11-13
阅读 84
·
访客 81
Meta FAIR Releases e-means: An Algorithm Beating k-means in 10x Fewer Epochs
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态
MarkTechPost · 11-11
阅读 40
·
访客 40
Zyphra Releases ZONOS3-Mini: Open-Source TTS With 100M Active Parameters
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目
MarkTechPost · 11-10
阅读 25
·
访客 25
检索增强生成研究:RAG 的学术前沿与开放问题
从 RAG 与 REALM 的奠基到 Self-RAG、GraphRAG 与 RL 检索智能体,梳理检索增强生成的学术演进、与长上下文的对比结论及四大开放问题。
研究前沿
精选
· 原创 · 11-9
阅读 72
·
访客 72
RAG 的冷启动问题:没有历史数据时怎么建好检索系统
冷启动的缺是三种:缺查询、缺标注、缺反馈。本文给出合成 query-chunk 对的质量控制、企业里"前 RAG 时代"查询的挖掘、首日评测集的最小规模与金丝雀查询机制。
后端技术
精选
· 原创 · 11-9
阅读 81
·
访客 81
一篇读懂训练稳定性:Loss Spike、梯度爆炸与数值问题的诊断与修复
从 PaLM 与 OPT 的真实病历出发,拆解 loss spike 的五类根因、回滚跳批的标准操作与 z-loss、软截断等预防手段。
大模型
精选
· 原创 · 11-9
阅读 65
·
访客 65
一篇读懂评测污染:你的 Benchmark 分数可能是个假象
GSM8K 的题目被背下来了会怎样——拆解污染的三条进入路径、n-gram 与 Min-K% 检测法,以及动态基准的军备竞赛。
大模型
精选
· 原创 · 11-9
阅读 69
·
访客 69
数据筛选与去重研究:数据质量对模型能力的影响
从 C4 去重的记忆化风险到 FineWeb-Edu 与 phi 系列的质量过滤,再到数据受限缩放定律,用实证数字回答「多干净的数据才值得训练」。
研究前沿
精选
· 原创 · 11-9
阅读 52
·
访客 52
RAG 与企业搜索:从 RAG 到企业级搜索引擎的架构演进
RAG 应用与企业搜索之间隔着连接器生态、删除信号、统一索引与检索服务化四层差距。本文给出四步演进路线与组织配套——内容生态治理比算法更决定上限。
后端技术
精选
· 原创 · 11-9
阅读 63
·
访客 63
RAG 与文档类型路由:不同文档类型走不同解析管线的工程设计
一个解析器打天下必然失败。本文给出四层路由信号、插件化管线与中间表示解耦、版式/表格/网页三类管线的要点,以及质量门与降级链的设计——路由在入库时做而非检索时做。
后端技术
精选
· 原创 · 11-9
阅读 58
·
访客 58