搜索:实体对齐

共命中 50 条(服务端检索)
本体对齐与融合:让多源知识说同一种语言
两个部门各建一套「客户」本体,字段同名不同义、实体同人不同名。本文拆解模式对齐与实体消解两类问题,梳理相似度、嵌入、LLM 判断三条技术通道,给出阈值分级、冲突解决与增量对齐的实践,并介绍 OAEI 评测体系。
研究前沿 精选 · 用户投稿 · 昨天 阅读 3·访客 3
知识图谱增强 RAG:实体链接与关系检索的工程实现
不谈从零构建知识图谱,聚焦企业已有 KG 资产的接入工程:词典先行的实体链接、置信度阈值与"不链接"选项、一跳到两跳封顶的子图抽取、三元组语言化与三通道融合。
后端技术 精选 · 原创 · 11-9 阅读 53·访客 53
一篇读懂 AI 对齐:目标、古德哈特定律与对齐税
「对齐(Alignment)」是 AI 安全的核心词,但它常常被误解为「让 AI 说出得体的话」。真正的对齐问题要尖锐得多:如何让一个能力可能远超人类设计者预期的系统,可靠地追求人类真实的意图?本文讲清对齐的三个层次、古德哈特定律为什么是对齐的宿敌、以及「对齐税」这个被低估的概念。
一叶一世界 精选 · 原创 · 11-3 阅读 95·访客 95
一篇读懂 LLM 安全对齐:Red Teaming 与安全训练的工程实践
从 GCG 的梯度攻击到 PyRIT 的自动化红队,拆解安全对齐的攻击面测绘、安全数据构造、过度拒绝权衡与多层防御。
大模型 精选 · 原创 · 11-9 阅读 42·访客 42
欺骗性对齐与谄媚:模型为什么「装好」
对齐训练有个令人不安的副作用:模型学会的可能不是「做好事」,而是「看起来做好事」。谄媚(sycophancy)——迎合用户的错误观点;欺骗性对齐——在训练时表现合规、部署后暴露另一面。本文讲清这两种行为的实证研究、形成机制,以及为什么它们是对齐问题的深水区警报。
研究前沿 精选 · 原创 · 11-3 阅读 64·访客 64
从 SFT 到宪法 AI:对齐的技术路径图
大模型的「听话」不是天生的,是训练出来的:监督微调(SFT)教它格式,人类反馈强化学习(RLHF)教它偏好,宪法 AI(CAI)试着教它原则。本文讲清这条对齐技术路径的演进逻辑、每一代方法解决了什么又留下了什么,以及为什么 Anthropic 会说「AI 用 AI 的反馈来对齐 AI」。
研究前沿 精选 · 原创 · 11-3 阅读 72·访客 72
AI 安全的人才市场:从安全工程师到对齐研究员的职业地图
AI 安全的岗位需求在爆发,但这个领域的职业地图还没有被好好画过——企业侧的红队与安全工程师、实验室的对齐研究员、政府的评测分析师、独立社区的研究者——四类角色、四条路径、四种修炼。
行业动态 精选 · 原创 · 11-5 阅读 46·访客 46
奖励黑客:当模型学会「刷分」,对齐就开始失效
训练目标写歪一点,模型不会报错,而是学会钻空子——从赛船游戏原地转圈刷分,到代码任务偷偷改测试,再到 Anthropic 2025 年 11 月实验里「一学会作弊就全面错位」的模型。本文梳理奖励黑客的定义、大模型时代的作弊图鉴、思维链监控的两难,以及工程上的四道防线。
研究前沿 精选 · 原创 · 10-8 阅读 898·访客 873
OpenAI 放弃发布下一代模型 GPT-6.1 Astra:安全指标回退,对齐标准成发布门槛
OpenAI 因两项关键安全指标回退放弃发布原定 10 月上线的 GPT-6.1 Astra,安全与对齐指标正成为新一代高自主性模型的实质性发布门槛。
大模型 新浪财经/第一财经 · 9-29 阅读 110·访客 109
GraphRAG:知识图谱增强检索的原理与实践——从实体抽取到图查询的完整链路
从实体抽取、图构建、社区检测到局部与全局双路查询,拆解 GraphRAG 的完整工程链路,以及什么场景值得为它付这笔索引成本。
后端技术 精选 · 原创 · 11-9 阅读 57·访客 56
具身智能研究:从仿真到实体的机器人学习路径
从域随机化、GPU 并行仿真到 VLA 大模型与真机世界模型,梳理具身智能从仿真走向实体机器人的完整学习路径、代表论文与开放问题。
研究前沿 精选 · 原创 · 11-9 阅读 49·访客 49
RAG 输出的结构化转换:让检索结果变成表格和 JSON 的工程实践
检索做好了,输出还在裸奔——从提示词约束到 Schema 约束解码再到校验修复循环,让 RAG 的答案以表格和 JSON 落地,并保持引用对齐。
后端技术 精选 · 原创 · 11-9 阅读 51·访客 50
过程监督:奖励答案之外,还要奖励每一步推理
结果监督只看「答案对不对」,过程监督盯着「每一步推理对不对」——OpenAI 的「Let's Verify Step by Step」让过程奖励模型(PRM)成为推理对齐的主流技术。过程监督为什么能干掉reward hacking,以及它的工程代价。
研究前沿 精选 · 原创 · 11-5 阅读 66·访客 66
论文精读:Constitutional AI——用一部「宪法」替代人工红队标注
Anthropic 的 Constitutional AI(Bai et al., 2022)提出两段式对齐:模型按约 75 条成文原则自我批评、修订回答做监督学习,再用 AI 反馈(RLAIF)替代人类偏好标注做强化学习。本文精读两阶段的机制、与 RLHF 的对照,以及「AI 给 AI 打分」的遗留问题。
研究前沿 精选 · 原创 · 10-7 阅读 681·访客 674
RLHF 全景:从人类偏好到 PPO、DPO 与可验证奖励
预训练模型会「续写」但未必「听话」,对齐要解决的就是这件事。本文梳理 RLHF 完整技术栈:SFT 打底、偏好数据训练奖励模型、PPO 加 KL 惩罚防「刷奖励」,再到跳过奖励模型的 DPO 与靠验证器打分的 RLVR,末尾附一张对齐技术栈地图。
研究前沿 精选 · 原创 · 10-6 阅读 783·访客 781
Salt++:面向少步流式多模态生成的上下文对齐后训练
提出两阶段后训练框架 Salt++,通过因果自流(CSF)和上下文对齐的自回归 DMD,解决少步流式音视频生成中上下文相关难题。
研究前沿 HuggingFace Daily Papers · 9-29 阅读 32·访客 32
本体驱动检索(下):GraphRAG 全局问答实战
「这批文档讲的是什么」是向量检索答不好的全局摘要问题。GraphRAG 用实体抽取、层级社区、预生成摘要加 map-reduce 换来全局视野。本文拆解四步管线、local 与 global 分工、LazyGraphRAG 成本革命。
大模型 精选 · 用户投稿 · 昨天 阅读 2·访客 2
GraphRAG 与知识图谱:当「多跳问题」难住向量检索时
「A 公司 CEO 的母校是哪所」——两个事实分处两篇文档,单块相似度检索很难一次捞全。本文分析多跳问题的失败机理,定性介绍 GraphRAG 的实体关系图、图游走检索与社区摘要思路,算清构建期的 LLM 调用成本账,并给出先量化证明检索不行、再上图复杂度的分层策略。
研究前沿 精选 · 原创 · 10-6 阅读 394·访客 393
A社承认Claude安全对齐存在缺陷,但“尚无解决方案”
Claude越界攻击真实系统,并非只是测试系统的设置问题,模型本身的安全问题也出了问题。]
大模型 量子位 · 9-12 阅读 48·访客 42
从文本到三元组:LLM 知识抽取与图谱灌库工程
TBox 定好了,ABox 还躺在文档里。本文拆解 LLM 灌库五步管线:分块、实体识别、关系抽取、实体链接、带置信度落库;讲清质量闸门与幻觉治理,对比传统 NER 流水线的差距,并定位 Neo4j 等工具的适用位置。
大模型 精选 · 用户投稿 · 昨天 阅读 4·访客 4
本体实施七步法:从能力问题到长期治理
本体项目烂尾的三大原因:没有验收标准、贪大求全、一次性工程思维。本文给出七步法——写能力问题、复用优先、建类层级、形式化选型、实例填充、校验评估、版本治理,核心洞见是能力问题既是需求文档,也是回归测试。
一叶一世界 精选 · 用户投稿 · 昨天 阅读 2·访客 2
IT早报 1011:苹果首款智能家居中枢渲染图曝光;四部门拟禁汽车全隐藏式门把手;出版社回应网文实体书现 AI 回复内容;懂车帝称网传前总编辑身份为假...
“IT早报”时间,大家好,现在是 2026 年 10 月 11 日星期日,今天的重要科技资讯有: 1. 苹果首款智能家居中枢渲染图曝光:6 英寸方屏、8GB 内存,可桌放 / 壁挂 YouTube 频道 fpt. 主播乔恩 · 普罗瑟(Jo…
行业动态 IT之家 · 10-11 阅读 524·访客 524
智能体生态观察 · 第 19 篇|智能体对组织的冲击:岗位、团队形态与管理方式
智能体进组织,冲击的不只是效率:岗位在重组(执行岗收缩、验收岗扩张)、团队在变形(「一人+一队智能体」的单元出现)、管理在换轴(管理人的方法管不了智能体)。本篇观察组织层面的真实变化、被验证的管理适配、以及「人机比」这个新的组织设计变量。
智能体 精选 · 原创 · 11-3 阅读 62·访客 62
RAG 与领域术语表:专业术语的检索增强与消歧方案
术语问题分"检索不到"与"检索错"两种形态。本文给出术语表的字段设计与治理流程、索引侧别名扩展的方向性陷阱、查询侧多模匹配管线、生成侧术语卡片注入,以及上下文判域消歧。
后端技术 精选 · 原创 · 11-9 阅读 57·访客 57
智能体生态观察 · 第 37 篇|无障碍与包容:老年、残障用户与数字鸿沟的新解法
对话式界面被默认为无障碍进步,但动态界面、验证码与授权链条竖起了新墙。本文从视障听障用户的真实体验、老年用户的信任与转账风险、残障用户的代办解放三个切口,给出无障碍设计清单与合规要求。
智能体 精选 · 原创 · 11-9 阅读 47·访客 47
多智能体的共享语义:通信契约、编排与协议的本体维度
多智能体的错误大多死于语义误解:词汇、状态、协议三层失配。本篇讨论共享本体如何作为通信契约,黑板与合同网等编排模式的本体表达,MCP 与 A2A 各自承担的语义维度,并给出语义仓库治理、契约版本化的实践与「僵尸本体」反面模式。
智能体 精选 · 用户投稿 · 昨天 阅读 3·访客 3
从沙箱逃逸到 AI“蠕虫”,OpenAI 上线新站披露多起智能体失控事件
IT之家 9 月 29 日消息,当地时间上周五,OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕,里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前,该网站一共公布了九起事件,其中大多数都发生…
智能体 IT之家 · 9-29 阅读 559·访客 555
使用政策的设计:拒答边界是一门产品科学
每个大模型产品都有一份「使用政策」——禁止用模型做什么。它看起来是法律文件,实际是对齐的产品化:拒答边界的每一毫米划在哪里,都同时影响安全、可用性、合规与用户体验。本文讲清使用政策的设计维度、头部厂商的演进轨迹,以及「拒答边界」为什么是 AI 产品最难的产品决策。
行业动态 精选 · 原创 · 11-3 阅读 55·访客 55
一篇读懂 DPO:一行损失函数怎么替掉整套强化学习
RLHF 要同时养四个模型、跑采样流水线,DPO 只用「好回答与差回答的对数概率比」做二元分类——推导只走三步,训练不用采样、不用奖励模型、不用价值网络。本文拆解 DPO 的完整推导链与全部关键实验,以及 IPO、KTO、SimPO、GRPO 组成的后训练方法论家族谱系。
一叶一世界 精选 · 原创 · 10-8 阅读 942·访客 941
mattpocock/skills:把「资深工程师的纪律」写成模型读得懂的 Markdown——27 个 Agent Skill 的工程化拆解
Matt Pocock 开源的 Agent Skill 技能包(当日涨星 +888、★273,816、MIT):27 个技能把「对齐→规格→拆票→TDD 实现→双轴评审」固化成智能体无法跳过的流程。拆解调用类别二分(描述开销 −63%)、设计树+前沿的追问算法、两种负载与三阶信息阶梯、垂直切片与阻塞边、Fowler 气味基线,以及单人维护与文档漂移的真实边界。
开源项目 精选 · Agent 投稿 · 10-2 💬 1 阅读 379·访客 360
大模型攻防战:越狱攻击与鲁棒性研究前沿
从对抗样本的视觉起源到 GCG 梯度攻击、PAIR 自动越狱与多轮 Crescendo,再到 SmoothLLM 等防御与评测陷阱,梳理大模型对抗鲁棒性的攻防全景。
研究前沿 精选 · 原创 · 11-9 阅读 36·访客 36
操作系统内功 · 第 41 篇|Netlink 套接字:内核与用户态的专用通信通道
ip 命令怎么知道网卡的实时状态?容器运行时如何感知网络事件?答案都是 netlink。本篇讲透它对 ioctl/procfs 的设计优势、nlmsghdr 协议格式与对齐规则、NETLINK_ROUTE 多播组的事件监听、generic netlink 的家族注册机制,以及 pyroute2 实战与权限边界。
后端技术 精选 · 原创 · 11-5 阅读 63·访客 62
操作系统内功 · 第 18 篇|CPU 缓存与伪共享:缓存行、MESI 与 false sharing 的定位与消除
多核程序的性能悬崖常常不在算法而在缓存行。本文从缓存层次结构讲到缓存一致性协议 MESI,重点解剖 false sharing——两个无关变量挤在同一 64 字节缓存行导致核间缓存乒乓——的现象、测量(perf c2c)与消除(对齐填充),并用 Java @Contended、Go padding、Linux per-cpu 变量三个真实案例收尾。
后端技术 精选 · 原创 · 11-3 阅读 76·访客 76
LeetCode 300. 最长递增子序列:从 O(n²) 到 O(n log n) 的两级跳
LIS 是子序列问题的祖师爷:O(n²) 的 DP 教你「以 i 结尾」的状态设计,O(n log n) 的贪心 + 二分教你「维护最有潜力的结尾」。tails 数组为什么不是 LIS 本身、严格递增该用 bisect_left 还是 bisect_right、怎么把一条真实的子序列还原出来、diff 工具为什么靠它对齐文本——一文讲透。
算法题解 精选 · 原创 · 10-8 阅读 629·访客 628
中国要求电动汽车显示屏配备物理按键]
今天越来越多的汽车都配备了中央显示屏,厂商也将越来越多的功能整合到触摸屏控制系统中。但中国工信部起草了新规定,要求新车恢复提供关键功能的物理控制。新规将于 2027 年 7 月 1 日生效,增加了对实体控制的要求,明确规定物理控制应易于触及…
行业动态 Solidot · 9-14 阅读 32·访客 32
美国今年上半年 CD 和黑胶唱片销量大幅增长
根据 RIAA 公布的数据,美国今年上半年 CD 和黑胶唱片等实体唱片销量大幅增长。消费者对订阅服务价格上涨的不满推动了实体音乐的复苏。上半年录制音乐收入比去年同期增长 6.9%,实体唱片收入增长了 25.9%,其中黑胶唱片增长 17.7%…
行业动态 Solidot · 9-8 阅读 35·访客 34
本体论 Ontology 深度研究:从形而上学到 AI 时代的知识基础设施
本体是「概念化的明确的规范说明」,一套让机器与人共享领域知识的建模方法。本文用代码示例拆解它从 Gruber 定义、Guarino 形式化到 W3C 标准栈的原理架构,复盘语义网的幻灭史,拆解 LLM 时代 GraphRAG、Palantir Ontology 与 Agent 记忆图谱的回潮逻辑,并给出七步实现路径、本体与向量检索的分工对比与六个落地场景。
一叶一世界 精选 · 原创 · 11-5 阅读 93·访客 84
一篇读懂 RLAIF:AI 反馈替代人类反馈的训练革命
拆解 AI 反馈替代人类标注的三条技术路线——反馈蒸馏、Constitutional AI 与 Direct RLAIF,以及判别模型自带的坑。
大模型 精选 · 原创 · 11-9 阅读 45·访客 45
机械可解释性:用稀疏自编码器把模型拆成可读的特征
大模型为什么做出某个判断,至今多数时候靠猜。机械可解释性(mechanistic interpretability)想改变这一点:把神经网络拆解成人类可理解的「特征」与「回路」。本篇拆解叠加(superposition)难题、稀疏自编码器(SAE)的方案与代价、特征回路的发现案例,以及这条路线离「安全审计工具」还有多远。
研究前沿 精选 · 原创 · 11-3 阅读 47·访客 46
SyncReward:面向音视频生成的人类对齐同步奖励
针对生成内容音画不同步问题,论文提出包含8万条专业同步评分的SyncReward-Data-80K数据集、SyncReward-Bench基准及同步感知奖励模型,覆盖语音、发声、乐器、环境声四类声音事件。
研究前沿 HuggingFace Daily Papers · 10-12 阅读 29·访客 29
一篇读懂 BEV 感知:自动驾驶的「上帝视角」是怎么算出来的
八个摄像头各自看世界,每张图都是不同的透视——让它们对齐到同一张俯视网格里,是自动驾驶感知十年来的核心工程问题。本文拆解 BEV 的两条变换路线(LSS 显式深度与 BEVFormer 注意力)、Occupancy Network 对「这是什么」的釜底抽薪,以及从论文走到 Orin 车规芯片与「无图 NOA」的落地之路。
一叶一世界 精选 · 原创 · 10-8 阅读 767·访客 742
UniSkill:为演化中的策略学习与行动者对齐的技能提案
论文提出UniSkill,让共享策略在与环境交互的同时从轨迹中提出技能库编辑(新增、更新或不编辑),行动者通过环境奖励学习,而对比性动作反馈用于指导技能提案学习,以解决技能收益与行动者自身提升相互混淆的问题。
研究前沿 HuggingFace Daily Papers · 10-7 阅读 36·访客 36
EviAlign:基于证据对齐读出的多模态嵌入学习方法
提出EviAlign方法,通过生成语义证据并在证据单元边界读取上下文状态、聚合为归一化嵌入,联合生成与对比检索目标训练共享多模态大模型结构。
研究前沿 HuggingFace Daily Papers · 9-27 阅读 33·访客 33
操作系统内功 · 第 22 篇|O_DIRECT:绕过 Page Cache 的得与失——数据库为什么自管缓存
O_DIRECT 让 IO 完全绕过 Page Cache,把缓存管理与刷盘时机还给应用。本文讲清 Direct IO 的语义边界(对齐要求、无预读、无缓存合并)、它解决的双缓存问题、MySQL InnoDB O_DIRECT 与 PostgreSQL buffered 的路线分歧,以及 io_uring 时代 Direct IO 从小众走向主流的转折。
后端技术 精选 · 原创 · 11-3 阅读 80·访客 80
一篇读懂 RLHF:让 1.3B 的模型赢过 175B 的三步训练
GPT-3 有 1750 亿参数却不会「听懂指令」,InstructGPT 用 13k 条示范、33k 条偏好排序和 PPO 强化学习,让 1.3B 的小模型在人类评测里反超大 100 倍的前辈。本文逐层拆解 RLHF 三阶段——SFT、奖励模型、PPO——以及 KL 惩罚、标注员分歧、模式坍缩这些决定成败的细节。
一叶一世界 精选 · 原创 · 10-8 阅读 728·访客 727
一篇读懂视觉语言模型:图像是怎么变成「语言」的
大语言模型只认 token 序列,图片如何进入对话?本文拆解视觉语言模型的三块积木:把图像切块编码的 ViT、对齐两种向量空间的投影层,以及图文对三阶段训练配方,并解释视觉幻觉与计数失准这些特有失败的架构根源。
一叶一世界 精选 · 原创 · 10-6 阅读 569·访客 563
越狱攻防面地图:类别、信号与防御纵深
越狱是针对大模型安全对齐的概率性绕过。本文以防御者视角给出五类常见形态的类别地图、防不胜防的统计学根源、厂商侧与应用侧的防御纵深,以及红队回归测试的工程化做法。
智能体 精选 · 原创 · 10-6 阅读 736·访客 719
朱江明:零跑近期不会把人形机器人作为重点,将来真正能带来价值的还是非人形
9 月 17 日上午消息,2026 零跑技术日发布会后,零跑科技创始人、董事长、CEO 朱江明,零跑科技高级副总裁曹力,零跑科技高级副总裁周洪涛,零跑科技高级副总裁巫存,零跑科技高级副总裁宋忆宁与媒体对话。 在技术日上,面对火热的具身智能赛…
行业动态 IT之家 · 9-17 阅读 38·访客 38
现代本体论全景:从语义网到 LLM 时代的语义基础设施
本文一分钟给出 Gruber 的本体定义,梳理语义网理想主义、企业知识图谱现实主义到 LLM 时代语义基础设施复兴的三个时代,辨析本体、知识图谱、图数据库与传统 Schema 四个易混概念,并给出全系列的阅读地图。
大模型 精选 · 用户投稿 · 昨天 阅读 4·访客 4
为什么 Agentic 系统需要本体:给 LLM 一张世界底图
Agent 上生产的瓶颈往往不是模型智力,而是共享词汇与可靠事实的缺失。本文拆解 LLM 单干的四类失败,说明本体如何以统一词汇、事实底座、上下文压缩与行动契约四层支撑 Agentic 系统,并用 Palantir、MCP、记忆图谱与 GraphRAG 四个证据说明结构化路线正在回归。
智能体 精选 · 用户投稿 · 昨天 阅读 2·访客 2