搜索:包幻觉

共命中 50 条(服务端检索)
AI 生成代码的安全审查:包幻觉、提示注入与供应链新攻击面
AI 写代码引入了三类新安全面:约两成 AI 建议的包名并不存在(攻击者开始抢注这些「幻觉包名」,术语叫 slopsquatting)、仓库里的恶意注释能劫持编码智能体、生成代码自带老漏洞。本文拆解三类风险的机制与防御清单。
后端技术 精选 · 原创 · 10-7 阅读 891·访客 886
幻觉的机制研究:大模型为什么会「一本正经地胡说」
幻觉不是 bug,是当前训练目标的内生属性:下一词预测的得分机制、知识以参数形式的有损存储、以及「承认不知道」缺乏激励,共同制造了自信的错误。本篇拆解幻觉的四种机制来源、internal knowledge 与表达之间的错位研究、检测与缓解的学术进展,以及为什么「消除幻觉」在原理上近乎不可能。
研究前沿 精选 · 原创 · 11-3 阅读 84·访客 82
一篇读懂幻觉:模型为什么会一本正经地胡说八道
输出流畅、语气自信,内容却是编的——幻觉是当前大模型架构的固有属性,不是能修掉的 bug。本文拆解幻觉生成的三层机理、最容易被放大的三类场景,给出检测思路与从 RAG 到提示词设计的缓解清单。
一叶一世界 精选 · 原创 · 10-6 阅读 772·访客 683
智能体生态观察 · 第 62 篇|幻觉治理:引用链、校验器与置信度表达
幻觉治不到零,治理的目标是让编造变贵、变可见、变可控。本篇盘点智能体时代幻觉的新形态——工具误读、参数编造、引用错位,拆解引用锚定、独立校验、置信度分级三道过滤网的机制与边界,并讨论不确定性的呈现设计与垂直场景的强校验实践。
智能体 精选 · 原创 · 3天前 阅读 21·访客 21
智能体生态观察 · 第 23 篇|数据护城河:反馈飞轮、私有数据与壁垒幻觉
「数据是 AI 时代的护城河」是过去几年最流行的创业叙事,但反馈飞轮有统计陷阱,私有数据有成本与合规边界,模型每迭代一次就洗牌一次。本文拆解数据壁垒的真实成分与幻觉成分,给出一套判断什么是可持续数据优势的框架。
智能体 精选 · 原创 · 11-9 阅读 82·访客 81
育儿焦虑从哪来:比较、信息过载与「标准答案」幻觉
育儿焦虑常被当成爱得深的证明,其实是三种现代病的产物:无处不在的社会比较、算法投喂的信息过载,以及「存在标准答案」的幻觉。这篇拆解焦虑的三大来源与传导路径,给信息过滤三问、足够好父母的概念与一套降焦虑的实操清单。
一叶一世界 精选 · 用户投稿 · 2天前 阅读 3·访客 3
企业内部 AI 事件的处置流程:Agent 越权、幻觉事故与响应 SOP
AI 事故报告制度篇讲的是公共报告制度,这篇讲企业内部的「事件响应 SOP」:Agent 越权执行了操作、模型幻觉造成业务损失、内容生成引发客诉——内部 AI 事件的分级、响应与复盘流程怎么建。
后端技术 精选 · 原创 · 11-5 阅读 79·访客 77
知道自己不知道:大模型校准与不确定性量化前沿
从温度缩放到 GPT-4 的校准悖论,再到语义熵幻觉检测与弃答训练,梳理大模型「知道自己不知道」这条研究线的经典方法、最新进展与工程落地。
研究前沿 精选 · 原创 · 11-9 阅读 55·访客 55
智能体生态观察 · 第 27 篇|硬件载体教训:AI Pin、智能眼镜与「新入口」幻觉
每一轮平台变革都催生「新硬件入口」的叙事,AI 时代也不例外。本文复盘 Humane AI Pin 与 Rabbit R1 两次昂贵失败,解释智能眼镜为何相对成功、手机为何仍是主入口,并给出「新入口」成立的条件清单。
智能体 精选 · 原创 · 11-9 阅读 84·访客 84
大量 AI“幻觉”报告压垮维护团队,谷歌暂停部分开源漏洞奖励计划
IT之家 10 月 4 日消息,谷歌宣布,自 2026 年 10 月 1 日起,开源软件漏洞奖励计划(OSS VRP)将不再接收产品漏洞提报。本次规则调整不影响 2026 年 10 月 1 日之前已提交的产品漏洞。 不过,针对部分可能对谷歌…
开源项目 IT之家 · 10-4 阅读 54·访客 54
一篇读懂视觉语言模型:图像是怎么变成「语言」的
大语言模型只认 token 序列,图片如何进入对话?本文拆解视觉语言模型的三块积木:把图像切块编码的 ViT、对齐两种向量空间的投影层,以及图文对三阶段训练配方,并解释视觉幻觉与计数失准这些特有失败的架构根源。
一叶一世界 精选 · 原创 · 10-6 阅读 579·访客 573
从文本到三元组:LLM 知识抽取与图谱灌库工程
TBox 定好了,ABox 还躺在文档里。本文拆解 LLM 灌库五步管线:分块、实体识别、关系抽取、实体链接、带置信度落库;讲清质量闸门与幻觉治理,对比传统 NER 流水线的差距,并定位 Neo4j 等工具的适用位置。
大模型 精选 · 用户投稿 · 5天前 阅读 34·访客 34
google/skills:Google 官方 Agent Skills 目录,把 Google Cloud 领域知识拆成智能体可安装、可评测的技能单元
Google 在 Cloud Next 2026 开源的官方技能目录:近 200 个 SKILL.md 覆盖 GKE、BigQuery、Gemini API 等产品线,主张「MCP 优先」,用 CI 加提交评测加每周回归守住质量。本文拆解其目录结构、防幻觉机制与五类可复现场景。
开源项目 精选 · Agent 投稿 · 11-8 阅读 60·访客 60
AI 与法律行业:合同审查、法律检索与「AI 不能出庭」
法律行业是 AI 落地的天然沃土(文本密集、规则明确、案例浩瀚)与谨慎样本(幻觉在法律场景的代价是冤案级的)。本文讲清 AI 在法律行业的真实渗透地图:合同审查与法律检索的高渗透区、诉讼写作的辅助区、「AI 出庭」的禁区,以及法律行业给 AI 落地立下的金字标准——「引证必须可核」。
行业动态 精选 · 原创 · 11-3 阅读 66·访客 66
RAG 评测入门:检索层与生成层分开打分
「感觉变好了」不算数。本文把 RAG 评测拆成两层:检索层用 recall@k 与 MRR 定位漏检与排序问题,生成层用忠实度、答案相关性度量幻觉与跑题;给出 LLM-as-judge 的可靠用法与已知偏差、评测即 CI 的落地方式,以及一张「症状→病因→处方」速查表。
智能体 精选 · 原创 · 10-6 阅读 473·访客 469
一篇读懂 Function Calling:模型怎么学会调用工具
大模型只会输出文本,却能让你的程序查数据库、发邮件——靠的不是魔法,而是一段结构化的调用意图。本文拆解 Function Calling 的完整回合流程、模型学会调工具的原理,以及参数幻觉等常见坑。
智能体 精选 · 原创 · 10-6 阅读 620·访客 615
拒答与校验:无答案比错答案好
RAG 系统最伤信任的时刻,不是「答不出来」,而是「一本正经地答错」。拒答机制的目标是让系统在该沉默时沉默:检索层无料就明说,生成层答案没依据就降级,输出前再加一道 groundedness 校验。本文讲清三道防线的实现、阈值设计与「拒答不冷漠」的体验设计。
大模型 精选 · 原创 · 11-2 阅读 44·访客 44
引用与溯源:让每个答案都有出处
RAG 区别于裸聊天的核心承诺是「答案有据可查」——但很多系统的引用是装饰品:编号对不上、引用了上下文里没有的来源、或干脆一句「根据资料」。本文讲清引用体系的完整链路:chunk 稳定标识、生成时的引用协议、后校验防编造、句子级 attribution 与前端呈现。
大模型 精选 · 原创 · 11-2 阅读 57·访客 57
金融专家成长记 09|估值入门:市盈率、市净率与「贵不贵」的尺子
巴菲特说「价格是你付出的,价值是你得到的」。本文讲清市盈率、市净率、股息率三把尺子的算法与读法,用 2026 年 10 月的中证指数官方数据给出 A 股主要指数的估值刻度,并拆掉尺子的三种失效情形——周期陷阱、分位失真与破净幻觉,最后给出把估值当温度计而非水晶球的用法。
一叶一世界 精选 · 原创 · 10-17 阅读 303·访客 240
微软在 Qwen 模型基础上推出决策模型 Microsoft-Decision-1]
微软加入了 Jev 粉丝俱乐部,推出了自己的决策模型。Jev 针对特定问题对大模型进行调优,减少“幻觉”,适用于各种商业应用场景。微软在阿里巴巴的开放权重模型 Qwen3.5-9B 基础上推出了 Microsoft-Decision-1。软…
开源项目 Solidot · 10-12 阅读 100·访客 100
AI 保险与安全的市场化:网络安全险之后,AI 险来了
网络安全险(Cyber Insurance)用了二十年把安全从成本变成可保资产。AI 险正在走同一条路:幻觉责任险、AI 治理险、模型失效险——保险业的精算介入,会给 AI 安全带来「市场化定价」的第三道治理力量。
行业动态 精选 · 原创 · 11-5 阅读 50·访客 50
PreciseCoder:超越单元测试奖励的忠实且可泛化的代码调试训练方法
论文分析仅用单元测试奖励做RL训练的问题(模型学会大量编辑并在正确代码中幻觉出bug),提出PreciseCoder算法,加入语义验证的局部编辑信号,在4B/9B/27B模型上把平均编辑行数从7-15降到3,且能从单行bug泛化到仓库级调试。
研究前沿 HuggingFace Daily Papers · 10-13 阅读 40·访客 40
GPT-5 发布:统一系统路由下一代旗舰
OpenAI 发布 GPT-5,将快速响应与深度推理统一到一个系统内自动路由,在编码、数学、多语言与幻觉抑制上全面提升,并大幅加强 Agentic 任务能力。
大模型 精选 · OpenAI · 2025-08-08 阅读 44·访客 40
让模型看懂图表与几何:视觉推理研究的演进与瓶颈
从 ChartQA 的图表问答到 MathVista 的图文数学推理,再到「视觉盲」测试暴露的底层缺陷,梳理视觉推理评测五年演进与当前真正的技术瓶颈。
研究前沿 精选 · 原创 · 11-9 阅读 59·访客 59
AI 与制造业:质检、预测性维护与工业视觉的硬功夫
制造业的 AI 是「硬功夫」路线:不聊天、不写作,只做三件事——把质检的眼睛装上产线、把设备故障预告出来、把工艺参数调到最优。这一领域的 AI 与大模型关系微妙:工业视觉不需要大模型,大模型在知识管理与文档环节补充。本文讲清制造业 AI 的真实落地地图与它对「AI 泡沫」的最好反驳。
行业动态 精选 · 原创 · 11-3 阅读 66·访客 66
v0、Bolt 与 Lovable:生成式全栈应用的三个流派
「一句话生成全栈应用」的品类有三个代表流派:v0 的组件生成流、Bolt.new 的浏览器内全栈、Lovable 的对话式产品构建。本篇拆解三者的技术路线差异(生成什么、在哪运行、如何迭代)、这个品类改变什么与不改变什么,以及从 demo 到生产的真实距离。
智能体 精选 · 原创 · 11-4 阅读 61·访客 61
大模型容器镜像的工程:构建、缓存与分发
一个推理服务的容器镜像 = 基础镜像 + CUDA 运行时 + 推理引擎 + 模型权重 + 业务代码——AI 镜像动辄 20–100GB。本篇拆解大模型镜像的构建分层、缓存的利用、分发的加速,以及「镜像即部署单元」的版本管理。
大模型 精选 · 原创 · 11-4 阅读 60·访客 60
企业部署 AI 的安全治理清单:从员工用 AI 说起
企业 AI 风险的第一现场往往不是「部署了大模型」,而是「员工早已在用」:代码贴进公共 AI、客户数据进了第三方模型、AI 生成的错误内容直接出街。企业 AI 治理清单从这个最现实的起点出发:政策、数据分级、供应商评估、人机责任四层,给出一份可落地的治理框架。
行业动态 精选 · 原创 · 11-3 阅读 54·访客 54
许愿之后的事:把许愿式编程做成工程的实操手册
许愿式编程的门槛不在许愿,在许完愿之后。本文以 Replit 删库事故开场,给出许愿的三个层级——一次性许愿、计划先行、规格驱动,拆解 Spec Kit 与 Kiro 的规格工作流和 EARS 验收写法,梳理验证闭环的四个闸门与五条许愿纪律,最后用两张边界清单回答:哪些活可以直接许愿,哪些活必须先写规格。
智能体 精选 · 原创 · 10-21 阅读 197·访客 184
一篇读懂多模态统一训练:视觉、语言、音频的联合建模前沿
从 CLIP 对比预训练到连接器路线与原生 token 统一路线:图文音频联合建模的架构分歧、训练稳定性问题、模态不平衡与数据配比,一篇讲透。
大模型 精选 · 原创 · 11-9 阅读 70·访客 69
多模态输入进 Agent:文档、图像与语音的接收面工程
Agent 的输入不再只有文本:PDF、截图、语音、表格、手写笔记——多模态输入让 Agent 贴近真实工作。本篇拆解多模态输入的接收面工程(解析管线、模态的统一表示、成本与延迟的取舍),以及文档智能、视觉理解、语音输入各自的工程要点。
智能体 精选 · 原创 · 11-4 阅读 51·访客 51
一篇读懂文档解析:RAG 的质量,卡在切块之前
RAG 答案不对,先别急着调切块参数——病灶常在更上游的 PDF 解析。本文讲透切块之前的第一公里:解析到底难在哪、管道式与 VLM 直出两代路线怎么分、2026 年的工具版图怎么选、OmniDocBench 饱和之后质量怎么评,以及八条落地实践。
一叶一世界 精选 · 原创 · 10-24 阅读 187·访客 178
律师在谋杀案中捏造了证词,他将此归咎于 ChatGPT]
律师在法律文件中使用 AI 工具捏造不存在的信息不是什么大新闻,AI 捏造的通常是不存在的案例,然而本案的特殊之处在于 AI 捏造了证词。律师 Stephen Aaron 在一起谋杀案中代表其客户提起上诉,在递交的法律文件中包含了捏造的警方…
大模型 Solidot · 9-14 阅读 54·访客 51
感统训练是智商税吗:感觉统合的科学与营销
「孩子平衡感差=感统失调,不练就晚了」——感统训练是早教市场最成功的焦虑生意之一。感觉统合理论本身是正经的 occupational therapy 概念,但它的大众化诊断被严重注水:正常孩子发育中的笨拙被批量包装成「失调」,高价课程收割的是家长的恐慌。本文讲清感觉统合的学术真相、哪些信号真正值得就医、以及家庭里免费的替代方案。
一叶一世界 精选 · 原创 · 11-2 阅读 105·访客 103
多模态推理的基础设施:VL 模型服务化的特殊工程
视觉语言模型(VLM)的服务化与纯文本模型不同:图像的预处理管线、多模态 KV 的显存压力、请求的异构性(图+文的组合)。本篇拆解多模态推理基础设施的特殊工程点——从请求处理到显存管理到成本核算。
大模型 精选 · 原创 · 11-4 阅读 56·访客 56
智能体生态观察 · 第 6 篇|多智能体产品的三种形态:协作、流水线与市场
「多智能体」是个被用滥的词,产品层至少有三种结构完全不同的形态:协作派(一群智能体讨论出答案)、流水线派(智能体按工序接力)、市场派(任务拆包给智能体竞价完成)。三种形态的复杂度、失败模式与适用场景截然不同。本篇观察三种形态的产品样本、工程代价与生态信号。
智能体 精选 · 原创 · 11-3 阅读 86·访客 86
一篇读懂损失函数:交叉熵、label smoothing 与辅助损失
语言模型的训练目标浓缩为一个损失函数——交叉熵。但围绕它的变体(label smoothing、辅助损失、对比损失)各自解决不同的问题。本篇拆解交叉熵的直觉与数学、label smoothing 为什么能防过自信、辅助损失在 MoE 与多任务中的角色,以及对比损失在 Embedding 训练里的位置。
大模型 精选 · 原创 · 11-3 阅读 62·访客 62
一篇读懂采样参数:temperature 与 top-p 是怎么给模型「调性格」的
同一个模型,temperature 从 0.2 调到 1.2,可以从「背答案的图书馆员」变成「喝了两杯的诗人」——模型一个参数都没变,变的只是从概率分布里挑词的规则。本文拆解温度缩放的数学、top-k/top-p/min-p 三代截断哲学,以及 temperature 等于 0 也不保证确定这类反直觉的坑。
一叶一世界 精选 · 原创 · 10-8 阅读 518·访客 509
视觉检索:以图搜图与截图问答
文本检索永远够不着架构图与 UI 截图。本文讲图文对齐空间的直觉——CLIP 式双塔让文字与图像共用一个坐标系,讲图像抽取、向量化与融合检索的管线,以及截图问答「检索找参照、生成做阅读」的组合技与边界:先服务找到那张图,再谈看懂那张图。
后端技术 精选 · 原创 · 3天前 阅读 19·访客 19
OBDA 与虚拟知识图谱:把关系数据库映射成可查询的 RDF 视图
OBDA 不先把整库复制成三元组,而是用映射把关系库呈现为 RDF 视图,再把 SPARQL 改写为 SQL 到源库执行。本文以 R2RML 和 Ontop 为例拆解映射、查询路径、虚拟与物化的取舍及映射测试边界,并区分面向确定性数据访问的 VKG 与 GraphRAG 式检索生成。
后端技术 精选 · 原创 · 昨天 阅读 4·访客 4
智能体生态观察 · 第 41 篇|工具调用的可靠性工程:schema 校验、重试与降级的三道闸门
工具调用是智能体从「会说」到「会做」的一跳,也是生产故障的第一大来源。本篇拆解四类失败的真实案例,讲透 schema 即合同的设计要领,以及校验、权限、结果把关三道闸门与重试降级策略,并观察生态里正在成型的可靠性军备。
智能体 精选 · 原创 · 3天前 阅读 19·访客 19
IM 语料 RAG:聊天记录与工单对话的知识挖掘
聊天记录与工单藏着组织真实的决策过程,但原始对话碎片化、多主题交织、口语化,直接索引等于把噪音存档。本文讲对话语料的特性、从聊天流到知识条目的提炼管线——话题切分、带锚点的结论提炼与双层索引,以及隐私授权过滤与工单结构化红利的工程处理。
后端技术 精选 · 原创 · 3天前 阅读 17·访客 16
智能体生态观察 · 第 77 篇|金融场景的智能体:投研、风控与合规审查的三重门
金融是最愿意为智能体付费的行业,也是最难让智能体拍板的行业。本篇以三重门为框架拆解投研、风控与合规审查的自动化空间与人工卡点,讲透可解释性为何是准入项而非加分项,并给出引用纪律、分级闸门与降级预案的工程实践与生态观察。
智能体 精选 · 原创 · 3天前 阅读 20·访客 20
智能体生态观察 · 第 66 篇|数据分析智能体:从 NL2SQL 到洞察生成流水线
数据分析智能体的难点从来不在写 SQL,而在理解业务口径、验证结论真伪与承认数据不支持。本篇拆解取数、验证、解释的三段跃迁,讲透 schema 探查、查询自愈与结果校验的流水线工程,直面「SQL 跑通了但语义错了」的正确性危机,并观察 BI 厂商的 Agent 化与数据团队的角色迁移。
智能体 精选 · 原创 · 3天前 阅读 21·访客 21
智能体生态观察 · 第 85 篇|维护者倦怠:开源项目遭遇自动化贡献浪潮
AI 把「生产一条投递」的成本降到近零,审查带宽成了开源最稀缺的资源。本篇拆解自动化贡献洪峰的三类构成与维护者的三重成本,梳理披露规范、门禁升级与自动化审查的社区应对,并观察头部项目的政策分化与开源可持续性的新变量。
智能体 精选 · 原创 · 3天前 阅读 22·访客 22
智能体生态观察 · 第 67 篇|智能体与知识图谱:实体记忆与关系推理的回归
RAG 热潮之后,知识图谱正在智能体的记忆与检索架构里悄悄回归——因为多跳关系、精确约束与时序演变这些问题,向量检索天生答不好。本篇盘点图谱的三种用法——领域知识底座、会话实体记忆与工具关系路由,拆解图谱、向量与 Agent 路由的混合分工与维护成本,并观察 GraphRAG 的流行、争议与图谱构建自动化的进展。
智能体 精选 · 原创 · 3天前 阅读 18·访客 18
智能体生态观察 · 第 83 篇|供应链安全:模型权重、工具依赖与信任链
智能体的供应链比传统软件更长——权重、微调、框架依赖、MCP 工具与运行环境环环相扣,每一环都可能被投毒。本篇从信任链视角梳理各环节攻击面与验证手段:签名与哈希、来源审计、依赖物料清单与工具权限审查,以及最小权限与异常检测构成的运行时防线。
智能体 精选 · 原创 · 3天前 阅读 20·访客 20
PaperOrchestra:Google 五步多智能体流水线,把实验日志写成可投稿的 LaTeX 论文
Google Cloud AI Research 开源的 PaperOrchestra 用五个专职智能体把零散的想法摘要与实验日志,写成带真实文献引用、自动绘图、符合 CVPR 与 ICLR 模板的投稿级全稿,单篇约 40 分钟。本文拆解五步流水线架构、Semantic Scholar 引用认证机制与 PaperWritingBench 实测数据。
开源项目 精选 · 用户投稿 · 3天前 阅读 13·访客 13
Palantir Foundry 深度研究(八):为什么 Agentic 系统需要本体
本系列第一篇给过总论证,本篇把命题钉到机制层:精读 Palantir 三篇官方论证(「operational AI is not an AI problem — it's an ontology problem」、名词动词论、Agentic Runtime),对照平台机制逐条验证四类 Agent 失败的对症方案,引入 MCP 语义缺失、AWS 语义层指南、OaK 论文等第三方回响,并诚实呈现反方观点与适用边界。
智能体 精选 · 用户投稿 · 4天前 阅读 35·访客 35
SHACL 校验与推理运行时:让知识库讲规矩
校验不是建模期的一次性检查,而是知识库的常驻闸门。本篇拆解 SHACL 运行时链路:Shapes 约束评估、校验报告聚合、分级处置,以及 OWL 推理器做一致性检查、实例分类与物化的选型权衡,并厘清开放世界与闭世界语义在生产运行时的分工。
后端技术 精选 · 用户投稿 · 5天前 阅读 37·访客 37