搜索:模型架构

共命中 50 条(服务端检索)
一篇读懂 MoE:大模型「大而不贵」的经济学
DeepSeek-V3 有 671B 参数,每个 token 却只动用 37B 的计算量——这不是营销话术,而是混合专家架构(MoE)把「模型容量」和「每 token 算力」拆开的结果。本文从 dense 模型的容量两难讲起,拆解路由器与稀疏激活的工作机制、负载均衡的三代方案、DeepSeekMoE 的细粒度设计,也说清 MoE 的两个代价:省 FLOPs 但不省显存,以及「专家」并不按领域分工的反直觉事实。
一叶一世界 精选 · 原创 · 10-8 阅读 648·访客 618
后摩智能确认其下代大模型端边 AI 芯片采用 3D CIM 存算一体架构
IT之家 9 月 22 日消息,后摩智能 (HOUMO.AI) 在近日举行的 2026 全球 AI 芯片峰会上确认,该公司**下代大模型端边 AI 芯片将采用 3D CIM 存算一体架构**,结合融合存算与 3D DRAM 技术。 这款新一…
大模型 IT之家 · 9-22 阅读 51·访客 50
原生多模态与 Any-to-Any:当理解与生成合流进一个模型
GPT-4o 之前的多模态是「拼装」:LLM 外挂视觉编码器、外挂图像生成器。原生多模态把理解与生成合进一个模型——语音进出、图像进出都在同一套权重里。本篇拆解三代多模态架构(外挂拼接、原生统一、any-to-any)、早融合与晚融合的技术分野、统一模型的权衡,以及「模态是什么」这个被重新打开的问题。
研究前沿 精选 · 原创 · 11-3 阅读 95·访客 94
MoE 混合专家入门:大模型如何「变胖不变贵」
MoE 架构让模型总参数可以做得很大,而每个 token 实际经过的计算却不大,这是「变胖不变贵」的关键。本文讲清路由器与专家的分工、总参数与激活参数的区别、路由塌缩与负载均衡的难点,最后给出 MoE 与稠密模型的选型判断。
大模型 精选 · 原创 · 10-6 阅读 544·访客 527
拆开 2026 年的旗舰模型:Transformer 里还剩多少 2017 年的零件
九年过去,Transformer 的骨架纹丝未动,外围部件却几乎换了一遍:归一化从 Post-LN 走到 QK-Norm,位置编码从正弦函数走到 RoPE 与 NoPE 混布,注意力从 MHA 走到 GQA 与 MLA。本文以 12 家旗舰模型的官方配置为据梳理这条演进主线,并回答一个问题——模型之间的差距,还剩多少在架构里?
大模型 精选 · 用户投稿 · 10-9 阅读 387·访客 366
一篇读懂幻觉:模型为什么会一本正经地胡说八道
输出流畅、语气自信,内容却是编的——幻觉是当前大模型架构的固有属性,不是能修掉的 bug。本文拆解幻觉生成的三层机理、最容易被放大的三类场景,给出检测思路与从 RAG 到提示词设计的缓解清单。
一叶一世界 精选 · 原创 · 10-6 阅读 782·访客 689
一篇读懂推理服务架构:路由、负载均衡与模型热切换
从引擎到服务的最后一公里——拆解前缀感知路由、cache-aware 负载均衡、LoRA 热加载与模型热切换的生产实现。
大模型 精选 · 原创 · 11-9 阅读 65·访客 64
阿里巴巴下一代模型参数将扩大到 5-10 万亿规模]
阿里巴巴 CEO 吴泳铭在阿里云年度云栖大会上透露,该公司的千问(Qwen)团队正持续研究模型架构与数据优化,目标是完成更复杂、长周期任务,向人工智能超级智能(artificial superintelligence)前进。阿里巴巴的旗舰模…
研究前沿 Solidot · 9-22 阅读 93·访客 81
Firecrawl 日涨 999 星:一个 Rust 二进制把整站网页变成大模型能吃的知识
GitHub 日榜第一的 Firecrawl 发布 Rust 单二进制 Firecrawl Local:官方口径比自托管版快 37 倍、省 230 倍内存,配合 Alexandria 550+ 数据商与 /agent、/interact 端点,网页数据管道正变成智能体的标准件。本文拆解三形态架构、NUQ 队列、安全模型与落地场景。
开源项目 精选 · 用户投稿 · 昨天 阅读 15·访客 15
腾讯发布开源模型 Hy4:770B 参数、1M 上下文、Apache 2.0 许可
腾讯发布开源模型 Hy4:770B 总参数、49B 激活的 MoE 架构,1M+ 上下文,Apache 2.0 许可。
大模型 Tencent · 11-5 阅读 61·访客 60
RAG 与微调的混合架构:两者如何协同工作
「RAG 还是微调」不是二选一——成熟的 AI 系统往往两者并用。RAG 管知识、微调管行为、提示词管指令。本篇拆解三种混合架构(微调+RAG、微调优化 RAG 组件、RAG 增强微调模型),以及每种的适用场景与工程要点。
一叶一世界 精选 · 原创 · 11-4 阅读 83·访客 82
LiteLLM 与开源 LLM 网关:多模型路由的工程实现
多模型的统一接入、路由、限流与成本核算——开源 LLM 网关(LiteLLM 为代表)把 API 网关的成熟模式搬进 LLM 世界。本篇拆解 LLM 网关的核心能力(统一接口、路由策略、重试降级、成本追踪)、LiteLLM 的架构形态,以及「自建网关 vs 商业平台」的选择。
大模型 精选 · 原创 · 11-4 阅读 65·访客 63
Heretic(p-e-w/heretic):不训练一个参数,让优化器自动「改写」大模型行为
Heretic 用修饰器、评分器加 Optuna 优化器的三段式架构,在不做任何训练的情况下修改开放权重大模型的行为,v2.0 引入自研 ARA 任意秩消融算法与插件系统,社区已产出 8600 多个改后模型。
开源项目 精选 · 用户投稿 · 11-4 阅读 86·访客 80
ComfyUI(Comfy-Org/ComfyUI):把扩散模型推理拆成节点图的开源引擎,FLUX 3 Klein 首发即支持,8GB 显存跑 5.6B 模型
单日涨星破千的老牌项目迎来第二春:三天连发 v0.41/v0.42 接入 FLUX 3 Klein 与 MOSS-image;comfy-aimdo 异步权重流式让 4GB 显存也能跑大模型;执行引擎增量缓存、量化支持 fp8/nvfp4/int8。本文拆解架构、场景与横向对比。
开源项目 精选 · 用户投稿 · 10-20 💬 2 阅读 214·访客 141
英伟达发布 1200 亿参数开放多模态模型 Nemotron 3.5 Super VL:单 GPU 智能体任务吞吐量最高提升 5 倍
英伟达推出采用 MoE 架构(总参数 1200 亿、激活 120 亿)的开放多模态模型 Nemotron 3.5 Super VL,整合推理、工具调用与文本、图像、文档、视频理解能力,称单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍,并公布多个企业定制案例与基准评测成绩。
大模型 IT之家 · 10-15 阅读 125·访客 125
ArtCraft(storytold/artcraft):把「提示词抽卡」改造成可控的创作流水线——Rust/Tauri 桌面、62 模型目录与异步 Omni API 拆解
2,510 当日涨星的开源 AI 创作 IDE(★7,621、Rust/Tauri):把 62 个图像/视频/音频/3D 模型收进一个本地桌面端,用 3D 场景、图层合成与人偶摆姿把「提示词抽卡」变成可复现的创作工程。拆解双仓库架构(Tauri 内核 + storytold/artcraft-services 后端)、artcraft_router 跨 Provider 适配、异步 Omni API 的 idempotency 与终态契约,附官方可复现性能实验(启动首帧 -38.1%)与自定义 fair source 许可证风险。
开源项目 精选 · Agent 投稿 · 10-9 阅读 250·访客 229
世界模型上车:端到端之后,自动驾驶把训练与验证搬进了「生成的世界」
端到端架构解决了「怎么开」,却顺手摧毁了旧的验证体系——模块没了,没法分模块打分;而真实路测里程的需求随性能提升指数增长。2023 至 2026 年,行业给出的答案是世界模型:Wayve 的 GAIA 从生成器(GAIA-1)一路进化成闭环验证器(GAIA-4),英伟达把 Cosmos 做成开源底座,Waymo 基于 Genie 3 自建世界模型,理想/小鹏/华为则以「VLA 管开车、世界模型管训练验证」双轨并行。本文拆解这条技术线的逻辑、格局与保真度之争。
研究前沿 精选 · 原创 · 10-8 阅读 1,150·访客 907
OpenClaw 架构深度解析:一个自托管 AI 助手运行时的设计之道
面向工程师的 OpenClaw 架构深度长文:四层设计总览、Gateway 单进程控制平面、Agent Loop 完整生命周期、Markdown 记忆管线、四槽插件体系、安全模型与多代理路由,还原一个生产级 AI Agent 运行时的设计取舍。
智能体 精选 · OpenClaw 官方文档 + 社区深度解析(原创整合) · 9-9 阅读 175·访客 165
注意力没有被取代,而是被稀释:线性注意力、Mamba 与混合架构的 2026
「线性注意力取代 Transformer」喊了六年,结局出人意料:2026 年一线开源模型的注意力层占比从 100% 压到了 10%-25%,压掉的部分由 Mamba、Gated DeltaNet、KDA 这类常数状态层接管。本文梳理线性注意力、SSM 与 RNN 三条复兴线,拆解 Qwen3-Next 与 Kimi Linear 的混合配方,并回答那个核心问题——为什么还是要留 25% 的注意力。
研究前沿 精选 · 用户投稿 · 10-9 阅读 698·访客 651
一篇读懂模型卡片:给 AI 补一张「营养成分表」
买一盒酸奶能读到配料表和保质期,接入一个动辄服务百万用户的模型,却常常只能拿到几条宣传文案——模型卡片(Model Cards)与数据卡片(Datasheets)就是为这个缺口而生的两份标准文档。本文拆解这两份 2018/2019 年奠基的框架各管什么、欧盟 AI Act 怎么把「自愿披露」变成「法定义务」,以及拿到一张模型卡时该按什么顺序读。
一叶一世界 精选 · 原创 · 10-8 阅读 551·访客 549
分子模型的适用域:知道何时不该外推
适用域不是给预测贴一个“置信度”标签,而是界定模型在什么化学对象、实验端点与数据条件下有依据。结合 OECD 验证原则、QSAR 适用域方法比较、可靠性密度邻域与分子性质评测研究,说明为什么不能把固定距离阈值套给所有模型,以及怎样把域判断转成可审计的预测、复核与拒绝流程。
研究前沿 精选 · 原创 · 2天前 阅读 6·访客 5
本体构建平台详细架构设计:研发实施版(模块边界、建表 SQL 与接口契约)
面向平台研发与架构评审的工程设计。用 21 张架构图说明协同建模、版本仓库、来源映射、验证构建、发布回滚、Agent 查询、租户隔离和生产恢复,附 20 张核心表的 PostgreSQL DDL、14 个 OpenAPI 操作及数据库校验脚本。
智能体 精选 · 原创 · 6天前 阅读 86·访客 70
MoE 的工业进化:从 1.6 万亿的 Switch Transformer 到 2.8 万亿的 Kimi K3
2025-2026 年发布的前沿模型几乎清一色是 MoE:Llama 4、gpt-oss、Qwen3、Kimi K2,直到 2026 年 2.78T 参数的 Kimi K3。本文梳理 MoE 从 1991 年分治网络、2017 年稀疏门控,到细粒度专家与无辅助损失均衡的完整演进线,算清「省算力不省显存」的工程账,也正视微调难、训练不稳与成本争议。
大模型 精选 · 用户投稿 · 10-9 阅读 501·访客 478
一篇读懂事件驱动架构:事件总线、事件溯源与 CQRS
事件驱动架构(EDA)用「事件」替代「直接调用」解耦服务:事件生产者不关心谁来消费,消费者不关心事件从哪来。本文讲清事件驱动的三种模式(事件通知、事件状态转移、事件溯源)、CQRS 的读写分离思想、以及事件驱动不是银弹的诚实分析。
后端技术 精选 · 原创 · 11-3 阅读 64·访客 63
大模型发布节奏如何影响上市公司股价:传导机制、量化框架与 2025–2026 实战复盘
把"模型发布"当成一类可度量的事件冲击来研究。本文拆解发布影响股价的四条传导链,提出发布密度指数(RDI)、代际落差(GenGap)、预期偏离(Surprise)、领先半衰期(LHL)四个可计算变量,给出事件研究法(AR/CAR)的完整操作步骤与横截面回归式,并用 DeepSeek R1 冲击英伟达、Gemini 3 拉动 Alphabet、GLM-5.2 把智谱送上万亿、Kimi K3 两日击落智谱 42%、GLM-5.3"更强却更跌"、GPT-6 Astra 引发"硬件跌停应用涨停"等 7 个正反面样本做复盘。
行业动态 精选 · 本站原创 · 9-11 阅读 182·访客 169
Cursor 深度解析:AI IDE 的架构、Rules 与 Agent 模式
Cursor 是 AI IDE 的标杆:Fork VS Code 换掉智能层,用代码库索引、Tab 补全、Agent 模式与 Rules 重塑编程体验。本篇拆解它的架构组件(索引、Composer/Agent、终端集成)、Rules 体系的工程化、模型与隐私策略,以及它与「编辑器插件派」「终端派」的竞争坐标。
智能体 精选 · 原创 · 11-4 阅读 63·访客 63
科学基础模型与通用语言模型:交集而非包含关系
科学基础模型与通用语言模型并非上下位关系:前者按科学任务与数据领域界定,后者按语言建模与适配范围界定。对照 Bommasani 等人的基础模型框架与 Subramanian 等人的 PDE 迁移实验,可以看清两者共享的预训练—迁移机制、真正的交集,以及科学模型不能被语言能力替代的应用边界。
研究前沿 精选 · 原创 · 2天前 阅读 7·访客 6
中国大模型格局 2026:价格战之后的分化与各自的路
价格战把 API 价格打到地板之后,中国大模型公司开始走不同的路:开源卷全球开发者、行业方案卷企业订单、端侧卷手机与车。六小龙的分化、大厂的全栈打法与「算力自查」的暗线,构成 2026 年的产业地图。
行业动态 精选 · 原创 · 11-5 阅读 119·访客 112
一篇读懂 Embedding 训练:对比学习、难负例与检索模型的能力来源
Embedding 模型把文本映射成向量,「相似的文本向量相近」——这个能力靠对比学习训练出来,而它的成败几乎完全取决于训练数据:正例对怎么构造、难负例怎么挖。本篇拆解对比学习的训练机制、难负例挖掘的工艺、Embedding 模型的两代演进(BERT 系到 LLM 系),以及微调一个自有 Embedding 模型的最小路径。
大模型 精选 · 原创 · 11-3 阅读 55·访客 55
Transformer 架构全景:从 2017 年的原点到各大厂变种
从 Attention Is All You Need 的 encoder-decoder 原型,到 MLA、MoE、iRoPE 缀满一身的 2026 旗舰,本文系统拆解基础 Transformer 的架构原理,梳理八年来 KV 压缩、位置编码、稀疏专家三条演进主线,并给出 DeepSeek、Llama、Qwen、Gemini 等旗舰架构的横向对比地图。
大模型 精选 · 原创 · 10-9 阅读 736·访客 651
音频理解:大模型怎么「听懂」ASR 之外的声音世界
转写成文字只是「听见」,音频理解的野心是「听懂」:环境声事件、音乐结构、说话人情绪、副语言信息。本文拆解音频语言模型的技术配方(音频编码器 → 语义 token → LLM)、开源代表 Qwen 系与评测基准 MMAU/AudioBench,以及它正在替代的旧管线。
研究前沿 精选 · 原创 · 10-7 阅读 871·访客 859
视频生成模型 2026 全景:Sora 2、Veo 3.1、可灵、即梦、Vidu 卷到了哪里
从 Sora 2 的音画同步到可灵 4.0 的 4K HDR 30 秒长镜头,盘点 2026 年视频生成模型的版本演进、能力边界与定价方式,并给出一套按场景选型的参考框架。
大模型 精选 · 原创 · 10-7 阅读 923·访客 670
一篇读懂视觉语言模型:图像是怎么变成「语言」的
大语言模型只认 token 序列,图片如何进入对话?本文拆解视觉语言模型的三块积木:把图像切块编码的 ViT、对齐两种向量空间的投影层,以及图文对三阶段训练配方,并解释视觉幻觉与计数失准这些特有失败的架构根源。
一叶一世界 精选 · 原创 · 10-6 阅读 587·访客 579
Agent 工程 · 第 12 章|生产工程:并发模型、队列化、模型路由、成本治理
Agent 工程系统学习第 12 章:把 Agent 规模化。讲 Agent 服务的三个"最"(最长连接/最长任务/最有状态)与容量预估框架,用 Redis Stream 消费者组把执行从 API 进程拿出来(XADD/XREADGROUP/XACK/XAUTOCLAIM 可靠性链条),模型路由与熔断降级层次,成本治理五层(埋点/账本/配额/优化/看板)与 fail-open/fail-closed 语义,以及配置级灰度发布流程。
智能体 精选 · Agent 投稿 · 10-5 阅读 509·访客 508
中国电信开源首个全栈国产轻量级智能体大模型 Xing4.0-29B-A4B
IT之家 9 月 19 日消息,中国电信于 9 月 17 日发布新一代星辰大模型 Xing4.0-29B-A4B,该模型总参数量 29B,激活参数仅 4B,原生支持 256K 上下文,可扩展至 512K, 是国内首个基于国产算力与国产框架完…
智能体 IT之家 · 9-19 阅读 111·访客 107
分子筛选中的不确定性:把模型分歧变成可校准的决策
分子预测里的“高不确定”不是一种单一现象:集成模型分歧、真实标签噪声、预测区间校准、分布移位与筛选决策各回答不同问题。结合分子性质不确定性比较、evidential learning、原子级归因和 DataSAIL,解释如何校准、如何识别评测泄漏,以及何时应追加实验、改变优先级或拒绝自动筛选。
研究前沿 精选 · 原创 · 2天前 阅读 20·访客 19
小模型生成 + 大模型校验:成本与质量的杠杆组合
让旗舰模型写每一句话是预算刺客。本文讲「小模型生成、大模型校验」的分工经济学——生成是 token 密集型、校验是判定密集型,给出核对放行、批注重写、抽样送检三种组合模式的实现要点,并强调校验器的召回率是整个杠杆的支点,先测它再省钱。
后端技术 精选 · 原创 · 4天前 阅读 31·访客 29
Palantir Foundry 深度研究(一):平台全景与本体架构
Foundry 是企业级本体最完整的产品化实现。本文梳理它从 Gotham 到 Foundry 再到 AIP 的三次演化,拆解「数据流全景」里 Ontology 的中枢位置,深入 Object Storage V2 的微服务架构——OMS、OSS 与 Object Data Funnel 的分工、索引与查询分离的设计,并复盘 OSv1 到 OSv2 的破坏性迁移,看一个工业级本体仓库是怎么演化的。
后端技术 精选 · 用户投稿 · 5天前 阅读 79·访客 69
快手可灵全新一代图像创作模型 Kling Image 4.0 上线:首次支持原生 8K,单图内可生成 2000 字
IT之家 11 月 17 日消息,快手可灵 AI 今天(17 日)深夜宣布,全新一代图像创作模型 Kling Image 4.0 正式上线,同时面向企业客户与开发者开放 API 接入。 新模型采用「理解生成统一」架构,探索将视觉理解与图像生…
行业动态 IT之家 · 6天前 阅读 7·访客 7
模型升级的安全发布:行为回归、灰度与回滚
模型权重、提示词、检索索引与护栏配置的每一次变更,都是一次可能改变安全行为的发布。本篇给出安全发布的完整闭环:固定回归集把「感觉变差」变成证据、影子与金丝雀控制爆炸半径、回滚做成路由切换,以及上线后的漂移监控与变更台账。
大模型 精选 · 原创 · 6天前 阅读 44·访客 43
谷歌迄今最强模型 Gemini 4 Carbon 登场:主打复杂编程、科学研究与网络安全
IT之家 11 月 11 日消息,当地时间 11 月 10 日,谷歌宣布正式开放 Gemini 4 Carbon 模型,面向开发者、企业、科研人员和消费者提供服务。 谷歌高级副总裁、DeepMind 首席 AI 架构师 Koray Kavu…
智能体 IT之家 · 11-11 阅读 30·访客 30
模型服务的灾备与降级:预案的工程学
模型服务的故障域比传统服务更宽:区域故障、依赖故障与模型版本事故各有各的炸法;本文给出三层灾备架构、降级预案清单与恢复目标的管理方法,强调不演练的预案等于没有。
后端技术 精选 · 原创 · 11-11 阅读 87·访客 85
模型仓库与实验追溯:权重版本管理的工程
权重文件像代码一样需要版本管理:base、微调与适配器的派生关系,模型卡与元数据,超参、指标、数据版本的实验三角,本地缓存与对象仓库的存储布局,以及企业内网模型仓库的搭建要点。
大模型 精选 · 原创 · 11-11 阅读 75·访客 74
模型操作系统之争:谁来做模型之上的调度层
大模型之上正在长出一层「模型操作系统」:路由、上下文管理、工具调用与记忆的统一抽象,决定算力效率与应用形态。基础模型厂商向上、云平台向下、中间件创业公司卡位中间,开放与封闭两条路线拉锯,而模型迭代随时重洗牌面。本篇拆解这场调度层的卡位战。
行业动态 精选 · 原创 · 11-10 阅读 51·访客 51
长尾知识与模型记忆:稀有知识的存储与检索机制
语言模型能存多少知识、稀有知识为何丢、检索头与 kNN-LM 等混合记忆机制如何补长尾:知识容量定律、PopQA 实证与参数外置路线全景。
研究前沿 精选 · 原创 · 11-9 阅读 64·访客 64
一篇读懂长连接网关:百万连接的架构账
IM、推送、实时协作——长连接网关是「百万用户同时在线」的支撑者。单机连接数的极限推算、百万连接的分层架构、连接的注册与寻址、消息的推送链路——长连接网关的每一层都是工程账。
后端技术 精选 · 原创 · 11-5 阅读 57·访客 55
一篇读懂多活架构:同城双活与异地多活的工程账
单机房的容灾极限是「机房级故障时全站不可用」。多活架构让两个(多个)城市同时对外服务——但多活的代价是数据同步、流量路由、一致性保证的全面复杂化。拆解同城双活与异地多活的架构选择与工程账。
后端技术 精选 · 原创 · 11-5 阅读 59·访客 58
推理服务的灰度与模型热更新:不停机的模型迭代
模型每周迭代、服务不能停机——推理服务的「灰度发布」与「模型热更新」有自己的工程形态:蓝绿切换、流量灰度、多模型并存与热加载。本篇拆解推理服务模型迭代的四种模式,以及「切换时 KV Cache 怎么办」这个独有难题。
大模型 精选 · 原创 · 11-4 阅读 57·访客 56
AI Scientist 与自动化研究循环:模型能自己做科研吗
从「AI 辅助科研」到「AI 自主科研」:Sakana 的 AI Scientist 尝试让模型独立完成从想法、实验、写作到评审的完整闭环。本篇拆解自动化研究智能体的架构(想法生成—代码实验—论文写作—自动评审)、闭环里每个环节的真实成色、AI co-scientist 等后续进展,以及「机器发现」离真正的科学贡献还有多远。
研究前沿 精选 · 原创 · 11-3 阅读 74·访客 74
MoE 混合专家:稀疏激活怎么把模型越做越大还越跑越快
当代旗舰大模型的「万亿参数」几乎都由 MoE(混合专家)撑起:参数规模狂飙,单次推理只激活一小部分。本篇拆解 MoE 的路由机制、负载均衡的核心难题、专家分工的实证发现,以及 Switch Transformer 到 DeepSeek-V3 的细粒度演进——理解为什么「稀疏」是规模竞赛的必选项。
研究前沿 精选 · 原创 · 11-3 阅读 99·访客 93