3D 空间智能:从 NeRF 到 3DGS,让 AI 拥有可交互的世界

3D 空间智能:从 NeRF 到 3DGS(手绘信息图)

NeRF:用神经网络记住一个场景

2020 年的 NeRF(Neural Radiance Fields)是场景表示的分水岭。它的想法优雅到近乎作弊:用一个小 MLP 把「空间坐标 + 视角方向」映射到「颜色 + 密度」——给定一组带位姿的照片训练这个映射,网络就「记住」了整个场景的三维辐射场;渲染新视角时,从相机出发射光线、沿光线采样查询网络、累积颜色,得到从任何没拍过的角度看这个场景的样子。

NeRF 的意义在于把「三维重建」从几何问题变成了神经表示问题:不需要显式的多边形网格,场景就是一个可微分的函数——天然与深度学习管线融合(可训练、可插条件、可与生成模型结合)。它的工程短板同样明显:渲染慢(每帧要对每条光线采样网络数百次)与训练慢(一个场景几十分钟到数小时)——每个场景单独训练一个网络的「过拟合式重建」不适合规模化。

3DGS:高斯点云把渲染拉回实时

2023 年的 3D Gaussian Splatting(3DGS)用一次架构换血解决了速度问题:放弃神经网络,场景用数百万个带颜色与透明度的各向异性高斯椭球(点云的软爆炸版)直接表示,渲染用光栅化(GPU 最擅长的并行管线)替代光线追踪式的网络查询。效果:训练从小时级压到分钟级,渲染到实时(每秒上百帧),画质不降反升(高斯的显式表示让细节锐利)。

3DGS 的「显式表示」特性比速度更有深远意义:场景变成了可直接操作的数据结构——点可以增删、移动、重着色,编辑、动态化、物理仿真都能直接在表示上进行;而 NeRF 的隐式网络是「一团改不动的权重」。从 NeRF 到 3DGS 的转变,是「神经隐式表示」到「显式可操作表示」的钟摆回摆——深度学习的表示研究里,这个钟摆(隐式的表达力 vs 显式的可操作性)反复出现,3D 场景是最新一次验证。

flowchart LR
    P["一组带位姿的照片"] --> N["NeRF(2020)<br>MLP 隐式辐射场<br>画质好 · 训练/渲染慢"]
    P --> G["3DGS(2023)<br>高斯点云显式表示<br>实时渲染 · 可编辑"]
    N --> G2["可微 + 可生成"]
    G --> G2
    G2 --> S["空间智能的底座:<br>可交互的世界"]

生成式 3D:从「重建已有」到「想象没有」

NeRF/3DGS 解决「从照片重建场景」,生成式 3D 解决「凭空造出 3D 资产」——它的路线有三条,成熟度递增。图生 3D(image-to-3D):单张图想象完整三维体——多视角扩散模型(先「脑补」出若干新视角的图,再 3DGS 重建)是当前的主流管线,几分钟内从一张图得到可旋转的 3D 资产;短板是「想象的部分」缺乏物理合理性(背面编得对不对全凭模型常识)。文生 3D(text-to-3D):直接从文本生成 3D 资产——早期用「得分蒸馏」(让 2D 生成模型当老师,优化一个 3D 表示去匹配其多视角输出),质量与速度都受限;新一代走「原生 3D 生成」——直接在 3D 表示(体素、点云、3DGS)上训练生成模型,用大规模 3D 资产数据集(Objaverse 等)驱动,质量与速度同步改善。可交互场景生成:终点形态——生成的不是一个物体而是一个「可以走进去」的世界(几何 + 材质 + 物理 + 语义),与游戏引擎管线融合,这是世界模型(本库已有专篇)的 3D 化终点。

生成式 3D 的产业牵引力直接:3D 内容的生产成本是游戏、影视、XR 行业的最贵环节——手工建模一个精细资产以人周计,生成式 3D 把它压到分钟级。资产生产的民主化反过来喂养具身智能与空间智能(仿真环境不再稀缺)。

空间智能:为什么 3D 是世界模型的必修课

空间智能(spatial intelligence)——理解并推理三维空间关系的能力——正成为 AI 研究的显性命题(李飞飞的空间智能主张是代表性表述)。论据有三层。认知层面:人类智能的空间组件深厚(海马体的位置细胞与网格细胞是空间导航的生理基础——本库神经科学篇会展开),「智能」很难绕开空间理解。任务层面:机器人操作(抓取需要物体的三维几何与位姿)、导航、AR/XR、工业设计——全是空间任务,2D 视觉模型的平面理解不够用。数据层面:视频是「3D 世界的 2D 投影」,从视频学到的世界模型带着投影的歧义(同一画面可能是多种 3D 结构的投影);直接在 3D 表示上学习(或从多视角恢复 3D 再学)消解歧义——这就是「世界模型的 3D 化」的研究动机(视频世界模型与 3D 表示的融合是当前前沿)。

空间智能与具身智能(本库专篇系列)的交汇点是仿真:机器人的策略训练需要可交互、可大规模复制、物理正确的环境——3DGS 的实时渲染 + 生成式 3D 的无限资产 + 物理引擎的规则,恰好拼出这样的仿真世界。「生成的世界」替代「真实世界」成为训练场——这条线在本库自动驾驶世界模型篇已经预演,空间智能把它推广到所有具身任务。

3DGS 的动态化与物理化:从静态照片到可玩世界

3DGS 的研究前沿正在把「静态场景」变成「可交互世界」,两条延长线值得追踪。动态 3DGS:真实世界不是静止的——动态 3DGS 给高斯点加上时间维度(每个点带运动轨迹),从单目视频重建「会动」的 3D 场景:舞蹈视频变成可环绕观看的动态 3D、体育回放变成自由视角(应用于转播的「子弹时间」已产品化)。技术难点在时间一致性(点在帧间要「跟得住」),4D 表示的压缩与流式渲染是活跃方向。物理化与可交互:静态点云离「可玩」还差物理与语义——研究者给 3DGS 场景附加物理属性(材质硬度、质量、可形变性)与语义分割(哪个点是杯子哪个是桌子),让点云可以被「推、抓、打碎」——当物理引擎规则绑定到显式点云上,「重建的世界」就升级为「可交互的世界」。这两条线的终点与具身智能汇合:机器人训练需要的仿真环境,最理想的就是「从真实场景重建 + 物理化」的世界——比手工建模真实、比真实世界可复制(本库 Sim2Real 篇的域差距问题在这里有了新解法:直接在重建的真实世界里训练)。3D 表示研究的快速迭代(NeRF 到 3DGS 只用了三年),提示这条线的成熟速度可能超出多数人的排期。

空间智能的产品化前沿:三条落地赛道

空间智能研究的产品化已经有三条清晰的赛道,各自由不同的技术组合驱动。赛道一:重建与扫描(数字化现实)。3DGS 的实时重建让「扫描即得」成为可能:房产的沉浸式看房、文物的数字孪生、工地与工厂的进度巡检——「拍摄一轮、获得可交互 3D」的工作流正在替代激光扫描(便宜两个数量级),瓶颈在从重建到业务数据(测量、标注)的最后一公里。赛道二:生成与创作(AI 做 3D 美术)。生成式 3D 切入游戏与影视的资产管线(概念图的 3D 化、场景草模的分钟级产出),工作流的形态是「AI 出草稿、人类做终修」——美术的生产率工具而非替代者;UGC 平台(让玩家用一句话造场景)是更激进的产品形态。赛道三:仿真与训练(给机器人的世界)。本篇正文的终点线:重建 + 物理 + 生成 = 机器人训练场——这条赛道的客户是机器人公司,技术壁垒在「物理正确性」(重建的仿真环境要物理可信,否则 Sim2Real 反向失效),是三条里最深也最慢的。三条赛道的共同信号:3D 内容的单位成本下降一个数量级,会像当年的图像生成一样,催生出今天还不存在的应用形态——空间智能的产品想象力,才刚刚开始上线。

NeRF 已死?隐式表示的残余阵地

「3DGS 杀死了 NeRF」是 popular 叙事,但隐式神经表示在几个阵地仍有不可替代性,值得修正这个简化判断。阵地一:无多视角的稀疏输入。3DGS 依赖多视角照片的准确位姿与覆盖度,单图或极稀疏视角下「先猜几何再表示」的隐式方法(配合生成先验)更鲁棒——生成式 3D 的多视角扩散管线里,中间表征仍有隐式方法的影子。阵地二:超大场景与流式加载。城市级场景(街景级数字孪生)的表示需要「按需加载与流式渲染」,隐式场的分块哈希表示(Instant-NGP 路线)在压缩率上有优势,工程实践里两者常混合(远景隐式、近景高斯)。阵地三:物理与材质的连续表示。需要「可微分的连续场」的任务(物理仿真里的密度场、光照的体渲染)——隐式表示的「函数属性」(任意查询、可微)是显式点云难以替代的。修正后的图景:NeRF 与 3DGS 不是取代关系,是表示光谱的两端(隐式函数的表达力与连续性 vs 显式点云的速度与可编辑性),任务形态决定选边——这个「光谱思维」与生成范式之争的结论(按任务分地盘)又一次同构。

小结

三代技术勾勒 3D 表示的跃迁:NeRF(2020)用隐式网络记住场景(可微但慢),3DGS(2023)用显式高斯点云换回实时渲染与可编辑性(隐式与显式的钟摆回摆),生成式 3D 让模型从单图或文本「想象」三维资产(图生 3D 的多视角扩散管线、原生 3D 生成)。产业牵引是 3D 内容生产成本的百倍压缩,研究牵引是空间智能——3D 是世界模型消除投影歧义的必修课,与具身智能在仿真环境上交汇(生成的世界成为训练场)。从「看视频的 AI」到「住在场景里的 AI」,空间表示是这条路的基建。下一篇继续多模态的主线:当理解与生成合流进一个模型——原生多模态与 Any-to-Any。

← 返回资讯列表

读者留言

COMMENTS 暂无
仅本站原创文章开放留言 · 请勿留下手机号、邮箱等个人信息

还没有留言,来说第一句?