AI 产业的最大增量市场在哪里？云端的竞争已经白热化（本库《云三强》），而一个更大的战场在每个人口袋里：端侧 AI——把 AI 直接装进手机、PC 与可穿戴设备。AI 手机的通话实时翻译与图像魔法、AI PC 的本地大模型、以及「换机周期」这个消费电子业最关心的话题，都指向同一个趋势：端侧 AI 正在重写消费电子的差异化逻辑与换机理由。本篇讲清端侧 AI 的技术约束、小模型的演进、端云协同的架构，以及这场浪潮的真实与虚火。
技术约束：端侧的三堵墙
端侧跑 AI，面对云端没有的三堵墙。墙一：功耗与散热。手机的电池与被动散热（没有风扇）决定了算力的天花板——大模型的推理是算力与功耗的狂徒（本库《AI 的能源账》的云端账本在手机上是电池账本）；端侧模型的一切设计都从「每瓦性能」出发。墙二：内存容量。模型的参数量决定内存需求（70 亿参数的模型量化后仍需数 GB 内存），而手机内存被系统、应用与多任务分食——内存是端侧模型尺寸的第一硬约束。墙三：隐私与体验的双重要求。端侧 AI 的最大卖点（数据不出设备、离线可用、零延迟）与最大难点（端侧模型能力弱于云端旗舰）构成产品的核心权衡。应对的路径：模型的小型化技术（量化——本库《向量压缩》的思路在模型权重的应用：int4 量化把模型体积压数倍、蒸馏——大模型教小模型、剪枝与稀疏化）；芯片的端侧 NPU 军备——手机 SoC 集成专门的神经网络处理单元（NPU 的 TOPS 算力成为手机发布会的新参数——本库《算力芯片格局》的 ASIC 逻辑在消费端的重演）、AI PC 的 NPU 算力认证（「AI PC」的行业标准之一是 NPU 算力门槛）。
小模型的演进：端侧 AI 的技术供给
端侧 AI 的可行性，建立在小模型的快速进化上。进化的证据：几年前的手机端只能跑极小的模型（识别、简单分类），如今数十亿参数的模型经过量化后已能在旗舰手机上流畅运行（开源小模型家族的端侧版本——本库《开放权重》生态的端侧延伸）；小模型的能力曲线在陡峭上扬——同样的能力，模型越来越小；同样的尺寸，模型越来越聪明。开源小模型生态是端侧 AI 的供给基础（本库《开放权重辩论》的价值在端侧的最大化——开源模型的本地部署是端侧 AI 的核心模式）。端侧的杀手级场景在逐步清晰：实时翻译（通话与面对面的实时翻译——延迟要求只有端侧能满足）、图像与视频的处理（修图、消除、视频编辑的实时化——摄影是手机差异化最激烈的战场，AI 是它的下一轮军备）、本地的个人助理（读取本机上下文的助手——「理解你的手机里的一切」的个性化只有端侧能做，隐私是它的卖点）、以及无网可用的底线能力（离线场景的智能——旅行、应急）。
端云协同：混合架构与换机潮的真实与虚火
端云协同是端侧 AI 的主流架构：简单的、隐私敏感的、需要低延迟的任务在端侧跑（本地小模型）；复杂的、大知识量的任务上云跑（旗舰大模型）——路由的智能（哪些任务在端、哪些上云，按隐私、延迟、复杂度动态分配）是端云协同的核心技术；端侧模型的「意图理解 + 云端大模型的深度执行」的组合是典型分工。换机潮的真实与虚火要分开看。真实的部分：端侧 AI 确实成为新的差异化战场（NPU 算力、端侧模型能力、AI 功能的丰富度成为旗舰手机的竞争点）；AI PC 的品类重塑（NPU 成为 PC 的标准配置，本地大模型的应用场景在生长）；换机的理由在累积（老设备跑不动端侧模型——硬件的需求被 AI 的需求重新定义）。虚火的部分：「AI 功能」目前多数是「锦上添花」而非「雪中送炭」——多数用户对现有 AI 功能的日常依赖度有限（通话翻译很酷但不是刚需、AI 修图好玩但不换机）——换机潮的真正引爆点，是那个「没有端侧 AI 就做不到」的杀手应用出现（历史上的先例：4G 之于短视频、智能机之于 App 生态——杀手应用从不提前预告）。对产业参与者的建议：手机与 PC 厂商把「端侧模型能力」作为长期基建投入（模型的小型化、NPU 的演进、端云协同的体验打磨），而不是指望一波营销式的「AI 手机」概念拉动——概念能造一阵子的声量，杀手应用才能造一次真实的换机潮。
AI PC 的真实进展：企业采购的「NPU 账」
AI PC 的市场热度需要用企业采购的视角冷静校准——企业换机的「NPU 账」。企业换机的决策变量：传统的换机驱动（设备的年限到期、性能不济、Windows 支持周期终止）之外，AI PC 的新增驱动（NPU 的本地 AI 能力——企业对「数据不出设备」的 AI 需求是真实的：本地大模型的会议摘要、文档处理、安全的数据处理）。NPU 账的现实：当前 NPU 的算力能跑的模型（数十亿参数的量化模型）能完成的任务（摘要、转录、基础分析）对企业有价值但非刚需——「为 NPU 换机」的紧迫性多数企业还没感受到；采购的更现实驱动是「自然换机周期内的顺带升级」（换机时选 NPU 更强的型号，而不是为 NPU 提前换机）。AI PC 的真实赢面在「软件生态的跟进」：本地大模型应用生态的成熟（让 NPU 有事可做的应用——本地模型的办公助手、离线的翻译与摘要）——硬件先行、软件跟进的经典节奏；NPU 的装机量在累积（为生态的爆发准备土壤），爆发的时间点取决于杀手应用。企业 IT 的务实建议：新采购的设备选配 NPU（为未来储备能力），但不为 AI 单独发起换机——等杀手应用出现的那次换机，才是 AI PC 的真正浪潮。
端侧与云的成本分界点：什么任务该在哪儿跑
端云协同的架构里，最核心的工程决策是成本分界点：什么任务该在端侧跑、什么该上云——这个决策有一套可计算的框架。决策的四个变量：隐私权重（数据敏感度——个人私密数据端侧处理的溢价是隐私合规的成本节约）、延迟要求（实时交互端侧、离线批处理云端）、任务复杂度（端侧小模型能完成的质量 vs 云端大模型的质量差——质量差超过阈值就必须上云）、以及成本差（端侧推理的电费与设备折旧 vs 云端推理的 API 费用——单位任务的成本对比）。框架的实用结论：高频、简单、隐私敏感的任务在端侧（每次唤醒、每条消息的预处理、个人数据的分析）；低频、复杂、可上云的任务在云端（深度研究、复杂创作、大知识量的问答）；混合任务做「端云接力」（端侧理解意图、云端执行深度——意图在端、执行在云的路由）。这个分界点的动态性也值得强调：小模型的进化在持续把分界点向云端推（端侧能干的越来越多），云端模型的能力增长在把分界点向端侧拉（云端能干的差距越来越大）——分界点是两端技术竞赛的「战线」，它会持续移动；产品的架构设计要为「战线的移动」留出灵活性（端云的分工可配置，而不是写死）。
端侧 AI 的隐私双面性：「本地处理」不等于「零风险」
端侧 AI 的隐私卖点要做一个诚实的两面性检查：「本地处理」不等于「零隐私风险」。卖点的真实部分：数据不出设备（私密数据的处理在本地完成——上传云端的数据泄露风险被消除）、离线可用（无网场景的智能）。卖点的陷阱部分：端侧模型的更新通道是新的隐私面（模型的更新、遥测与诊断数据的回传——设备厂商的数据实践决定了「本地处理」的成色）；本地的「数据聚合」风险（端侧 AI 能读取本机上下文（屏幕、文件、消息）——聚合起来的「全知视角」如果被滥用（厂商的分析、系统的后门），其隐私风险不亚于云端泄露）；「本地处理」的边界模糊（混合架构里，哪些任务真的在端侧、哪些悄悄上云——厂商的透明度是用户判断的依据）。给用户的素养建议：看厂商的隐私白皮书（数据流向的声明）、关注系统的遥测设置、对「全知型助手」的授权保持审慎。端侧 AI 的隐私叙事需要一个诚实的结论：它把隐私的风险从「传输与云端」转移到了「设备与厂商」——风险没有消失，只是换了位置；用户选择的依据，应该是「你更信任谁」而不是「哪里更安全」的绝对判断。
小结
端侧 AI 收成四条：三堵墙——功耗散热、内存容量、隐私与体验的权衡，端侧模型的一切设计从「每瓦性能」出发；小模型的快速进化是技术供给——开源小模型生态 + 量化蒸馏的技术，让旗舰手机跑数十亿参数模型成为现实；端云协同是主流架构——端侧管隐私、延迟与离线，云端管深度与知识，路由智能是核心技术；换机潮有真实有虚火——差异化与基建是真的，杀手应用未至，概念的声量别当成需求的证据。端侧 AI 的终局想象值得留一句：当每个人的口袋里都有一个理解他全部上下文的私人智能，且它永不把数据传出设备——那将是 AI 隐私范式的真正完成时，也是这场端侧浪潮的历史定位。
参考资料
- 手机与 PC 芯片厂商的端侧 NPU 与 AI 算力公开材料（旗舰 SoC 的 NPU 参数）
- 本库前篇：《开放权重模型的安全辩论》《算力芯片格局速览》《向量压缩：PQ、量化与二值嵌入》《算力的度量衡》
- 端侧大模型的开源生态与量化方案（各开源模型家族的端侧版本与量化实践）
读者留言
COMMENTS 暂无还没有留言，来说第一句？