A20 Pro 芯片端侧 AI 实测:苹果 iPhone 18 Pro 可本地跑 270 亿参数模型,速度较 iPhone 17 Pro 翻倍

IT之家 9 月 20 日消息,苹果最新的 A20 Pro 芯片搭载双 16 核神经网络引擎,这在苹果自研 Apple Silicon 发展史上尚属首次。该神经网络引擎专为处理人工智能运算负载打造,性能超越此前所有 SoC。最新演示显示,一台 iPhone 18 Pro 运行 270 亿参数模型时,运行速度可达 iPhone 17 Pro 的两倍。 iPhone 18 Pro 以及 iPhone 18 Pro Max 均配备 12GB、96 位位宽的 LPDDR5X 内存,内存速度相比 iPhone 17 Pro、iPhone 17 Pro Max 的有明显提升。内存升级再加上这套双 16 核神经网络引擎,将手机端本地 AI 性能推上了全新台阶。网友阿德里安 · 格龙丁(Adrien Grondin)在 iPhone 18 Pro 上运行 Bonsai‑27B 模型,直观展示了性能提升效果;可以明显看到,模型生成词元(token)的速度十分惊人。 诚然,对于 iPhone 而言,可以离线运行体量更大的 270 亿参数 AI 模型属于重大进步,但用户也需要面对一些取舍。首先,X 平台的相关帖子就提出疑问:既然 Bonsai 2 已经发布,还有必要继续使用初代 Bonsai 吗?答案并不乐观,这也是智能手机本地运行 AI 模型不得不面对的残酷现实:采用 2 比特量化版本的 Bonsai

阅读原文(IT之家)↗ ← 返回资讯列表