1、AI 部署提升手机芯片要求,异构计算成为重要解决方案
手机生成式AI用例需求不断增加。1)按需用例,该类用例主要由用户触发,要求极快的响应速度,包括生成和编辑图像、拍摄照片、编写代码、录音等;2)持续型用例,该类用例有运行时间较长的特征,主要系保持游戏和视频的超高分辨率、及时处理视频通话的音频、视频及实时翻译等;3)泛在用例,该类用例特征主要是在后台持续运行,主要为手机AI助手等。
AI应用为端侧部署带来挑战,异构计算成为重要解决方案。AI应用为端侧部署带来挑战,
1)功耗和散热受限,在智能手机或笔记本电脑内安装分立的GPU或NPU会占用更多电路板空间,需要使用更多能源,从而影响工业设计和电池尺寸 ;此外,输入输出引脚间的数据传输也将增多,将导致性能降低、能耗增加,以及采用更大电路板带来的额外成本和更低的共享内存效率;由于功耗和散热受限,在端侧采用通用CPU和GPU服务平台难以满足AI应用严苛且多样化的计算需求。
2)固定硬件部署难以完成AI任务,AI应用不断演进,在功能完全固定的硬件上部署这些用例不切实际。
3)异构计算成为重要解决方案,需要采用支持处理多样性的异构计算架构,以便能发挥每个部件的优势,例如以AI为中心,定制设计的NPU,以及CPU和GPU。其中,GPU适合并行计算以进行数据流处理,CPU擅长顺序控制和即时性,NPU则擅长标量、向量和张量数学运算。通过构建CPU、GPU和NPU集成的异构计算架构,能够实现最佳应用性能、能效和电池续航,为端侧AI部署提供坚实硬件底座。
NPU专为AI工作负载设计,未来需求有望进一步提升。CPU和GPU为灵活性而设计,非常易于编程,“本职工作”是负责运行操作系统、游戏和其他应用等,而这些“本职工作”同时也会随时限制他们运行AI工作负载的可用容量。NPU专为AI工作打造,其降低了部分易编程性以实现更高的峰值性能、能效和面积效率,从而可以运行机器学习所需的大量乘法、加法和其他运算,因此NPU可用于核心AI工作负载。
早期NPU主要面向音频和语音AI应用而设计,主要基于简单卷积神经网络(CNN)。到2016年,拍照和视频AI应用开始兴起,出现了基于Transformer、循环神经网络(RNN)、长短期记忆网络(LSTM)和更高维度的卷积神经网络(CNN)等更复杂的模型。这些复杂模型需要大量张量数学运算,促使NPU增加了张量加速器和卷积加速来处理这些工作负载,提升了处理效率。
进一步地,在2023年,大语言模型(LLM)如Llama-2B和大视觉模型(LVM)如Stable Diffusion赋能的生成式AI出现,这些模型的规模相较于典型模型有了数量级的提升。这不仅对计算能力提出了更高要求,还需要重点考虑内存和系统设计来提升内存数据传输效率。未来还预计会出现更大规模和多模态模型的需求,这都将推动NPU需求不断提升。
手机算力芯片有望逐步升级,进一步推升算力峰值。据Counterpoint Research数据,以TOPS为单位,智能手机的AI算力已经增长了20倍,未来Counterpoint Research预计旗舰智能手机的芯片峰值AI算力水平还将继续增长,在2025年将会达到60TOPS以上。
2、厂商争相布局手机芯片领域,处理器市场中华为海思份额增长较快
手机终端厂商及芯片厂商争相布局手机芯片领域。主要芯片设计公司率先投入到生成式AI手机浪潮中,高通和联发科等芯片企业公布了多款支持多模态大模型端侧部署的移动计算平台,发布高性能AI芯片。手机终端厂商如苹果、三星和华为等也积极推出自研手机AI芯片,纵向完善产业链布局。
智能手机处理器市场格局相对稳定,华为海思市场份额增长较快。根据Canalys数据统计,2024年第三季度,按出货量份额来看,联发科在第三季度保持其在智能手机处理器市场的领先地位,出货量达到1.193亿台,市场份额达到38%,高通位居第二。
华为海思是增长最快的智能手机处理器厂商,同比增长211%,主要得益于华为中端智能手机产品成功引入麒麟SoC,从而大幅提振海思的出货量。按智能手机出货收入计算,苹果仍是排名第一的处理器厂商,占据了总市场价值的41%。从整体市场收入情况来看,排名前三的处理器型号均为旗舰AI手机SoC,总计创造540亿美元的智能手机出货收入,旗舰AI手机SoC在价值方面继续占据主导地位。
3、端侧模型部署推升内存需求,推动 LPDDR5 份额提升
AI大模型在手机端的部署提升了对存储的要求。大模型在运行时,需要驻留在内存中,每次处理生成式AI任务,都可能涉及到海量的数据搬运,推升了对手机内存容量和带宽的要求。以目前主流的70亿参数模型为例,模型运行需要占用约4GB的内存空间,建议采用至少8GB的LPDDR5x(推荐60GB/s以上的I/0带宽)。从具体厂商来看,
1)谷歌,谷歌Pixel 9、Pixel 9 Pro、Pixel 9 Pro XL和Pixel 9 Pro Fold 4款AI手机的运行内存配置均为12GB起步。
2)苹果,最新款的iPhone 16全系配备了8GB的运行内存,而2023年的iPhone 15和iPhone 15 Plus机型运行内存只有6GB。
3)小米,近期小米公司宣布了对其旗舰手机小米15系列的内存配置进行调整。小米的董事长兼CEO雷军宣布,小米15系列将不再提供8GB内存的版本,而是从12GB内存起步,主要系为了充分发挥端侧AI的潜力。
4)vivo及OPPO,最新旗舰机型vivo X200系列和OPPOFind X8系列等手机都直接从12GB版本起步。
LPDDR5系列成为当前内存主流解决方案。LPDDR5芯片是第五代超低功耗双倍速率动态随机存储器,旗舰智能手机普遍采用LPDDR5X内存规格,为边缘AI运算提供加速,具备高存储器频宽和优秀的功耗效率。以国产厂商合肥长鑫的产品为例,与上一代LPDDR4X相比,LPDDR5单一颗粒的容量和速率均提升50%,分别达到12Gb和6400Mbps,同时功耗降低30%。LPDDR5芯片加入了强大的RAS功能,通过内置纠错码(On-die ECC)等技术,实现实时纠错,减少系统故障,确保数据安全,增强稳定性。据TrendForce集邦咨询预测,LPDDR5/5X会贡献2024、2025年Mobile DRAM位元出货量50%和60%。
更多行业研究分析请参考思瀚产业研究院,同时思瀚产业研究院亦提供行研报告、可研报告(立项审批备案、银行贷款、投资决策、集团上会)、产业规划、园区规划、商业计划书(股权融资、招商合资、内部决策)、专项调研、建筑设计、境外投资报告等相关咨询服务方案。