首 页
研究报告

医疗健康信息技术装备制造汽车及零部件文体教育现代服务业金融保险旅游酒店绿色环保能源电力化工新材料房地产建筑建材交通运输社消零售轻工业家电数码产品现代农业投资环境

产业规划

产业规划专题产业规划案例

可研报告

可研报告专题可研报告案例

商业计划书

商业计划书专题商业计划书案例

园区规划

园区规划专题园区规划案例

大健康

大健康专题大健康案例

行业新闻

产业新闻产业资讯产业投资产业数据产业科技产业政策

关于我们

公司简介发展历程品质保证公司新闻

当前位置:思瀚首页 >> 行业新闻 >>  产业投资

AI手机:硬件加速升级支撑更大参数量模型端侧运行
思瀚产业研究院    2024-06-11

参数数量和质量很大程度上决定了 AI 大模型的能力和性能。大模型包含参数越多,精确度越高,生成式 AI 手机性能也更为强大。目前,VIVO X100 系列、OPPOFind X7 系列、荣耀Magic6 系列等安卓旗舰机型均已成功实现 70 亿 LLM 的本地部署。根据Counterpoint 数据,本地大模型参数的上限将在 2024 年增长至 130 亿,2025 年有望达到170 亿。

更大参数级别的模型对手机硬件配置提出了更高的要求。

AI 算力是 SOC 升级的重中之重。SOC/AP 作为手机最重要的AI 运算单元,很大程度上决定本地部署的 AI 大模型的参数规模,进而决定了手机的生成式AI 能力。手机SOC普遍开始集成诸如 APU 或 NPU 等独立的 AI 计算单元,专门负责处理重载的AI 任务。

联发科、高通等头部SOC 设计厂商均已发布多款支持多模态大模型端侧部署的移动计算平台,如23Q4推出的天玑9300/8300、高通骁龙 8 Gen3 以及 24Q2 推出的高通骁龙 8s Gen3 和天玑9300+。AI 大模型需要消耗更多电量以实现高频率的推理任务,因此终端设备需搭载更大容量的电池和更大功率的充电器,进而推动电源管理芯片升级。

大模型运行时需驻留在内存中,每次处理生成式 AI 任务都将涉及到海量数据的搬运,对手机内存和闪存的容量和性能都有着更高要求。

内存容量:美光在 2024 年 3 月举行的 FQ2-2024 业绩会上表示,AI 手机DRAM容量较普通手机增长 50-100%。

根据联发科数据,130 亿参数 AI 大模型运行约需13GB内存(INT8精度),若加上 6GB APP 保活和 4GB 安卓 OS,合计手机内存容量总需求将达到23GB。当前安卓旗舰机内存容量以 12/16GB 为主,仍有很大的提升空间。

内存带宽:当前 AI 大模型的性能表现除了受限于处理器性能,还受限于内存带宽。高通骁龙 8 Gen 3 支持 4.8GHz LPDDR5x,带宽为 77GB/s,同时在内存与Hexagon NPU矢量单元建立了直连通道,大幅提高了 AI 运算的处理效率。联发科延续了以往对最新内存规格的追求,天玑 9300 率先支持 LPDDR5T,并于 VIVO X100 系列实现全球首发;与当前旗舰机普遍采用的LPDDR5X 相比,LPDDR5T 传输速度提升 12.5%达到 9.6Gbps。

闪存:UFS 使用高速串行接口替代并行接口,改用全双工方式,可同时实现数据的读取和写入,并在标准层面帮助设备以更低功耗实现高速读写。得益于上述优势,UFS在智能手机市场的市占率进一步提升,其中 UFS 4.0 增长更为显著。UFS 4.0 理论速度达4640MB/s,已成为当前旗舰机型的主流闪存规格。容量方面,高端机型基本进入512GB 以及TB时代;CFM预计2024 年手机平均容量将超 200GB。

我们统计了各大手机厂商的旗舰机型存储配置,12/16GB 已成为主流内存容量,内存规格以 LPPDR5X 为主;闪存容量基本从 256GB 起步,闪存规格以UFS 4.0 为主。尚未接入AI大模型的 iPhone15 系列在存储配置方面明显弱于已搭载 AI 大模型的安卓旗舰机型。更多行业研究分析请参考思瀚产业研究院官网,同时思瀚产业研究院亦提供行研报告、可研报告、产业规划、园区规划、商业计划、专项调研、建筑设计、境外投资报告等相关咨询服务方案。

苹果将于北京时间 2024 年 6 月 11 日至 15 日召开 WWDC 2024,旨在展示iOS、iPadOS、macOS、watchOS、tvOS 和 visionOS 的前沿创新。

此前,苹果CEO库克在2024年苹果年度股东大会上强调,苹果将在 AIGC 领域掀起革命,并将在今年晚些时候展示公司AI 方面最新进展。我们认为,AI 或为下一个大版本 iOS、macOS 等系统的重要更新方向,iPhone在AI 赋能下有望开启新一轮换机周期。

根据彭博社 6 月 7 日消息,此次 WWDC 主题演讲预计约有一半内容与AI 有关;苹果将发布名为“Apple Intelligence”的全新 AI 系统,并将其集成到iPhone、iPad 和Mac的操作系统中。

由于 AI 功能对硬件的需求较高,搭载 A17 Pro 的 iPhone 15 Pro 及以上机型以及配备M1及以上芯片的 iPad 和 Mac 才能体验各项 AI 功能。苹果的 AI 功能将由苹果自身技术和OpenAI两部分提供支持,其中前者负责处理日常使用的简单 AI 任务,采用端侧处理的方式,无需借助云端服务器。

苹果 AI 功能包括总结/摘要功能、邮件/短信回复功能、AI 辅助应用程序开发、AI辅助修图、语音自动转录等;同时,苹果计划将大语言模型技术引入Siri,使其具有更强大的语义理解和任务执行能力,以精确控制应用程序内的各个功能和操作,进而成为更强大的个人助理。

免责声明:
1.本站部分文章为转载,其目的在于传播更多信息,我们不对其准确性、完整性、及时性、有效性和适用性等任何的陈述和保证。本文仅代表作者本人观点,并不代表本网赞同其观点和对其真实性负责。
2.思瀚研究院一贯高度重视知识产权保护并遵守中国各项知识产权法律。如涉及文章内容、版权等问题,我们将及时沟通与处理。