电子发烧友网

电脑版
提示:原网页已由神马搜索转码, 内容由www.elecfans.com提供.
会员中心
创作中心
发布

手机AI大模型来袭,存储来到16GB+512GB?

花茶晶晶来源:电子发烧友网作者:黄晶晶2024-01-19 09:546055次阅读

电子发烧友网报道(文/黄晶晶)手机处理器厂商最先引领了AI大模型在手机上的落地。去年下半年以来,高通联发科相继发布最新处理器,都开始支持AI大模型。

骁龙8 Gen3是高通首款以生成式AI为核心设计的移动平台。骁龙8 Gen 3基于台积电4nm制程,采1个3.3GHz Cortex-X4+5个3.2GHz Cortex-A720+2个2.3GHz Cortex-A530的八核架构设计。在强大的CPUGPU和NPU的支持下,骁龙8 Gen可以在设备端运行生成式AI,其支持超过100亿个参数的模型,比如Meta Llama2 / Baichuan,并支持20个 tokens/秒。

联发科天玑9300采用全大核设计,CPU包含4个Cortex-X4超大核,以及4个主频为2.0GHz的Cortex-A720大核。天玑9300集成的APU 790内置生成式AI引擎,与Transformer模型适配进行算子加速,可以实现1秒内生成图片。

结合内存硬件压缩技术NeuroPilot Compression来减少AI大模型对终端内存的占用,天玑9300支持在终端运行10亿、70亿、130亿参数的AI大模型。并且天玑9300成功运行了330亿参数的AI大模型。

在这些处理器发布后,手机厂商陆续推出搭载这些最新处理器的旗舰智能手机,当然也无一例外的开始搭载AI大模型。

手机AI大模型涌现

电子发烧友网统计去年底到今年1月发布的旗舰智能手机,包括小米14系列、vivo X100系列,OPPO X7系列、荣耀Magic6系列等,以及更早前发布的华米Mate60系列。它们都已经支持AI大模型的运行和应用。手机厂商对于AI大模型的拥抱态度十分积极,在主处理器支持AI功能的基础上,推出了自研的AI大模型。

wKgaomWp1meAJ9rWAAu-Oba1m-c841.png


例如小米的MiLM大模型支持64亿参数,还有支持13亿参数的端侧大模型。

vivo发布五款自研“蓝心”AI大模型,包括1750亿、1300亿、700亿、70亿、10亿五款不同参数规模,并开源70亿“蓝心”大模型。X100系列搭载70亿参数大模型。

在安第斯AndesGPT 大模型70亿参数大语言支持下,OPPO 端侧具备超快的首字响应速度。用户可以体验全新的 AIGC 消除功能,首个 AI 大模型语音摘要,文字生成图片等100多种能力。

当然,要追溯AI大模型上手机的进程,其实早在去年8月,华为Mate60 Pro发布,并宣布接入盘古人工智能大模型,为消费者提供更智慧的交互体验。

在AI大模型的加持下,智能手机变得更加智能化,出现更多便捷而有趣的应用,AI大模型成为智能手机的一大卖点,也将是未来智能手机创新发展的趋势。

需要多少存储容量?

我们看到,这些基于高通和联发科旗舰芯片的智能手机比较集中的是支持70亿的AI大模型参数。那么这些旗舰机型的存储容量又是多少呢?经统计发现,最低的为8GB+256GB,最高达到16GB+1TB。16GB+512GB这种搭配的存储容量是最为集中的。

以手机AI大模型的内存容量来看,OPPO影像产品总监张璇此前在接受采访时给出的数据是,70亿大模型正常的模型大小是28GB,经过压缩和轻量化之后可压缩到最小的3.9GB左右。

这个数据,其他手机厂商也有类似的看法。vivo AI解决方案中心总监谢伟钦此前透露,要运转一个10亿规模大模型至少需要1G内存,70亿模型需要4GB内存,130亿模型目前需要超过7GB内存。

这里不能不说轻量化和内存压缩技术。联发科在介绍天玑 9300支持生成式AI时就特别提到,特有内存硬件压缩技术和NeuroPilot Compression 混合精度 INT4 量化技术。采用INT4量化可以将130亿参数大模型压缩至13GB,再用内存硬件压缩技术进一步减少存储容量。

我们以70亿大模型压缩后需要4GB来算,再加上6GB App保活、4GB安卓OS,也就是说,支持70亿参数大模型的智能手机,实现图像生成功能等,其内存至少需要14GB。

若未来要支持超100亿参数的模型,实现数字AI助手等功能,在现有条件下智能手机内存至少需要17GB。

目前国内智能手机已经搭载最高24GB的内存,比如一加 12,一加Ace 3、realme 真我 GT5 等已提供24GB版本。

在内存规格上,当前旗舰智能手机的内存主要为LPDDR5X。vivo X100系列率先搭载海力士LPDDR5T内存(为强调其超高速度,SK海力士在“LPDDR5”规格名称后添加了“Turbo涡轮增压”字样),相比LPDDR5X内存读取速度提升达13%,达9.6Gbps。

在闪存规格上,主要为UFS4.0。UFS是一种允许设备同时读取和写入的全双工接口,并且在标准层面能帮助设备以更低的功耗实现高速读写,UFS4.0理论速度达到4,640MB/s。如前所述,最新发布的旗舰智能手机的闪存容量都配置了512GB这一容量。

随着AI大模型在手机上的推进,手机处理器、内存、闪存的容量和性能需求都将升级到更高的水平。增加容量只是一方面,无论是存储芯片厂商还是手机处理器、终端厂商,在存储技术、系统优化等方面还需更多的创新。

智能手机回暖,AI手机拉动存储市场上升

智能手机市场经历一段长时间的低迷之后,终于迎来增长。

Counterpoint数据显示,2023年10月全球智能手机销量在连续27个月同比下降后,首次售出交易量(即零售额)同比增长5%。2023年第四季度,智能手机出货量增速为同比增长3%,达到3.12亿部。Counterpoint预测,2024年全球智能手机出货量有望同比增长3%。

IDC预计,2024年中国智能手机市场出货量将达到2.87亿部,同比增长3.6%,实现2021年以来首次同比增长。

和PC市场对AI PC给予厚望一样,AI手机将成为智能手机市场一个强劲的增长动力。AI手机将带动LPDDR5、UFS 4.0的渗透,加速存储行业的复苏态势。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 联发科
  • AI
  • 大模型
  • 天玑9300
  • AI大模型
0人收藏

    评论

    发布评论请先 登录

    相关推荐

    intel 660P SSD PCIE 3.0X4 512GB测评

    intel 660P SSD PCIE 3.0X4 512GB测评
    06-16 14:32 525次阅读

    Lexar NM620 512GBSSD PCIE3.0 X4测评

    Lexar NM620 512GBSSD PCIE3.0 X4测评
    06-16 14:30 496次阅读

    荣耀笔记本X162024版开售,搭载R5-7640HS处理器,售价2999元起

    据悉,荣耀笔记本X16锐龙版2024于5月20日正式发售,其搭载了R5-7640HS处理器并定价2999元,仅提供16GB+512GB的单一配置。
    05-20 10:22 2529次阅读

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    NVIDIA NVLink,支持 FP4 AI精度。 GB200 NVL72是一款性能卓越的计算平台,采用更快的第二代Transformer引擎和FP8精度,可将大型语言模型的训练速度提升4倍。通过每秒
    05-13 17:16

    三星Galaxy S25 Ultra 内存将升级至16GB

    据报道,三星Galaxy S24 Ultra已现身市场,其存储版本分别有256GB512GB及1TB三款,但内存皆为12GB。然而,最新传闻称三星将于明年推出的Galaxy S25
    05-10 14:25 415次阅读

    OPPO Reno12 Pro最新消息:5月底至6月初发布,首款搭载无网蓝牙通话功能

    据博主介绍,Reno12 Pro搭载了联发科天玑9200处理器及星速版引擎,拥有16GB+512GB的大容量存储组合;前置50MP JN5摄像头,后置50MP IMX890大底主摄+8MP超广角+50MP JN5 2X中焦三摄系统。
    05-09 16:36 2054次阅读

    iQOO Neo9S Pro+揭晓,内置骁龙8 Gen 3处理器

    该屏幕还支持2160Hz PWM + 类 DC调光方案。后置镜头则是5000万像素,工程版设备提供16GB+512GB/1TB存储选项。值得注意的是,该机可能还配备了超算独立显卡芯片。
    05-09 14:18 545次阅读

    三星Galaxy Z Flip6升级至12GB内存,搭载骁龙8 Gen2处理器

    此前,三星国行GalaxyZFlip5手机存储空间上提供256GB512GB两个选项,而常规配色(如冰薄荷、冰玫紫等)及三星商城限定色彩(如海浪蓝、山林绿等)以及MaisonMar
    04-24 15:16 461次阅读

    铠侠发布全新UFS 4.0闪存芯片,提供256GB至1TB多种容量选择

    据了解,日本存储巨头铠侠于近日宣布推出全新第四代UFS 4.0闪存颗粒。该系列闪存包含256GB512GB及1TB三种容量版本,主要面向高端智能手机等新一代移动设备领域。
    04-23 14:28 695次阅读

    STM32F105+fatfs0.13c挂载32GB(FAT32)、64GB失败怎么解决?

    挂载8G16G(exFAT)容量的U盘均正常,32GB(FAT32)、64GB挂载失败!何故?
    04-17 06:46

    苹果16Pro存储容量提升至256GB,售价或保持不变

    据了解,去年iPhone 15 Pro的起步存储容量为128GB,高配版的iPhone 15 Pro Max则是256GB起步。今年的iPhone 16Pro预计也将采用同样的设定。
    04-16 14:43 827次阅读

    三星发布GDDR7显存解决方案,支持40Gbps引脚速度与64GB容量

    三星拒绝迎合市场主流的16Gb高密度设计,而是选择了较为理性的设计,采用16Gb密度,使得每个模块可以供应2GB的虚拟随机存储器(VRAM)。
    03-28 15:53 422次阅读

    请问STM32F4的USB端口能读写512GB的UFS卡吗?

    STM32F4的USB端口能读写512GB的UFS卡吗?
    03-28 06:42

    美光预计2025年车均搭载16GBDRAM和204GBNAND

    近日,全球领先的半导体存储解决方案提供商美光科技发布了《车用存储大趋势白皮书》。该白皮书深入探讨了未来五年内车用存储市场的增长趋势和预测。根据预测,到2025年,每辆汽车将搭载高达16GB
    02-02 15:41 583次阅读

    苹果iPhone16将配备8GBRAM

    近日,海通国际技术分析师Jeff Pu透露,苹果的下一代iPhone 16和iPhone 16Plus机型将迎来重要的硬件升级,配备8GBRAM,较前代的6GBRAM有所提升。这
    01-15 14:24 940次阅读

    花茶晶晶

    专栏
    424文章256.6w阅读141粉丝316点赞

    推荐专栏

    更多