第三代骁龙8:新一代移动soc端侧ai大模型的领导者 -2024欧洲杯正规平台
在移动ai这条道路的探索上,高通既是启蒙者,又是见证者。
无论是小米澎湃os、originos 4还是coloros 14,如果你关注过最近这段时间国内主流手机品牌集中发布的新版系统,会发现ai已经成为发布会ppt上“躲不开,绕不过”的关键词,而且属于提及频率最高的那一档。实际上,这还不是最“过分”的,在今年google i/o大会上以劈柴哥sundar pichai为代表的一众高管,在短短的2个小时主题演讲中就提及了超过140次ai,频率高达平均1.17次/分钟,在2024欧洲杯竞猜入口官网上,google甚至将新一代pixel 8系列言简意赅地称为“由google ai与最好的pixel相机打造的最强大、最贴心的pixel手机”。
突然间,属于智能手机的移动ai时代到来了。
当然如果细究的话,今年手机厂商们口中的“ai”与往年消费者偶尔听到或者在相机界面里看到的那些“ai”还不太一样,今年的ai专指“ai大模型”这个随chatgpt火到已经泛滥的概念,是一种基于生成式ai技术的大语言/大视觉模型,主要用于图文相关的自然语义理解、处理乃至于创作生成——即与ai大模型概念同样大热的aigc概念。换句话说,这阵ai风潮本质上是手机厂商集中落地ai大模型所引起的市场“躁动”,而点燃这份躁动的正是以第三代骁龙8为代表的新一代移动soc平台,它们为ai大模型落地移动端扫清了最为关键的一道硬件障碍,也填上了移动设备真正迈入ai时代最后一块拼图。
从看照片到大模型 移动ai的演进之路
尽管许多消费者今年才对移动端的ai有所耳闻,但其实ai在移动端的应用探索已经持续了很多年,以高通为例,早在十年前也就是2013年就推出了名声大噪的ai芯片zeroth和snn架构——彼时高通也同步提出了神经处理单元(npu)的概念,2014年高通进一步收购了ai图像识别技术公司euvision进一步探索ai在移动端的潜在用例,并在随后将源于zeroth的ai加速架构引入了2015年推出的骁龙820移动平台的设计之中,以此奠定了骁龙系列高通ai引擎的基础,高通内部也将骁龙820视为搭载高通“第一代ai引擎”的移动平台。不过彼时移动soc市场还未流行ai的说法,高通也未进行过这方面的宣传,所以这就造成了当2018年npu概念兴起之后,许多消费者产生了此时高通才在移动ai赛道上发力的“错觉”,但实际上,高通早在2007年就启动了首个ai研究项目,掐指一算,从懵懂独行到行合趋同,高通在ai上探索已经历经十七载,基本完整覆盖了整个智能手机发展史。
所以,在移动ai这条道路上,高通既是启蒙者,又是见证者。
说到这里,我们也可以从ai这一概念在移动端的经历窥知移动ai发展之路上最大的阻碍——缺乏用例。相信不少消费者在2019年前后通过npu的大名,或者冲着看似相当美好的ai宣传入手了新机,但在系统中却难以发现ai存在的踪迹,印象中还有厂商趁着当时歌曲《卡路里》的热度绞尽脑汁推出了类似“识食物得卡路里”的比较尴尬的ai功能,这也导致当初诸多探索的ai功能中,似乎只有相机的ai场景识别留存至今。行业最初在移动ai用例上的探索主要集中在机器视觉与图像识别,但也正因如此导致曲高寡,以至于无法贴近用户日常生活而一直不得要领。
但以chatgpt为代表的生成式ai带来了颠覆性的变革,让行业看到了ai大模型所蕴含的潜力。ai大模型其中的ai指代的自然是人工智能,而这个人工智能则是由深度学习算法和人工神经网络训练而出的;大模型则是大语言模型,之所以被称为“大”模型,是因为这类模型参数规模经常数以亿计,而语言模型就是通过大量参数预训练的自然语言处理模型,以生成式ai实现文字的生成、总结、改写、搜索、回答、聚类、分类等复杂目标。简单来说,ai大模型就像《猩球崛起》中给予凯撒智力的“alz-112”一样,有着赋予机器自然语义理解——也就是听懂人话的能力,当一台可以连接互联网的手机能听懂对话与你交流的时候……它的能力上限大多时间只会与产品经理的想象力边界挂钩了,这时如何将“大”模型装进用户的“小”手机中,就成为ai赋能移动端最大的阻碍,而第三代骁龙8移动平台正是为此而来。
第三代骁龙8 启幕2024移动ai元年
目前将ai大模型“塞入”移动端目前的主流做法是云侧大模型,即用户输入通过云端模型处理后返回结果,优点是对输入硬件并无要求,也可以利用参数量级较大的模型,chatgpt、文心一言、stable diffusion等一众知名大模型的to c接口均基于此。但云侧大模型会有2个问题,一是全程基于网络最终效果受限于用户的连接状况,这对于主打对话与理解场景的ai大模型而言是一个相当大的不稳定因素,二是不利于用户隐私安全,数据上云本身就是用户十分抗拒的事情,如果加以限制又会阻止ai理解用户,缺乏个性化。最简单的一个例子就是你可以让云侧大模型为你推荐全球米其林榜单,但却无法在不上传位置信息的情况下推荐离自己最近的高评分餐厅。
被形容为“外置器官”的智能手机本身就是用户个人的一部分,如果让这个“器官”变为“大脑”,前途不可限量。也正因如此,端侧ai大模型的需求呼之欲出,甚至被视为有可能最先“引爆”这一轮ai大模型的杀手级场景。基于这些考量,高通在2023服贸会上发布了《混合ai是ai的未来》白皮书,提出了混合ai的概念——即云端结合,移动端在接入云侧大模型的同时,也有必要具备终端侧运行大模型的能力,这样才能分利用手机上的全部数据,借助用户个人数据持续微调这类神经网络,能够带来更深入的意图理解和更加个性化的复杂场景服务。也就是说,云侧大模型的通识能力要有,端侧大模型的个性化能力也要有,这样才称得上是健全。
而第三代骁龙8移动平台正是新一代移动soc端侧ai大模型的领导者之一。高通多年来一直在探索生成式ai,不仅在年初就演示了首次在android设备上跑通stable diffusion,生成ai图像用时仅15秒,在2023骁龙峰会上,这个时间被进一步压缩至0.6秒内——低到了一个很不可思议的数量级。这不仅是同类产品中是最快,甚至也可以嵌入相机应用无缝使用中,高通观察到用户拍摄间等待阈值为1-2秒,如果运行一次模型需要15秒就失去了实用价值,但如果以0.6秒就可以实现一次运行,就可以让用户真正地无成本地去使用它。
之所以能实现如此迅速的生成速度,一方面是因为第三代骁龙8搭载的全新ai引擎实现了性能与能效飞跃,搭载了史上最快的高通hexagon npu,比上一代推理速度快98%,每瓦特性能提升40%,支持大模型参数规格从年初的10亿量级暴增10倍至100亿,可以以20个token/s的速度进行ai大模型的生成。高通传感器中枢也引入了下一代微型npu,将ai性能提升至前代的3.5倍,内存提升30%,在第三代骁龙8的加持下接入大语言模型的ai助手能够与高通传感器中枢协同工作,利用位置和活动数据等信息,结合情境提供个性化的回答。
第三代骁龙8之所能提供终端侧运行ai大模型的能力,除了本身就极为强悍的ai能力之外,还得益于高通对端侧ai大模型发展的观察、理解与深度参与,一方面是因为模型变得愈来愈好,比如高通发现拥有130亿参数的meta llama 2模型的表现其实并不逊色于拥有1750亿参数的chatgpt-3模型,这也意味着强大的生成式ai模型正不断缩小;另一方面高通一直在利用int4模型进行数据推理,通过int模型进行量化是因为它的量化效果和效率相比常见的浮点模型更出色,将拥有70亿参数的模型量化至int4模型,与将相同参数规模的模型量化至16fp或32fp浮点模型相比,能够有效降低内存带宽占用,让ai大模型推理更契合移动端的高能效低功耗需求。
可以预见的是,2024年,ai能力——无论是算力规模、每瓦性能、token生成速度还是调通llm/lvm的参数量级——都将加入移动soc“核心规格”的定义之中。
从硬件到软件 骁龙ai的生态闭环
有了以第三代骁龙8为代表的新一代移动平台作为端侧ai大模型支撑,国内各家早已备好且多次刷榜的自研大模型终于得以落地终端,小米澎湃os迎来了史上最强的小爱同学大模型,originos 4得以端侧加载10亿与70亿参数的蓝心大模型,coloros 14也迎来了andesgpt全新加持。各家对于ai大模型的具体用例百花齐放,包括但不限于支持自然语义理解的语音助手、实时字幕、文档总结、自动生成脑图、超能搜索、闪速抠图、文案生成、风格化图片、照片背景替换、图片识别、图片生成等等等等……端侧ai大模型可以把用户从繁琐重复的日常操作中解放出来,云侧大模型可以基于庞大的模型参数消弭认知差距,填平通识沟壑,让用户以好的状态投入更具创新性的工作之中,这才是人类擅长的事情,这也是生成式ai的真正力量。
为了推动端侧ai大模型的普及与混合ai愿景的实现,高通早在去年就推出了高通ai软件栈,这是一套旨在帮助开发者一次编写、随处运行,实现规模化部署的开发工具。高通ai软件栈全面支持主流ai框架,还集成了推理软件开发包,比如高通神经网络处理sdk。支持最新编程语言、虚拟平台和编译器,在底层系统软件集成了基础的实时操作系统(rtos)、系统接口和驱动程序,还支持广泛的操作系统,以及用于部署和监控的基础设施。高通ai软件栈还集成了开发工具高通ai studio,支持从模型设计到优化、部署和分析的完整工作流。它将高通提供的全部工具集成到一个图形用户界面,并利用可视化工具以简化开发者体验, 支持开发者实时查看模型开发进度,这其中包括高通ai模型增效工具包(aimet)、ai模型增效工具包模型库、模型分析器和神经网络架构搜索。
ai软件生态之外,多设备协同也是端侧ai体验的进一步延伸,对此,高通拥有一个无可比拟的优势——数十亿计的高通与骁龙平台保有量,而且智能手机之外还涵盖了汽车中控、xr、ar、pc以及物联网设备,其中针对xr设备的全新xr2和ar1片均支持了眼镜侧ai,第一代高通s7音频系列平台甚至实现了超过100倍的端侧ai性能提升,每年还有数亿台搭载骁龙和高通平台的终端设备进入市场。高通也为android厂商与用户带来了全新的snapdragon seamless跨平台互联技术,可实现多台终端跨多个操作系统无缝连接,共享外设和数据。包括微软、android团队、小米、华硕、荣耀、联想和oppo在内的公司正与高通合作,打造snapdragon seamless赋能的多终端体验,snapdragon seamless示范用例描绘了相当未来的智能体验,包括鼠标和键盘可在pc、手机和平板电脑上无缝使用,文件和窗口可在不同类型的终端间拖放,耳塞可根据音源的优先级进行智能切换,xr可为智能手机提供扩展功能等等。
总的来说,围绕第三代骁龙8移动平台,高通构建了一套完整的ai生态体系,包括性能领先的端侧ai引擎搭建的硬件闭环,帮助开发者实现一次编写规模化部署的高通ai软件栈的软件生态,以及挖掘以十亿计的设备保有量潜在能力的高通seamless互联协议。这一套先进硬件为基石,软件生态为框架,并辅以跨品牌跨平台互联协议填充细节的端侧ai生态,是高通在移动端端侧ai领域独一无二的生态优势,而在即将到来的移动端ai新浪潮中,高通将以此成为启幕移动智能“芯”时代的重要参与者。
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。
图片
精彩推送
- 蒙牛集团与百胜中国达成战略合作 打造乳品与餐饮“超级cp”合作新范式
- 见证行业蓬勃发展 汇源果汁获中国饮料工业协会表彰
- 相约明年!2023粤港澳大湾区服务贸易大会圆满落幕
- 首个跨境电商全模式阳光化公服平台发布,明心数智-跨赋携手多方数字赋能跨境发展
- 辉山奶粉助力合作爱奇艺热剧爆款剧集《宁安如梦》,看热剧营销如何玩出圈
- 走万企 提信心 优服务丨初次拥抱自媒体背后有ta?微众银行“走万企”调研深入探寻小微企业宣传推广需求
- 莱奥德创冻干工场——冻干服务实验室开幕,携手探索冻干创新技术极限
- 茶界盛事|首届两岸茶匠秋季茶王赛收样至25日,海丝茶道产业融合发展论坛厦门召开
- 大变局下,西凤的“突围”之道
- 一辆电动车适不适合你,你的身体最先知道
- 东风加速“上新” 岚图科技日登陆博鳌论坛
- 团队合作 潜心钻研:一家专注在征拆领域的专业律所
- 千万消费券狂撒全城,抖音心动之城郑州站火热开幕!
- 512gb手机只要1599!vivo y100i首销限时优惠多,内置超大电池
- 创新、改革与引领,这是突围与新生的“汾酒答案”
- 走进联合国的润滑油 统一股份cop28分享脱碳经验
- 旗舰爆款同台竞技,海信电视u8成为年度最强mini led电视
- 第三代骁龙8:新一代移动soc端侧ai大模型的领导者
- 如何计算交强险保费?
- 京东肯特瑞为用户提供更科学的投资2024欧洲杯正规平台的解决方案 为用户财富增长保驾护航
- 蒙牛卢敏放:质量安全“不妥协”,擦亮乳业国家队“食安名片”
- 第十届虎门国际电商节盛大开幕
- 助力建设产业强链,东风多项核心技术亮相首届链博会
- 亿联银行推出个人大额存单产品,为投资配置带来新选择
- 王召东医生全面解析鼻整形之美,#济南丽合,#丽合医美
- 北京市大兴区产业招商推介会在武汉圆满举办
- 丰田金融服务激发金融活力,促进汽车行业发展
- 李蕾2023年全国巡回演讲洛阳站圆满成功,唯美ld陶瓷助力开启美好生活
- 波黑塞族共和国代表团于进博会期间访问中国并开展系列经贸交流活动
- 第七届材料基因工程高层论坛将于12月5-7日在重庆举办
- 高通正在带来真正专属于我们每个人的生成式ai终端
- 蔡国庆:“未来十年,民营企业有个高速增长黄金期”
- 广州城市都心新地标——天河领展广场盛大开业,银联线下快闪福利助力精彩不停
- 慕思引领“运动 睡眠”新潮流:巨星探访、产品体验全纪实
- 如何避免汽车保险的常见误区?
- 如视推出vr摄影师合作招募计划,与摄影师共创共赢、融合生长
- the green quarter:西伦敦传统高端社区
- 发车!eπ007全场景体验万里长测今日出征
- 从17人到600人,十年迅速发展,这家律所凭借的是什么?
- 多举并进 赋能律师,北京在明律师事务所打造专业化的人才孵化基地
- 坚守正义,北京在明律师事务所11年持续传递法律温度
- 小红书魔都演绎年俗“妙”会,共邀全民有滋有味过龘年
- 东风激活“数智”动力,多项成果亮相2023中国5g 工业互联网大会
- 第30届中国国际广告节:汇源斩获2023年度内容营销金案
- 第30届中国国际广告节举办 汇源获沙棘品牌年度整合营销案例大奖
- 科研实力领跑行业,金领冠亮相第八届中国特殊食品大会获行业瞩目
- 统一股份获邀出席第28届联合国气候变化大会 分享可持续脱碳经验
- 东方风起 e起向新 “东风”品牌三大产品系列品牌“全列阵”首登广州车展
- 阳采集团三商一体数字化供应链建设
- 生成式ai时代,需要怎样的手机芯片?
- 0.6秒!手机跑stable diffusion创下最快速度,而这仅仅是开始
- 对话邱德光,法国国宝级品牌treca崔佧床垫设计论坛精彩不断
- 新疆伊犁州党委常委、组织部部长李荣年一行到玉湖冷链考察
- 从生态到好酒,从好酒到老酒,舍得做了什么?
- oakhill:肯特郡的奢华生活体验
- 为什么说第三代骁龙8才能叫旗舰手机 重点在后面
- 邀约路演、秘密交表,shein冲击900亿美元估值
- 《新生代妈妈奶粉选购白皮书》重磅发布:超九成妈妈青睐这款新国标奶粉!
- 现场签约额破3亿, 2023悦享客溯源考察行暨经销商大会圆满落幕!
- 白象中国面冠军体验官易建联做客白象食品直播间
- 开创合资合作新局面 东风汽车有限公司发布新战略“启dna ”
- 如何选择最适合你的汽车保险
- 发挥“主场”优势 东风科技成果闪耀2023中国国际商用车展
- 峰铭通集团 四周年庆典暨共赋联盟全国启动大会顺利召开
- 骁龙证明自己成为面向生成式ai的首选平台
- “真补贴”撩动大众,抖音超值购万人团双十一引爆全域高势能
- 去年超神的安卓顶配,果然又神了!
- 珠海国际会展中心二期盛大启幕 为珠港澳会展业增添新引擎
- 深化改革出实招 东风公司实施“双目标”刚性考核机制
- 这个冬天,uc浏览器送你宅家“快乐大餐”
- 再赴“中国之约” 东风公司连续第六年参展进博会
- 亮相2023进博会,金领冠携最新母乳研究成果闪耀世界舞台
- 为什么旗舰手机都用骁龙8gen3?看不到的细节也太多了!
- 共建“一带一路”,英耐助推中国企业国际化
- 吉宝核心基础设施基金以5.75亿美元成功完成首次集资
- 制胜新赛道 东风智能新能源品牌show暨eπ品牌发布会即将启幕
- 雷神动力连续十年蝉联“中国心”十佳发动机及混动系统
- 东风公司实施新能源“跃动工程” 成立研发总院
- 屈臣氏携帕梅拉演绎健康新美学 千人健康操尽情释放多巴胺
- 50岁女教师罹患结肠癌 治疗2年仅自费三百元
- 头部企业共同首选,万物梁行武汉区域“点亮城市”
- 飞宇稳定器新品齐上阵,双十一享全年底价优惠!
- 撒贝宁暖居party倒计时!海信激光电视到底有多“够意思”?
- 48小时极限ai创新:年轻创业者在阿里云计算底座上构建ai新世界 | create@ai创客松
- 高校校办企业国有资产监管面临挑战:重构监管保障机制
- 以大数据转型推动国家审计高质量发展
- 为创新成长提速—「阿里云创业者计划」云栖大会专场活动圆满举行!
- 统一低碳新里程碑—中国首张可持续采购体系认证20400
- 构建脱碳共同体 统一绿色低碳供应联盟成立
- 赛迪报告发布,明朝万达连续多年位列数据安全产品市场份额前三!
- 玉湖冷链携手产教各方组建「粤港澳湾区农产品智慧冷链行业产教融合共同体」
- 玉湖集团董事局主席黄向墨出席「跨国公司长沙行暨高端产经对接会」
- 玉湖冷链受邀参加2023中国(广元)物流产业发展大会
- 抖音商城以内容 货架场景,撬动秋冬户外「野行」心智
- 启新址 征新程 | 北京在明律师事务所第二办公区正式启用
- 第四届中央企业熠星大赛复选赛贵阳启动 东风公司践行央企担当承办新能源汽车赛道
- 以内容场 货架场加速口碑沉淀,抖音商城解锁运动品类圈层突围
金融
财经
要闻
公司
一系列金融支持民营经济、民营企业发展的政策举措正密集出台加速落地。
9月份以来,人民币汇率持续走低。9月8日,离岸人民币对美元汇率盘中最
国家统计局发布的数据显示,8月份,全国居民消费价格指数(cpi)同比上
国家统计局9月9日发布的数据显示,8月全国居民消费价格指数(cpi)同比
今年前8个月,郑州商品交易所累计成交量约25亿手,同比增长64%。这是记
中国电影观众满意度调查2023年暑期档调查结果显示,暑期档电影观众满意