(高靖宇/文)在智能手机市场络绎不绝的新品发布中,一波涌动的潮流正逐渐凸显其轮廓——AI大模型。随着ChatGPT的横空出世和全民级应用发展趋势,手机厂商开始探索将AI大模型嵌入到智能手机中,从而为用户提供更加个性化的智能体验。
在近日举行的OPPO开发者大会(ODC 2023)上,ColorOS 14正式亮相。与以往不同的是,在这一次的系统更新中,OPPO首次内置了安第斯大模型(AndesGPT)。根据官方介绍,该模型包含了从10亿到千亿不同参数规模的多种模型,并将与潘塔纳尔系统全面融合。
而在半个月前,vivo正式发布自研蓝心大模型BlueLM,它是vivo自研通用大模型矩阵,从开源到完全自研历时6年,包括十亿、百亿、千亿三个不同参数量级的5款自研大模型,全面覆盖核心应用场景,并将大模型矩阵能力全面融入到OriginOS 4。
此外,荣耀CEO赵明也于近期透露,新机荣耀Magic6将会搭载自研的70亿参数量级端侧AI大模型。同样地,华为宣布手机系统接入盘古大模型。
随着头部手机厂商入局AI大模型赛道,预示着,部署AI大模型的手机终端将会越来越普及,为行业带来新的机会。
头部厂商逐鹿AI大模型
如果说数据是新的石油,那么大模型就是提炼这个石油的精炼厂。大模型的出现,使得我们能够更有效地利用海量的数据,从而提炼出有价值的信息。那么,大模型千亿级的参数量如何在手机上流程运行,此时端云协同的混合架构就成为关键。
OPPO安第斯大模型就采用云端相结合的方式落地端侧大模型,通过手机端硬件和云的组合,可以实现以往单纯依赖云服务的智能语音助手所不能实现的功能。此外,大模型会根据任务需求和模型能力不同,调用不同模型。简单任务,如联系人查询等,将采用小模型端侧快速响应,而复杂任务,如知识、信息查询等,将使用云端大模型进行准确回答。
vivo的蓝心大模型包含有10亿、70亿、700亿、1300亿、1750亿五种参数规模,其中10亿和70亿已经可以由本地算力支撑,而更大的数据仍然需要运行在云端。为此,vivo并不会强制用户必须使用端侧或者云端,而是交给用户自己去选择,比如隐私保密性不需要那么高的输入法等功能,可以选择在云端运行,而公司文件、相册等,就可以利用手机本身的算力来完成。
与单纯在云端部署生成式 AI 应用和服务相比,手机终端侧部署生成式 AI 可以实现在设备端运行复杂的AI算法,从而减少对云端服务的依赖,个人私密信息也不用上传的云端,保障数据安全。此外,手机可以更好地理解和响应用户的需求,从而满足用户对更加智能化手机的期待。
OPPO数智工程事业部总裁刘海锋表示,在生成式AI技术的加持下,手机对于用户意图理解和情境感知将会更准确。“比如过去,系统只有知道用户订了高铁去北京,才会推送高铁行程信息。但未来手机系统会根据用户需求提前形成一张包含高铁班次、出行时间与出行地天气温度的新卡片进行推送。此外,系统还会根据交通拥堵情况,以及用户偏好习惯,提供导航去高铁站停车场等关联服务推荐,如果识别到用户是想去旅游,还会提供旅游相关一整套服务。”
终端侧部署AI大模型仍有挑战
作为推动手机物种进化的先进技术,与单纯在云端部署生成式 AI 应用和服务相比,手机终端侧部署生成式 AI 在节约服务器成本、保护用户信息安全、提升实时性和实现个性化用户体验等方面带来了更加广阔的应用前景。同时,在手机端部署AI大模型仍然面临不小的挑战。
首先是算力,大模型的运算量大,需要强大的计算资源支持,手机厂商在算力基础设施上的储备往往不够充足。vivo AI全球研究院院长周围透露,目前1300亿参数以上的大模型对算力要求非常高,现在训练都暂停了,1300亿参数以下的大模型训练依然在继续。据了解,vivo也与其他算力芯片厂商接触,但还没有明确的方案。
此外,从应用侧来看,轻量化本地部署是手机大模型的一个重要趋势。为了在手机上高效运行大模型,手机厂商需要将模型进行压缩和轻量化处理,通过剪枝、量化、分解等技术,以减小模型的大小和计算量,以确保模型能够在手机上高效运行。
在业内看来,目前AI大模型在手机端侧的应用还在起步阶段,但却是未来必争的技术高地。根据IDC预测,到2026年,中国市场中近50%的终端设备的处理器将带有AI引擎技术。这意味着,手机厂商拥有AI大模型的能力将变得越来越重要。对于用户而言,在AI大模型的赋能下,未来手机演进将迎来更多体验层的“质变”性创新。
- 蜜度索骥:以跨模态检索技术助力“企宣”向上生长
- 张瑞院士:RIS在6G网络中具有重要技术潜力,但也面临诸多应用挑战
- 浮盈超40亿元:中电信量子集团调整收购国盾量子金额
- 联通数科雁飞Cat.1自研模组项目比选失败,启动第二次比选
- 王江舟院士:加强合作和投入,共推RIS标准与产业化发展
- 德国电信上调全年盈利预期 得益于欧美市场积极表现
- 德国电信上调全年盈利预期 得益于欧美市场积极表现
- 中国联通China169骨干网核心路由器扩容板卡单一来源采购 华为中标
- 预算超1.6亿元 中国联通软件研究院云计算服务(联通云新增部分)启动单一来源采购
- 2025年电信业将发生巨变:Juniper Research预测十大发展趋势
- 卫星上网仅需199元/天!中国卫通推出卫星互联网产品套餐
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。