端侧AI很好很强大,但有些隐忧厂商没有说

(魏德龄/文)这个冬天,无论是电脑还是手机,端侧AI能力都成为电子产品的新促销点,无需连接网络就能让本地产品获得如同ChatGPT般的能力,并且通过对于模型与算法的优化,还能获得极快的响应速度。

然而,只要尝试在本地设备中部署AI能力后,就能发现,端侧AI很好很强大,但有些对于普通消费者来说的隐忧,厂商并没有主动提及。

吃紧的硬盘空间

如今,硬盘空间无疑成为了厂商在销售电子产品时,获得更高价格空间的重要手段。很多用户往往无法选择购买最低硬盘空间的起售价格产品。以智能手机为例,最低的起售价格,往往意味着128GB/256GB的存储空间,对于喜欢玩游戏或拍摄视频的用户来说,这样的空间往往捉襟见肘。

不少大型游戏动辄30GB左右,随着苹果开始在手机侧布局3A大作,未来这一趋势还将愈发明显。而随着手机摄像头像素的提升,支持的视频格式愈发高阶,在给用户带来更高画质、更多后期可调空间的情况下,也让存储空间更加吃紧,甚至在iPhone 15 Pro系列中,如果想拍摄4K的ProRes视频就必须外接固态硬盘。

端侧AI的实现除了需要在本地设备中安装可执行的应用程序与环境,更重要的是需要配置好对应相关任务的模型,以目前无论是PC还是手机厂商都喜欢进行演示的Stable Diffusion为例,内置的模型就至少需要7GB的空间,完整版为15GB,而如果用户对于相关画风、细节有要求,甚至是希望生成出Gif动画效果,同样需要再下载其它模型。一套让端侧设备实现文字生图能力的应用,在安装完成后所占据的空间,很可能与一款大型游戏不相上下。

同理,若想实现类似于ChatGPT般的对话式助理功能,一个容量为20GB以上的模型同样少不了。才能有望让PC或手机成为用户的本地工作生活助理,在无需网络依赖的情况下,具备撰写简单的文档、回答相关问题,或是规划旅行日程等能力。

 

系统臃肿的隐忧

对于玩过大型游戏的用户来说,每次版本迭代时的更新无疑都会经历一个漫长的过程,而如果手机或PC厂商将本地AI能力与自身操作系统相结合,由于其所占据的较大硬盘空间,无疑将会让操作系统本身的容量变得较为臃肿。

小米14系列发布会上曾经公布了这样一张标注有手机固件大小的PPT,友商A、B、C、D的固件大小容量分别为11.36GB、12.64GB、20.61GB、21.20GB。显然,如果不对模型进行进一步精简,手机操作系统只是简单通过1+1的方式来融入端侧AI能力的话,固件容量很可能将会翻升2-3倍。

这也就引出了另一个问题,本地AI模型同样有着定期版本升级的特性,而一旦面临升级,用户将会面临一个相对较长的下载与替换安装过程。这一问题目前在工业互联网领域已经被业界所关注,随着AI模型开始在智能制造领域的尝试性部署,升级过程中的高数据量同样会产生较长的设备更新时间。

 

质量与能耗的取舍

尽管“1秒钟”已经成为了PC与手机厂商强调端侧AI能力时的标配指标,然而厂商很少主动表示,1秒钟所生成的图片大小,PC一般为512*512,手机一般为256*256,这一分辨率对于如今的高分屏时代来说,其实有些过于小儿科。

但若想让图片的分辨率达到当下普遍接受的水平,则往往需要大量的GPU资源,对于笔记本或手机这类设备而言,一方面会产生不小的发热量,另一方面等待时间也变得较为漫长,进而让使用体验大打折扣。

此外,“1秒钟”本身也是模型与算法的双重优化结果,对于目前很多人所使用的模型而言,还无法实现“一秒钟”的能力,20多秒的等待时间一般来说是常见的情况,而如果在此过程中,运算较为复杂,等待时间则会十分漫长,部分设备的发热量同样可以与运行大型游戏相媲美。

 

写在最后

端侧AI被业界视作是2024年挖掘电子产品消费新需求的突破口,不过这项技术才刚刚开始,离“成熟”二字无疑还有很长的道路,后续的快速迭代升级不可避免。

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2024-01-04
端侧AI很好很强大,但有些隐忧厂商没有说
端侧AI很好很强大,但有些隐忧厂商没有说 这个冬天,无论是电脑还是手机,端侧AI能力都成为电子产品的新促销点,无需连接网络就能让本地产品获得如同ChatGPT般

长按扫码 阅读全文