硬科技产业观察之端侧AI：AI算力随身释放千亿价值

极客网·极客观察（朱飞）11月14日 风云变幻的国际局势中，硬科技的价值日益凸显。2024年10月22日，由E维智库主办的第12届中国硬科技产业链创新趋势峰会暨百家媒体论坛在深圳湾万怡酒店成功举行。峰会聚焦硬科技在产业发展中的驱动作用，汇聚众多行业精英、专家学者以及百家媒体代表，共同探讨硬科技产业链的创新趋势与未来发展方向。

峰会上，来自艾迈斯欧司朗、Qorvo、RAMXEED（原富士通半导体）、飞凌微、安谋科技、清纯半导体等知名科技企业的技术专家发表了精彩演讲，内容涵盖LED技术、射频技术、FeRAM技术、端侧AI技术、NPU技术、SiC技术等多个领域，展示了硬科技在多个领域的技术发展及应用情况。

这其中，端侧AI作为硬科技领域的一个重要分支，涉及在设备端叠加AI算力、进行数据处理和智能决策，以实现快速响应和增强用户体验，成为峰会的一大焦点。飞凌微和安谋科技的技术专家均现身说法，分享了各家技术方案的发展以及在端侧AI领域的最新应用，令人印象深刻。

飞凌微邵科：以新一代端侧SoC与感知融合方案，助力车载智能视觉升级

飞凌微首席执行官兼思特威副总裁邵科在峰会上做了《新一代端侧SoC与感知融合方案，助力车载智能视觉升级》的分享，结合端侧AI发展趋势介绍了端侧视觉处理芯片及将端侧SoC和图像传感器结合在车载应用方案上面的落地应用。

端侧AI为何必要？邵科在演讲中强调了端侧AI处理的三大优势：低延迟、高可靠性以及数据安全和隐私保护。他指出，随着图像传感器和AI算法的快速发展，端侧AI在智能车载、智能家居、物联网和机器视觉等领域的应用越来越广泛。

顺应市场需求，飞凌微今年推出了M1系列三款产品——高性能ISP和两颗轻量级SoC，它们专为车载端侧视觉感知预处理设计，具有业内最小的BGA 7mm*7mm封装，有助于实现更小型化的车载摄像头模组。

其中，M1系列芯片的高性能ISP能够处理高达800万像素的图像数据，具备高动态范围和优秀的暗光性能，满足车载ADAS和影像类产品的需求。此外，M1系列芯片的轻量级SoC集成了轻量级的CPU和NPU，具备0.8TOPS的算力，能够进行人脸识别、姿态识别等轻量级AI应用。

目前，飞凌微的产品方案已经在车载视觉领域的多个应用案例，包括DMS驾驶员监控、OMS乘客监控、电子后视镜和后视摄像头识别等。这些解决方案不仅提升了驾驶体验，还增强了车辆的安全性和智能化水平。

在演讲之后的问答环节中，邵科解释了飞凌微的轻算力与市场上其他MCU的区别，并强调了轻算力在功耗、小型化方面的差异化优势。他还提到，飞凌微正在开发第二代产品，将支持多模态应用，包括不同传感器的输入和语音与视觉的组合。

一言以蔽之，面对端侧AI和SoC技术的新机遇及新挑战，飞凌微计划通过图像传感器与SoC的深度融合，以及采用更先进的AI加速技术和提高图像性能的技术，来更好地满足客户需求，让端侧AI绽放更大价值。

安谋科技：以“周易”NPU IP产品，加速终端AI算力升级

安谋科技产品总监鲍敏祺在峰会期间做了《端侧AI应用“芯”机遇，NPU加速终端算力升级》的分享。他指出，随着AIGC大模型带来的算力提升，具备时效性和数据本地安全性优势的端侧AI应用正迎来新的增长点，其发展不仅仅局限于语言模型，而是将涵盖图片、音频、视频等多种输入方式，满足多样化的应用场景。

当然机遇背后也有挑战。鲍敏祺提到，端侧AI的挑战主要集中在成本、功耗和生态系统上。他解释说，用户实时体验的需求要求大模型在2秒内响应，而端侧设备的存储容量、带宽限制了大模型的部署。为此，安谋科技推出“周易”NPU，通过优化架构、提升算力，有效应对这些挑战。

比如，“周易”NPU保留了一部分本来的CNN能力，同时对Transformer大模型进行了增强；又如，“周易”NPU更注重数据的本地化，减少数据搬运；此外，“周易”NPU针对大模型进行了总线带宽的扩展，以防止带宽瓶颈出现。如此种种，通过增强算力、优化数据流和提升效率，“周易”NPU IP产品能够加速终端AI算力升级，满足多样化端侧设备的AI计算需求。

而在应对生态挑战方面，移动时代一路主导下来的安谋科技更为轻车驾熟。鲍敏祺介绍，其“周易”NPU针对文心、Llama、GPT等主流模型均进行了对应部署，并对包括PAD、PC、Mobile、Automotive在内的各类端侧设备都进行了覆盖，根据实际场景需求去适配模型和算力。

在演讲之后的问答环节，鲍敏祺还分享了“周易”NPU在智能汽车领域的应用，包括ADAS、智能座舱和车载娱乐系统等。其中，搭载“周易”NPU的芯擎科技“龍鷹一号”已累计出货超过40万片，并成功应用于吉利旗下的领克、银河系列以及一汽红旗等20余款主力车型中。

而面向未来，鲍敏祺透露下一代“周易”NPU将会继承并显著增强前代NPU的强算力、易部署以及可编程等特点和优势，并针对大模型的优化做一些通用计算的能力优化，围绕精度、带宽、调度管理、算子支持等多个方面持续进行优化，使得NPU能够更好地满足当前及未来市场需求。

写在最后：

无独有偶，在近日举行的2024全球移动宽带论坛（MBBF 2024）上，端侧AI也是焦点议题之一。在电信及其他产业人士看来，2024年是AI入端元年，将造就AI算力随身，使能AI业务移动化，引领消费电子、智能汽车、具身智能机器人等新移动业态的发展，创造巨大的商业价值。

IDC预计，明年（2025年）全球端侧AI市场的收入将达到59亿美元。而Gartner的预测数据显示，到2030年，全球端侧AI市场将达到数千亿美元的规模。这一预测基于端侧AI技术在多个行业的深入应用，包括智能制造、自动驾驶、智能家居、医疗健康等领域。

数据显示，当前具有AI功能的APP数量已达到300多万款，超过了传统应用商店中所有其他APP数量的总和。AI业界认为，未来5~10年，个人智能体（即各种Agents），将横跨多应用、多模态和多终端，成为移动新入口，影响每一个人。

毋庸讳言，端侧AI大门已经打开，未来更是星辰大海！从底层芯片到终端产品再到智能应用，产业各界已经形成高度共识并付诸行动，挖掘硬科技的巨大潜力，驱动更美好的智能未来！

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。