嘉楠科技的AI芯片“上下”之道:IC开发上云,应用场景下沉

原标题:嘉楠科技的AI芯片“上下”之道:IC开发上云,应用场景下沉

IC开发方面通过“上云”来充分利用云的灵活算力降本增效并缩短开发周期,芯片应用场景则聚焦安防、新零售等“下沉”场景开发新一代ASIC芯片赋能AIoT,嘉楠科技已经摸索出一套连接“云+AI+边缘”的芯片新打法。

从2016年Alpha Go横空出世,AI这个词就热度不断。现在说起AI,可能大家瞬间想到的是那些五花八门的AI智能音箱:Siri、亚马逊Alexa,微软小冰,以及国内的百度小度、小米小爱等。但其实经历过“三起两落”的AI,随云计算、IoT、5G等技术的成熟,更大的可能性在智慧农业、智能安防、自动驾驶以及新零售等产业互联网垂直场景。

来源:《产业智能化白皮书——清华大学全球产业研究院》

与此同时,受益于国家政策引导和企业的广泛部署,资方和市场均看好AI芯片的发展走向。据中金报告预测,2022年国内整体AI芯片市场规模将会达到596.2亿美元,CAGR(复合年均增长率)57%,其中云端训练AI芯片172.1亿美元,CAGR 53.5%,云端推断芯片71.9亿美元,CAGR 84.1%,边缘计算AI芯片352.2亿美元,CAGR 55.2%。可以说AI芯片领域整体是有很多机会的,但最大的机会在哪呢?

来源:《AI芯片:应用落地推动产品多样化——中金研究部》

应用场景聚焦下沉,AI芯片的最大机会在于边缘

如同Alpha Go需要48个Google AI芯片的加持才得以在国际棋坛大杀四方一样。作为AI架构的核心部件,伴随算法的迭代,AI芯片也经历了从CPU、GPU、FPGA、到现在主流ASIC芯片的发展过程,其通用性和延展性逐渐收缩,更加聚焦于产业互联网时代“网连万物”(即通常所说的AIoT)的应用要求。

具体来讲,07年以前对芯片还没有特别强烈的需求,通用的CPU芯片即可提供足够算力。之后随着移动互联网的诞生和发展,高清视频和游戏快速发展,在图形处理方面更有优势的GPU发展迅速,在这之后一段时间内成为当时AI芯片的主流。

但是,GPU只是在图形处理上有优势,对于AI深度学习则没有针对性优化。与此同时,随着4G以及大数据和云计算等技术的发展,AI作为一个老技术焕发出新生机,在人脸识别、自然语言处理、语音识别、无人驾驶等领域的需求日益扩大。这时候针对深度学习开发的 FPGA芯片和ASIC芯片开始登上舞台。

FPGA(FIELD-PROGRAMMABLE GATE ARRAY),即 “现场可编程门阵列”,又被称为“万能芯片”。用户通过烧入FPGA配置文件,来定义门电路以及存储器之间的连线,用硬件描述语言(HDL)设计其硬件电路,从而定义需要芯片的功能。但缺点是单芯片成本和功耗依然比较高。

但随后IoT和边缘计算等的发展,使得产业互联网的计算需求得到前所未有的释放。“这些边缘设备相比于高运算力,更加灵活和即时的运算反馈更加重要,所以这个阶段单芯片体积更小、成本更低、功耗更小的ASIC芯片称为新的主流”,国内AI芯片明星公司嘉楠科技CEO张楠赓如此总结道。而像嘉楠K210等针对端侧的AI芯片也更加与现在智能工农业生产场景和C端生活场景中形形色色的海量设备所需要的AI算力、感知交互能力、实时交互能力以及训练数据隐私等需求所匹配,提供设备边缘侧的立体化支持。

另一方面,经过长期发展的通用化芯片领域如CPU等成为巨头盘踞的地方,Intel、NVIDIA都有很完整的产品矩阵。而现在AI芯片,尤其是ASIC现在竞争还不是很充分,而且其应更加适配边缘端的特性也连接了一个万亿级的IoT市场,也是国内小巨头入场的机会。“端侧AI现在还有很多机会,是个蓝海,更适合创业者去折腾”,张楠赓在一次采访时如此说道,这也代表了国内AI领域这些年轻创业者们对于大技术趋势的判断。

IC开发聚焦上云,AI芯片研发的最大机会则在云计算

其实在AI芯片的开发和制造过程中,其硬件成本比较明确(受制于原料供应、工艺水平、供需关系等决定)一定时期内也比较固定。而经典 IC 开发环境中,IC 、 IT 团队都面临着EDA 峰值性能需求难以满足;数据迁移耗时费力;多项目并行发生资源抢夺;长达数周的EDA进程被停电等外力中断;异地办公图像卡顿;数据安全等一系列问题挑战。

来源:《全球及中国芯片产业发展解析——前瞻产业研究院》

与此同时,国内AI产业的蓬勃发展带来一个全民IC(半导体芯片)时代。除传统IC企业外,互联网企业也加入的入场则带来了如云这样的新生产工具,给了灵活算力部署以可能,以应对IC开发过程中的EDA过高等问题,将成为未来降低IC开发成本,突破8:20定价法的机会所在。

对此,嘉楠科技技术副总裁吴敬杰在前不久举行的AWS技术峰会上,以解决CPU密集峰值需求场景为例,介绍嘉楠科技利用AWS助力IC开发的过程:通过Jenkins 对接AWS API, 嘉楠科技在有新代码提交时启用AWS Spot Instance, 在余量不足时启用On demand的EC2 Instance,降低自采设备造成的大量闲置运维成本,并能在第一时间满足CPU密集峰值需求。同时,AWS提供的远程虚拟桌面解决方案,实现从云到客户端加密和云上桌面+云下一并管理。云也大幅简化嘉楠的资源使用分析操作,提升了分析操作的准确度。

AWS灵活的SDN网络,使嘉楠在几分钟内在云上构建符合需求网络成为可能,从而得以投入更多精力优化业务本身。目前嘉楠科技的网络架构,如果用传统方式搭建需要2个月,但用云的方案搭建仅仅用了两周时间。

得益于和AWS的合作,能够快速部署IC开发的高效率大大解放了嘉楠的数字生产力。嘉楠在2018年全球首发量产7nm投片,并成功推出RISC-V AI芯片勘智K210。目前已经在智能农业、人脸识别门锁、无感门禁、智能水表等场景落地。

在分享会的最后,吴敬杰总结了6点云端进行IC开发的优势:大幅弥补经典 IC开发环境的不足;满足深工艺对设计资源的需求;云计算成本通过优化可与传统方案持平,但能够获得更丰富的计算资源;高性能云计算服务可助力端侧 AI 芯片设计和应用;云端安全性被充分考量;Silicon Proven(硅验证)是IC业对工具价值的最终评定标准。

诚如吴敬杰所讲,云端进行IC开发有诸多优势,IC开发上云也是“云+AI”的某种体现。但面对AI领域甚至是泛科技领域的大中小公司争相入局,聚焦广阔IoT的边缘端的AI芯片场景下沉则是新的机会所在。“上云”和“下沉”,对于AI芯片来说,这两者并不冲突。

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2019-08-08
嘉楠科技的AI芯片“上下”之道:IC开发上云,应用场景下沉
作为AI架构的核心部件,伴随算法的迭代,AI芯片也经历了从CPU、GPU、FPGA、到现在主流ASIC芯片的发展过程,其通用性和延展性逐渐收缩,更加聚焦于产业互联网时代“网连万物”(即通常所说的AIo

长按扫码 阅读全文