中美贸易战的升级,凸显了作为信息科技基石的芯片的重要性,尤其是在全球人工智能快速兴起的大背景下,AI芯片被认为是打造“中国芯”的重要突破口,相关企业纷纷加快市场布局。随着各式各样的AI芯片产品进入市场,如何推出国内自主的AI芯片测评,助力市场的有序发展成为业界探索的重点。
AI测评亟需“国家队”
近年来,随着云计算、大数据、机器学习等技术发展和成熟,AI开始兴起。种类丰富的AI应用的不断落地,促使AI芯片成为市场布局和竞争的焦点。无论是数据中心、物联网等领域,还是智能手机、自动驾驶汽车等设备中的SoC都将包含AI。相关预测显示,2022年AI芯片的市场规模有望从2017年的20亿美元,增长至490亿美元,年复合增长率达90%。
由于在智能终端、自动驾驶等多个场景拥有日渐旺盛的应用需求,云端推断芯片市场快速崛起,国内外芯片厂商纷纷推出相关推断芯片产品。然而,我国AI芯片尚处于初级发展阶段,市场上相关产品的水平层次不齐,如何选择真正满足应用需要的性能强大的AI芯片,正在成为困扰很多企业的“难题”。
“在市场尚不完善的情况下,AI芯片需要一个‘公认指标’,客观、公正地评价产品的性能。”针对AI芯片市场的切实发展需要,业界专家发出了呼吁。尤其是在芯片国产化进程加速推进的背景下,AI芯片测评也迫切需要“自主”。
AIIA 发布云侧推断芯片评估方案
在日前召开的中国国际大数据产业博览会上,业界传来喜讯,作为我国人工智能产业权威组织的中国人工智能产业发展联盟(AIIA)主导的“AIIA DNN benchmark系列云侧推断评估方案V0.5”正式发布。该方案基于AIIA权威测试平台,在典型应用场景下,能够客观反映具有深度学习处理能力的处理器或加速器的性能水平。
“测评的核心目的,就是要为市场提供一个客观的标尺。” AIIA总体组组长孙明俊表示,当前,AI芯片市场发展刚刚起步,在旺盛的市场需求下,有序发展提上了议程。作为权威行业组织,AIIA致力于通过基准测试,切实反应当前市场上的AI芯片的能力,为各方企业选择真正满足需要的AI芯片提供科学、客观的参考依据,最终推动市场的健康发展。
AIIA DNN benchmark工作于2018年10月正式启动,AIIA发布AI端侧芯片基准测试评估方案V0.5版本,首轮评估结果已与今年3月披露,4月启动了第二轮评测。此次发布的“AIIA DNN benchmark系列云侧推断评估方案V0.5”,是AIIA取得的又一进展,预计下半年AIIA将依据该评估方案启动首轮评估工作。
下半年将启动首轮云侧推断评估工作
据悉,云侧推断芯片的评测对象涵盖芯片(加速卡)、一体机、云三种形态,包含两大典型场景和五类评测指标。而为了让更多企业参与到测评中来,v0.5版本测试提供了“封闭”和“开放”两种评测机制。封闭机制下的限定较多,开放机制则鼓励创新。
封闭机制由评测工作组提供典型应用场景已训练好的模型及其FP32权重,经过参评厂商所提供的量化工具进行量化,其中要求量化后的模型推断准确度大于一定阈值(例如,全精度模型推断准确度-1%);开放机制则允许量化后再训练,以及边量化边训练等方式。任务场景及数据集(训练集、验证集)公开,参评企业提供最终用于推断的模型,同样要求量化后的模型推断准确度大于一定阈值(例如,全精度模型推断准确度-1%)。
“版本迭代、不断丰富、不断完善”是AIIA DNN benchmark工作的宗旨。AIIA相关负责人表示,该项目采用开源方式,前期项目代码已经开源到Github,链接为: https://github.com/AIIABenchmark/AIIABenchmark。下一步,AIIA将顺应行业发展需要,不断持续迭代评估规范,覆盖更多的应用场景,助力行业的健康、可持续发展。
欲了解更多AIIADNN benchmark芯片测评信息,请发送邮件至:aiiabenchmark@163.com
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。