近日，昇思MindSpore支撑华为OCR云服务正式通过独立机构的AI C4审计认证，安全目标100%达成。这标志着昇思MindSpore的安全能力达到了业界领先水平，能够满足业界最高水平的AI云服务审计要求。此前，在德国，华为基于业务用例的试点项目向德国联邦信息安全办公室(BSI) 提供建议，支持其发布了AI云服务合规标准目录(AI C4)，这是业界首个面向AI云服务的安全标准。
伴随着人工智能不断发展，在极大提升人们生产生活品质的同时，AI具有的技术特性如通用目的性、算法黑箱性以及数据依赖性等，在社会、企业、个人等维度引发了不小的风险与挑战，仅凭C5标准还不足以完全应对。为此，德国联邦信息安全局制定了一项特定于AI云服务的审计标准AI C4（AI Cloud Service Compliance Criteria Catalogue）——该标准设定了安全的基线水平，可通过独立审计机构对于AI云服务在其生命周期内的安全性进行可靠评估。
OCR服务是利用光学设备对图像进行捕获并完成文字识别的过程，可兼顾达成人力节约与效率提升的双目标。但痛点就在于，当攻击者对待识别的文字做出肉眼不易察觉的修改时，将会导致实施算法的模型无法对该修改做出正确的识别或处理，造成OCR服务对文字的识别准确率下降，但使用人员却很难看到这问题背后的真因。
昇思MindSpore从开源AI框架的角度出发，围绕AI全生命周期，构建出以下重点技术能力：
①模型安全
通过鲁棒性评测、对抗测评、对抗训练、模型加密等，实现模型保护；
②隐私保护
构建了隐私评估、差分隐私训练、联邦学习等技术，保障数据隐私；
③可解释性
通过原创语义级可解释技术、可解释方法工具集等，提高模型的可解释性，增强用户理解度，让用户更信任并有效地使用模型。
本次认证中，华为技术团队使用了昇思MindSpore模型安全评测工具MindSpore Armour对OCR服务进行安全性测评。从中发现，目前大多数OCR服务的算法模型均存在识别自然扰动和防御样本对抗能力差的问题，如文本框检测模型在校验噪声、PGD、PSO（粒子群）等攻击算法下的准确率小于66%。华为技术团队针对这些问题对模型开发进行指导，通过对抗样本检测、数据增强训练等技术，使模型对恶意样本的识别准确率达到 95+%，提高了模型及OCR服务的鲁棒性，达成了AI C4标准对AI云服务安全和鲁棒性的要求。
除助力华为OCR云服务通过AI C4认证外，昇思MindSpore率先出击，携手法荷多方权威评估和认证机构，在2021年完成了AI框架领域的认证标准制定，并于今年4月获得荷兰NSCIB颁发的CC EAL2+认证证书，填补了AI框架领域在安全标准上的空白，成为全球首个获得CC认证的AI框架，实现从0到1的突破。
此外，昇思MindSpore经过云计算开源产业联盟（OSCAR）评估，荣获全国首批《可信开源社区评估体系》认证。
在智能时代的浪潮中，昇思MindSpore致力于实现可信AI的最高要求，从安全技术和安全治理上不断提升AI安全水平。未来，昇思MindSpore仍将持续创新，与行业客户共同应对人工智能领域安全的风险与挑战，为客户提供更安全更可信的应用及服务。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
