蚂蚁集团宣布基于可信AI技术的“端云协同”风控已覆盖99%的业务场景

11月23日消息，在前不久刚刚结束的2021年国际信息与通信安全会议（ICICS2021）中，蚂蚁集团机器智能部总经理、蚂蚁安全实验室学术带头人顾鸣对外宣布，“蚂蚁集团基于可信AI技术自研的、IMAGE智能风控体系中的“E”—“端云协同风控”能力已经覆盖了99%的业务场景。”

顾鸣在报告中指出， “互联网金融风控场景是天然的对抗博弈场，支付宝从未停止过与黑产及黑产背后的AI做斗争”。在内容安全、反洗钱、反欺诈等领域中，蚂蚁集团对AI模型决策过程及结果的可解释性要求、对抵御黑产攻击的鲁棒性（Robustness）要求，已经达到了空前的高度。与此同时，随着隐私保护和公平性诉求越来越成为社会发展中的主流思潮，相关领域的技术研发已经不仅仅停留在企业社会责任层面，而成为了企业发展的生命线。

为促进人工智能技术的有序、良性发展，一方面，学术界和工业界积极研发了包括“多方安全计算”在内的、多种隐私计算相关技术，以帮助人工智能实现数据的“可用而不可见”，从而实现对数据的合理、合法、合规使用。另一方面，研究者们从未放弃对人工智能“如何减少数据依赖”的研究。

顾鸣在分享中指出，“IMAGE”智能风控系统中的“E”——“端云协同风控”（Edge to Cloud），则是隐私保护中的第三视角。“端云协同风控”将需求隐私数据计算在用户智能终端（如手机）中进行计算，将不含隐私信息的决策结果输送到云端，以实现“端云协同”的风控保障。

“可信AI中的隐私保护是一个比隐私计算更大的概念，持续创新视角和解决方案，是践行隐私保护的重点。将数据放在“端”上计算，却不影响“云”提供的安全保障服务，这是对用户隐私最有效的保护。”顾鸣强调。

据悉，早在2015年，蚂蚁集团内部就已经启动了首个“端特征”的研究项目，迈出了端云协同风控研究的第一步，但研发过程面临着诸多挑战。

例如，最初在智能终端（如手机）上，机器学习技术的研发及应用并不成熟，需要技术团队打破传统的建模方式，来解决诸如“端数据表征”等技术问题。同时，由于智能终端之间的巨大差异，能在苹果手机上跑的模型，低端机却未必跑得了。蚂蚁安全实验室的技术团队就此提出了“动态千机千模”的方案，通过对模型的有效简化和适配，选择匹配用户智能终端的风控模型下载计算；2021年创新了“AI算力网络”，以实现“端”和“云”之间算力的全局化调配。

解决了计算能力的问题，还需要应对安全挑战。毕竟，风控的核心是保护用户的数据及资金安全。在端云协同的过程中，模型和信息的加密在智能终端上、决策也在智能终端上，一旦“端”被攻破，如果“云”不能及时获知，风险控制将无从谈起。

自2018端云协同风控上线以来，不仅为用户提供了基于隐私保护的安全防御能力；也帮助支付宝在大促等流量高并发期，极大地缓解了风控计算压力——计算压力分流至“端”；更为“云”上风控模型提供了更大的响应和计算空间，为进一步降低资损率，提供了可能，可谓“三赢”。

顾鸣强调，“作为制约AI技术发展的瓶颈，安全和可信性研究无疑将成为未来三十年人工智能技术的关键环节。”伴随着人工智能的广泛应用而兴起的“可信”问题，将是人工智能发展中突破瓶颈的“应用型命题”，只有坚持应用探索、充分实践，才能将技术理念真正变成科技发展的护城河。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。