11月20日，2024年世界互联网大会乌镇峰会在浙江省桐乡市乌镇开幕，主题为“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”。会议期间，由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办的AI大模型攻防赛圆满落下帷幕，该赛事联合了清华大学、上海交通大学、浙江大学等高校及多家产学研组织共同发起，直面并解决大模型应用中潜藏风险，助力全球AI产业健康可持续发展。
大赛吸引了来自全球18个国家和地区的3200余名技术精英参与，参赛者来自清华大学、北京大学、交通大学、南洋理工大学等290多所国内外高校，以及字节跳动、理想汽车、腾讯、合合信息等上百家科技企业。凭借领先的AI视觉安全技术，合合信息从全球超千支参赛团队中脱颖而出，获得“AI核身－金融场景凭证篡改检测”（简称“AI核身”）赛道冠军。
合合信息获全球AI大模型攻防挑战赛“AI核身-金融场景凭证篡改检测”赛道冠军
近年来，以大模型及AIGC为代表的技术飞跃，给人们的生活带来了便利，也产生了前所未有的安全挑战。在金融、生活等领域，“眼见不为实、耳听不为实”的场景频频发生，伪造身份材料是常见的欺诈手段，给机构及个人造成了重大财产损失。
在“AI核身”赛道中，主办方以金融领域进件审核为背景，考验参赛队伍实现大模型生成内容的防伪检测的能力。金融领域进件审核业务涵盖了信用成长、用户开户、商家入驻等多个场景，用户在办理这些业务时，需提交一定的材料（即凭证）用于证明个人身份、资产收入等信息，其真实性是困扰金融场景自动化审核的一大难题。如何通过创新技术手段提高金融凭证篡改检测精度，是赛道关注的重点。
为解决金融凭证篡改“检测难”的问题，赛道提供了大规模的、贴合实际业务场景的凭证篡改数据集，作为大赛“考卷”。据合合信息技术人员介绍，图像篡改手段“花样”繁多，即便是一张小小的购物票据，也可分为复制粘贴、拼接、擦除、AIGC生成等多种造假形式。受多种伪造方法叠加、新伪造工具涌现等因素影响，篡改图像特征分布复杂，目前的图像篡改检测技术面临泛化性和鲁棒性不足的困境，解决真实业务场景的图像伪造鉴别问题是一项艰巨的挑战。
本次比赛中，合合信息基于自主研发的图像篡改检测系统，针对百万级金融场景的凭证材料，提取图像多模态信息；系统结合低维视觉特征和高阶语义异常进行综合分析，在保持极低误检率的同时，精准识别伪造区域，有效解决了不法分子利用PS、AIGC等工具制作的高度逼真凭证样本中伪造区域难以检测的技术难题。
合合信息篡改检测技术在伪造视觉图像鉴别上有着丰富的实战经验。此前，合合信息推出了图像篡改检测技术，不仅支持检测身份证、护照在内的多种卡证，营业执照，商场小票等各类票据，还能够对截图场景、PDF扫描文件进行审核，适用于金融、保险等多个场景下的文档篡改检测。
合合信息图像篡改检测技术对常见证照篡改痕迹进行定位
此次大赛中众多队伍“各显神通”，再次证明了AI产业的健康发展离不开学界和产业界的共同努力。据悉，在图像内容安全领域，由中国图象图形学学会、中国信息通信研究院、合合信息等公司和多所高校联合编制、中国互联网协会发布的《文本图像篡改检测系统技术要求》团体标准于今年9月正式发布，为企业在开发篡改检测技术时提供明确指导，建立行业联合防范机制。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
