标题:网信办启动清朗行动,打击AI技术滥用,重塑网络空间秩序
随着科技的飞速发展,人工智能(AI)技术在各行各业的应用越来越广泛,为人们的生活带来了便利。然而,AI技术的滥用也带来了一些负面影响,如谣言、不实信息、色情内容、网络水军等问题层出不穷。为了规范AI服务和应用,促进行业健康有序发展,保障公民合法权益,网信办在全国范围内启动了为期三个月的“清朗·整治AI技术滥用”专项行动。
一、第一阶段:强化AI技术源头治理
1. 清理违规AI产品:网信办将严厉打击未履行大模型备案或登记程序、提供“一键脱衣”等违背法律、伦理功能的违规AI产品,以及克隆、编辑他人声音、人脸等生物特征信息等侵犯隐私的行为。
2. 传授、售卖违规AI产品教程和商品:网信办将严厉打击传授利用违规AI产品伪造换脸视频、换声音频等教程信息,以及售卖违规“语音合成器”“换脸工具”等商品信息的行为。
3. 训练语料管理不严:网信办将加强对训练语料的监管,禁止使用侵犯他人知识产权、隐私权等权益的信息,以及虚假、无效、不实和非法来源的内容。
4. 安全管理措施薄弱:网信办将强化安全管理措施,要求建立与业务规模相适应的内容审核、意图识别等安全机制,并定期开展安全自评估。
二、第二阶段:集中整治突出问题
1. 利用AI制作发布谣言:网信办将严厉打击无中生有、凭空捏造涉时事政治、社会民生、突发事件等各类谣言信息,或擅自妄测、恶意解读重大方针政策的行为。同时,也将打击冒充官方新闻发布会或新闻报道发布谣言信息。
2. 利用AI制作发布不实信息:网信办将集中整治生成合成不实内容,包括拼凑剪辑无关图文、视频,生成虚实混杂、半真半假的信息。同时,还将打击涉财经、教育、司法、医疗卫生等专业领域的夸大、伪科学等不实内容。
3. 利用AI制作发布色情低俗内容:网信办将严厉打击利用AI技术生成合成色情内容或他人不雅图片、视频,以及制作发布血腥暴力场景、人体扭曲变形、超现实怪物等恐怖诡谲画面的行为。
4. 利用AI假冒他人实施侵权违法行为:网信办将打击通过AI换脸、声音克隆等深度伪造技术假冒专家、企业家、明星等公众人物,以及不当使用AI“复活逝者”的行为。
5. 利用AI从事网络水军活动:网信办将打击利用AI技术“养号”、模拟真人批量注册、运营社交账号,以及利用AI内容农场或洗稿批量生成发布低质同质化文案等行为。
此次专项行动还特别关注了未成年人权益保护问题。针对诱导未成年人沉迷、在未成年人模式下存在影响未成年人身心健康的内容等行为,网信办将加强监管和处罚力度。
总的来说,网信办的这次清朗行动是对AI技术滥用的有力打击,旨在重塑网络空间秩序,营造一个健康、安全、有序的网络环境。相信在各方的共同努力下,我们一定能够取得显著的成效。
在结束之际,我们期待着网信办在未来的工作中持续发力,以更高的标准、更严的监管,推动人工智能技术的健康发展,为我们的生活带来更多的便利和福祉。
(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )