今日头条是如何反低俗的？ 首次揭秘灵犬背后的技术原理

7月30日，今日头条宣布正式推出灵犬反低俗助手(以下简称“灵犬”)3.0版本，同时支持对图片和文本的低俗低质内容检测。用户可以通过“灵犬”检测文本、图片等类型的内容健康指数，共同参与打击低俗低质内容，净化网络空间。

当天下午，一场名为“算法如何反低俗”的沟通会在字节跳动总部举办。字节跳动人工智能实验室总监王长虎进行了主题分享，首次向外界公开“灵犬”背后的技术原理。

　　图注：字节跳动人工智能实验室总监王长虎分享“灵犬”背后的技术原理

“灵犬”文本和图片识别能力的背后，离不开今日头条反低俗模型的技术支持。据了解，2012年以来，今日头条内部搭建了反色情、反低俗、反标题党、反虚假信息、反低质等数百个模型，并投入近万人专业审核团队。

当天发布的“灵犬”3.0版本重点拓展了反低俗识别类型和模型能力，现已覆盖文本识别(反色情低俗、反暴力谩骂、反标题党)和图片识别(反色情低俗、反血腥暴力)。

据了解，在文本识别领域，新版“灵犬”同时应用了“Bert”和半监督技术，训练数据集包含920万个样本，准确率提升至91%;在图片识别领域，“灵犬”采用深度学习作为解决方案，在数据、模型、计算力等方面均做了针对性优化;

王长虎介绍，“灵犬”背后的文本分类模型，已经经过了三次迭代。最新版“灵犬”同时应用了“Bert”和半监督技术，并在此基础上使用了专门的中文语料，并通过优化模型结构使得计算效率能达到实用水平。“Bert”是当前最先进的自然语言处理技术，在阅读理解、语义蕴含、问答、相关性等任务上性能大幅提升。

不同于文本识别，图片识别的技术难点主要在于三方面：非均衡、类内方差大和不可穷举，即，低俗图片占整体图片内容的比例较低，低俗图片的种类丰富、繁杂，构成低俗图片的特征千差万别。

对此，“灵犬”运用的解决方案，是深度学习。“我们分别在数据、模型、计算力等方面做了很多优化。”王长虎说。数据层面，“灵犬”已累积上千万级别的训练数据。模型层面，“灵犬”针对许多困难样本做了模型结构调优，尝试解决多尺寸、多尺度、小目标等复杂问题。计算力层面，“灵犬”利用分布式训练算法以及GPU训练集群，加速模型的训练和调试。

同时，王长虎也提到，反低俗无法单一地依靠技术去解决。低俗的定义和标准随着人群、使用场景、时代等因素变化皆会发生变化。针对低俗判断问题的复杂性和不同判断方式的局限性，王长虎提到，一方面要不断进化技术模型，一方面需要有效结合技术和人工判断两种方式。

“作为行业领先者，在内容安全上，今日头条一直用最高的标准要求自己，”王长虎说，“灵犬是一个开放的反低俗窗口，我们希望通过灵犬，接收社会各界对反低俗的意见和建议。”

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。