内容审核风控（企业品牌安全线怎么把控）

“聪者听于无声，明者见于未形。”加强网络内容风险防控，已成为互联网行业公认的趋势。

“互联网内容风控”，如今已是整个互联网行业公认的生存之基。近年来，从中央到地方陆续发布多项针对互联网内容治理的措施，如网络音频专项整治、未成年人暑期网络环境专项整治、手机浏览器整治行动等。

在此背景下，内容型互联网企业将AI审核技术作为主要突破点，不断提升对海量UGC内容的审核精度和效能。

然而，内容风控不等于内容型企业风控。人民网信息技术有限公司内容风控负责人表示，今年将为中国进出口商品交易会（即“广交会”）提供内容安全支撑，负责3000多个展馆的直播审核工作。此前被忽视的非内容型企业风控，已成为充满机遇的全新赛道。

知名企业品牌传播内容频“翻车”，内容安全风控仍存在缺口

今年三月底，有两家企业因为品牌传播引发内容风险而登上热搜。一是卫龙辣条因包装印刷内容不妥，被指涉嫌低俗营销；二是宝洁会员中心发布的一条推文引发网友强烈不满。

短短的一周之内，连续曝出两起品牌传播相关的内容风险事件，可以看到在这个“传播即出版”的时代，不仅内容型、社交型企业产出的UGC内容形同网络出版，而且技术、制造、消费、食品等各类非内容型企业发布的所有信息也需要同等重视。内容秩序、传播秩序和商业秩序，每个环节都离不开内容安全。

而近年来内容安全事件的高发，也证明了行业中内容安全风控仍存在缺口。

守好互联网平台风控命门，非内容型企业两大风控“缺失”

从资质和内容监管，到运营和变现途径监管，“全链条”是当下监管的主要特征之一，也为企业内容安全带来更高要求。

纵观近来发生的非内容型企业风险，究其原因，主要是因为企业存在两大缺失：

第一，品牌传播专人化、专业化管理缺失；

第二，内容审核风控流程缺失。

许多企业的品牌对外宣发内容由负责其他岗位的员工兼职发布，或者虽有专人负责，但是负责人的内容专业素养不够，意识不到其中的风险。此外，有的企业只限于审核错字病句，但是在传播导向、价值取向、版面语言、宣发流程等方面处于审核空白，而问题往往就出现在这些“空白领域”，这无疑给企业带来巨大风险隐患。

国家互联网信息办公室发布的《互联网用户公众账号信息服务管理规定》中强调，公众账号生产运营者应当履行用户主体责任，建立健全内容和账号安全审核机制，加强内容导向性、真实性、合法性把关，依法依规管理运营账号，以优质信息内容吸引公众关注订阅和互动分享。

面对愈发严格的新媒体管理趋势，品牌加强日常监督与流程把控，可以在一定程度上降低网站与新媒体风险频发的风险。

传统人工审核已无法从容应对内容安全危机

随着互联网内容愈发繁杂且海量，以及市场与行业升级之后，信息传播的媒介与形态越来越多样化，传统的人工审核方式已经不能从容应对内容安全危机了。

人工审核本身有着天然缺陷，比如成本高、效率低、主观成分高、评判标准不统一等等。仅成本一项就很难，有企业曾透露，一人一天审核4万条信息，日均100万数据，光审核人力成本就要200万以上。

对企业而言，概括起来说就是成本高、技术难、效果差。甚至，因为长期与极度负面的信息打交道，对审核员工的身心都会造成损伤。并且，视频、音频等媒介形式的爆发，又给人工审核带来了新的挑战。

内容安全就是互联网平台的风控命门，为保证平台内容安全，平台方需要全面审视新时代背景下，洞悉内容安全风控的全新挑战与正确的应对之法。

跨模态智能治理，AI让内容产业变的更“轻”

近几年，基于算法技术和人工智能，互联网平台开始开发机器辅助人工审核的方式应对内容安全问题。从全球内容产业的发展来看，内容安全审核是整个互联网平台进化的重要一步。一方面，机器审核方式的加入提升了内容审核效率，另一方面也直接强化了内容分发的商业效率。

也就是说，除了内容安全问题，AI也在让内容产业变的更“轻”——轻人力、轻成本、轻流程。

跨平台、跨模态的视频搜索引擎，是探索数字世界的重要工具，有巨大的社会价值和经济价值。

“白泽”是人民网、人民中科推出的内容风控大脑，是对全网海量内容进行高通量感知、机器理解、智能检索并自主进化的计算平台。

面对数字世界的海量内容，需要新技术手段来解决非结构化数据的理解和关联。首先人工智能出现后解决了部分问题，可是传统厂家通过多模态、多模型进行内容理解，却无法应对未来海量增长的数据。

而“白泽”则选择了跨模态的技术手段，通过中小模型就解决以前需要上百个模型才能解决的问题，大幅减少算力消耗。

同时，通过智能化的理解和检索，内容风控大脑可实现对互联网内容的日常巡查、对可预判的重要事件的提前预警、对舆情热点的监测分析、对行业风险案例的解读分析等，广泛运用于新零售、传媒、互联网金融、在线教育、政府、安防、信息通信等应用场景，有效帮助各互联网主体降低内容风险，保障运营安全。

数字世界发展到今天，交互和对抗已经升级为人对机器、机器对人、机器对机器。面对海量的非结构化内容，人海战术早已无能为力，“白泽”让我们看到了一条智能治理的康庄大道。

END