如何从5W模式入手,助力内容审核

一、5W模式与内容审核

1948年,拉斯韦尔提出了传播过程及其五个基本构成要素,即:

  1. Who:谁——内容的生产者;
  2. What:内容——生产者说了什么;
  3. Which-In Which Channel:渠道——内容通过什么渠道传播;
  4. Whom-To Whom:受众——谁接受到了内容;
  5. With-With What Effect:效果——内容传播后取得了什么效果。

所有的传播行为都可以围绕这5个要素展开。

所谓内容审核,也不仅仅是对内容本身进行识别,尤其是在目前机器识别无法达到100%的准确、内容数量本身及其庞大的情况下,通过对各个传播要素的“监控”,也是完善机器审核的数据维度、提升审核效率的有效途径。

5W要素应用到内容审核中,分别与以下角色环节相对应:

  1. Who:生产者是否靠谱?是否是一个“可信”的人?他发布不合规信息的可能性有多大?
  2. What:内容本身是否是合规的?
  3. Which:渠道想要做好“把关人”的角色,应该如何开展内容审核 ?
  4. Whom:受众本身有无异常?受众的行为是否合规(如发布不良评论)?
  5. With What Effect:传播的情况是否正常?

内容审核目前都是通过机器+人工的方式进行,审核的机制既可以是先发后审也可以是先审后发。

如何选择这些方式和机制、在提升审核效率的同时最大程度地保障内容安全、同时又不影响用户体验,维护三者的平衡,可以围绕上述各要素来进行规划设计。

二、五要素在内容审核中的应用

产品经理,产品经理网站

1. Who:对内容的生产者的风险评分和标签体系

1)建立对于内容生产者的风险评分

从内容生产者发布第一条内容开始,就对他展开内容识别,基于静态的注册信息、此前的行为信息建立初步的风险情况后,根据其后续发布内容的情况动态实时调整,同时建立黑名单制度。

如:一个内容生产者,此前浏览的内容都是财经、商务类型的,而且绑定了银行卡,则前期的静态评分可以认为他是一个低风险用户。

后续其发布的内容在一段时间内多次触发人工审核机制,则可以提高他的风险等级;随后他发布的内容被用户举报且人工审核确实违反了规则,则可以视情况将其纳入黑名单,限制之后的内容发布行为。

2)建立对于内容生产者的标签体系

针对内容发布者进行画像,可以实现对异常行为的监控。

标签体系可以包括用户的性别、年龄段、常用地理位置、常用设备、发布的内容类型等信息。一旦某些信息发生变化,则需要对其内容进行重点监控,防止异常行为,如用户被盗号后此账户被用来发布不合规内容。

此外也可以设置优秀内容生产者等标签,对此类用户发布的内容免审核或可以先发后审。

2. What:对内容的识别规则和手段

建立内容审核的规则,审核的规则大体上来说源于监管的要求和业务的政策。

1)监管的要求

内容不能涉及黄赌毒暴政恐,《网络信息内容生态治理规定》、《网络短视频内容审核标准细则》等也对内容审核提出了详细的要求。

2)业务的政策

为营造社区的良好氛围,保证用户体验,内容不能涉及侵权、谩骂、隐私、低俗、垃圾内容等;为保障平台的正常运营和利益,不能违规发布广告、添加链接等;为社区用户安全考虑,内容不能涉及导流、诈骗等。

3)丰富审核的技术手段

充分利用人工智能等技术手段,实现对文本、图片、声音、视频的自动识别,不断提高机器的召回率和准确率。

4)搭建机器审核和人工审核的流转机制

包括内容在何种情况下触发审核、何种情况下触发人工审核,人工审核是否需要复核等,完善的流程设置对效率的提升大有助益。

3. Which:助力审核人员扮演好“把关人”的角色

1)设置有效的任务分配机制

提升分发效率和审核效率,保证需审核视频100%分发,且在最短时间内到达审核人员,同时按照一定的规则给审核人员分配需要审核的视频。

按照触发人工审核的原因来分发,可以使审核人员积累在某一领域的审核经验,提升审核效率。

2)为审核人员提供配套的功能

“工欲善其事必先利其器”,提供审核的辅助功能,助力人工审核提速。

如针对文本的审核对敏感词高亮显示,针对音视频的审核标注关键帧、设置倍速浏览功能,审核的信息通过信息流的方式自动呈现,减少操作点击环节。

4. Whom:通过受众识别违规内容的“蛛丝马迹”

1)为受众提供举报功能

一方面可以节约审核资源,另一方面也是对机器和人工审核错误率的一种弥补。

2)建立受众的标签体系

和针对传播者的标签体系一样,对用户的画像除了用于针对用户的内容推荐外,也可以是对内容质量反馈的一个维度。

例如:同一个内容被大量不同标签的用户关注,可能内容本身存在了诱导行为,就需要人工审核予以确认。

3)进行受众聚集情况分析

针对受众的集中情况进行分析,是否过于聚集。

不过此方式多用于直播中刷量行为等的监控,在内容审核中,可以辅助判断内容是否存在诱导、违规广告营销等。

5. With What Effect:通过传播的效果发现内容的异常

1)通过观看、点赞、转发、评论数等的监控发现异常行为

传播范围广泛的内容中若存在风险,造成的后果更为严重,因此要对观看、点赞、转发、评论量比较大的内容特别关注。

另外:这些指标的异常也是一个值得关注的风险点,此前点赞数一直不过百的用户新发布的内容突然点赞过万,可能需要对内容进行人工审核。

2)对评论进行内容识别

评论同样是内容审核需要关注的部分,对评论内容的识别。

一方面是监控评论是否有违规行为,另一方面通过关注评论内容中是否存在对内容本身的举报等,来进行内容审核。

三、小结

从5W模式入手建立内容审核的体系,是基于传播要素的完整模式。

内容审核的重点还是在对内容本身的识别方面,从提升机器审核的召回率和准确率,到提升人工审核的效率,再到搭建完整的流转机制,从其他要素着手也主要是为优化这三个环节来服务。

当机器能够实现对违规内容的100%精准识别,甚至具备了自我学习的本领,能够自己去拓展发现审核的“要义”,或许其他环节也就不那么必要了。

 

本文作者 @小小晶

版权声明

本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处。如若内容有涉嫌抄袭侵权/违法违规/事实不符,请点击 举报 进行投诉反馈!

相关文章

立即
投稿

微信公众账号

微信扫一扫加关注

返回
顶部