内容审核系统设计思路

从系统的角度来说,我认为审核系统是各类系统(比如交易系统、贷款还贷系统等)中,最容易实现的系统了。因为需求明确,该做的事情也比较清晰,所以只要考虑性能和操作性、易用性的问题就可以了。当然了,这里我也有个疑问,国外有没有审核系统?这个我比较好奇。毕竟,黄赌毒这类在国内是禁止的,在国外的一些国家和地区并不是禁止。可能对于某些国家来说,黄赌毒都只是给内容打个标签,或者分类。不像国内,一经发现,立刻人道毁灭。这种问题我就不过多的讨论了。

但是这里会涉及到两个层面的事情了,就是审核系统是分为一个系统还是两个系统,如果没有政审这个审核的话,可能在一些开放的国家,内容审核系统准确的应该称之为内容系统。如下图一所显示的业务逻辑。(当然,国外的网站我还没研究,不敢保证)但是在国内,我们的政治审核很严格的,肯定是两套体系。如下图二。

国外的审核流程

国内的审核流程

今天简单的讲一下如何搭建这两套系统,从需求的层面,内容审核系统是政治审核系统。需要符合国家的相关法律法规的规定。这套系统针对的内容有好多,比如:图片审核,音视频审核,图书审核。只要做过这类工作的人都知道,这套系统都是必须的。因此,鉴黄师什么的职业都是应运而生。

内容审核系统基本上就是根据国家法律法规,外加地方网监法律法规,文化部和公安部的政策规定,进行审核的。(这里普及一个知识:法律法规是已经成文的,就是不能触犯的信息。犯了就是犯罪,必须有行政处罚的。而政策规定只能算是规矩,触犯了根据情节严重,还有中国惯有国情的关系,可以有伸缩的。)

所以这套审核体系最终的目的是区分内容的本质,可传播不可传播。这个是一个黑和白的关系。在做这套系统的时候,只要根据内容属性不同,比如图片,你可以搞个图片墙。然后提供一个审核按钮,确定审核通过不同过即可。对于文字,可能需要编辑每篇去看,看完之后,一个审核功能,标注审核通过不通过即可。

当然,这里有两个好处,现在图片可能有技术实现鉴黄了,可以调用服务商接口,基本上就可以判断当前图片是否涉黄。但是对于暴力、血腥这些,还是需要人工审核的。第二个,就是一个并发量的问题,在上传量比较大的情况下,一个审核肯定是来不及的,所以多人共同审核,在内容分发的时候,可以根据签到签退这类东西,设计一个内容分发机制。或者领任务的形式,设计一套内容分发机制。这些就基本上满足审核需求了。

接下来就是内容系统了,这里其实涉及到很专业的问题。从内容上来说,内容应该分为三种,文字,图形,语言。在文字上来说,国内图书有中图法,国外有亚马逊分类法,高斯分类等。所以设计分类的时候,可以根据这些分类方法,给文字内容进行分类。有时候,因为文字与人相关,所以一般也会打一些个性化的标签。文字一般采用分类加标签的模式进行分类。

图片,这个没有什么专门的分类,目前大家都是给打标签。而且毕竟扁平化,都是一级标签加多个标签就可以了。

语音就涉及两种了,音频和视频。不过语音一般也是采用一个层级的分类模式。遵循的原则一般都是:什么人在什么地方做了什么事情。其实这句话基本上概括出来内容的本质,就是表达什么人在什么地方做了什么事情的。这才称之为内容。在视频上,根据内容不同,可能会有大的分类。比如:电视剧,电影,综艺。每个分类的格式不同。同时,也有可能是产生垂直分类,比如:音乐,歌舞,脱口秀等。这些是根据内容的不同,产生的不同分类。但是本质上吧,语音和图片相同,没有标准的 格式,基本上就是一个分类+一个标签系统。来对于内容进行分类,之后进而进行分发。目前一点资讯、今日头条什么的,也都是这么一个套路吧。

在这里设计系统的时候,需要注意的是:分类的不同,在使用上注意用户使用的易用性。不要搞一个系统出来,满足功能了,难用 的要死。这些也是不合理的。其他方面,可能内容因为有专业不专业之分,可能也需要有分发机制。这个就比较不同了,根据资源的不同,人员配置的不同,设计一套合理的分发机制就可以了。

其实如果真的 设计的一个内容审核系统,我觉得我那两张图就差不多了。

蜗牛道长

2017-04-17

关键字:产品经理, 产品设计, 审核

版权声明

本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处。如若内容有涉嫌抄袭侵权/违法违规/事实不符,请点击 举报 进行投诉反馈!

相关文章

立即
投稿

微信公众账号

微信扫一扫加关注

返回
顶部