UGC信息审核——如何降低审核延时

18 年毕业，从毕业至今一直从事产品工作，工作的一部分一直和风控相关，只是不全是风控，以及不同时间段工作重点不同，做过包括直播风控、登录注册风控、审核体系搭建、生态治理、内容治理、内容安全、反作弊、风控中台等工作。

想结合着自己做过的、用过的、见过的、搜集资料研究过的总结成经验，在不泄露公司机密的前提下，尽量详细的写成系列文章。不只是复盘概念和框架，可能会是些具体的策略和直接可用的经验。

一方面作为自己总结经验，以后更熟悉的运用。另一方面可以为行业做一些贡献，毕竟，风控行业容易涉及公司机密、逻辑太隐藏，比较难能从公开资料学习到直接可用的经验。

打算先围绕曾经的 OKR 展开，即我做过的事项展开来写，先以各个小点切入，然后再放入整个风控框架中去，最终会形成下图的框架（未完全按风控架构的逻辑梳理）。

今天先聊一个问题，降低审核延时。

一、审核

非相关专业的人不一定很清楚，对于一个成熟产品，我们在网上创建的任何 UGC 信息都会被审核，包括头像昵称、签名，微信发布音频/视频/文件/图片/文本，微博、小红书发布动态，B 站发布视频等都无一例外。

只是由于机审/人审、先发后审/先审后发、隐性处罚/降低分发等导致我们不知道自己被审核了。

二、目标：审核速度满意度

我们团队有一个体验型的指标，审核速度满意度，即用户对所发布内容被审核时间长短的满意度，这个指标会影响生产者生产体验，进而影响他们留存。

一些人拿到这个指标可能就开始着手思考怎么降低审核延时了，但这是一个主观性的指标，最主要的是让用户感觉很快，而不只是在绝对值上做到真的很快。

三、用户不感觉到慢（感官）

我们产品原来在用户发布的内容上有一个状态，用户能看到自己的内容处于「审核中」，所以会觉得慢。权衡利弊后，将审核状态去掉，让用户对审核无感知。

注：不一定所有都适合去掉，得根据自己业务决定，例如我前司，是设计师上传自己的作品，然后被审核，这个就不适合去掉审核状态。

四、缩短审核延时（绝对值）

在去掉审核状态后，开始缩短审核延时绝对值，但也并不一定是需要针对所有用户统一缩短。

1. 降低部分用户延时

可以优先降低有被快速被审核需求的人的延时。

我们产品虽然不直接展示审核状态，但未经审核的内容依然不支持分享，用户在分享时依然会提示，当前作品正在审核中。所以可知，无分享需求的人对审核是无感知的，需要分享的人才知道审核的存在。

注：此为考虑安全原因，若未经审核的内容被分享出去，依然可能出现安全问题。

例如某红书就存在这个风险点，不管发布的任何东西，发布成功即可立即分享（未过机审，且和账号无关，我用新注册的账号发布确定违规的文本+违规图片测试过），可查看小图、部分文本，此时存在风险的内容已经被传播出去（读者朋友可以自行测试，但温馨提示，红线类内容不可随意乱试）。

但不知道他们是否是为了便于用户分享，是在考虑了风险和收益后，接受这种低概率风险存在的。下图内容还处于审核中，但可分享至微信，依然可看到部分文字和图片。

所以，我们可以针对不同渠道来源、不同等级、不同信用分、不同标签等调整审核优先级。

例如，有分享需求的用户，高优先级审核（具体判断有分享需求的用户，可根据自己产品来判断，这涉及具体逻辑，不适合展开写了）。

例如，无延时需求的内容，低优先级审核，如运营账号发布的内容（即使是公司内部员工，不同人对风险的把控、专业度也是不一样的，即使是运营人员发布，也有可能会触及风险点，也需要被审核）。

2. 降低全体用户延时

对于我们，延时长和短，只是相差了大约 10min。对平台分发几乎无影响，对用户消费几乎无影响，对审核无感知的用户也无影响。所以解决其他全体用户的延时已经相对没那么重要了，这里可简单提下我们用过的一些策略，对于其他产品可能有帮助。

1）基于数据分析发现当前延时的主要原因

——例如出现生产波峰，导致审核出现积压，则可调整人力安排。

——例如审核人员在审核列表上看了上百条后，才操作一次通过，导致大量内容已经被审核人员判断为通过，只是还未在界面上操作，导致内容一直处于审核中，则结合审核效率和审核延时综合考虑，将页面展示内容缩小到一定值。

——例如细化机审策略、优化机审的算法模型，提升召回率、准确率，进而提升机审直接处理率，减少推到人审量级。

——例如待审列表中还包含用户已删除内容，则将已删除内容从待审列表中踢出（用户发布成功立马删除，所以也不必要再审核）。

2）设置兜底策略

当延时≥一定值之后，则由先审后发流程，变为机审风险较小但又推到人审的改为先发后审流程。避免一些系统或人为原因，影响线上用户。

注：这需先评估对于你们平台先发后审的风险是否可接受。

3）设置对相关指标的监控

当延时≥一定值的待审量也≥一定值之后，可预警，邮件/短信或其他方式通知到审核管理，排查是否哪里出了问题。

五、对满意度提升效果

上面的这些策略大致从前到后，带来的满意度提升效果也是从强到弱。

还有很多细节、策略，以及如何思考的想详细写，但容易违反公司机密，还是不展开写了。

最后，大家有啥关心的话题可在评论中提出，对于我知道的，且不泄露公司机密的前提下，尽量托盘而出。

本文作者 @Aaron

版权声明

本文来自互联网用户投稿，文章观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处。如若内容有涉嫌抄袭侵权/违法违规/事实不符，请点击 举报 进行投诉反馈！