内容生态如何治理？3步快速制定治理策略

晖晖 2023-08-01 12:56:10

一、内容生态治理是什么

内容生态治理一般是指对社区不良内容进行干预。

国家互联网信息办公室于2019年12月15日发布《网络信息内容生态治理规定》将“网络信息内容生态治理”定义为，政府、企业、社会、网民等主体，以培育和践行社会主义核心价值观为根本，以网络信息内容为主要治理对象，以建立健全网络综合治理体系、营造清朗的网络空间、建设良好的网络生态为目标，开展的弘扬正能量、处置违法和不良信息等相关活动。并要求网络信息内容生产者应当采取措施，防范和抵制各类不良信息，营造良好网络生态。

内容生态治理源于内容演变速度与社区管控能力存在的冲突。

如果社区内容是稳定不变的，那么只需要一套固定的管控能力，不需要长期地治理。这也就是为啥随着社区内容的丰富，各家企业开始重视生态治理、内容风控业务，大量招人的原因。

内容生态治理负责平衡内容质量与业务规模存在冲突。

社区需要优质内容和优质用户，而优质内容和优质用户是稀缺的，且很难被大众理解的。

为了迎合不那么优质的，但能给社区带来大量dua、gmv的用户，社区原本定义的优质内容也会变成不良内容，比如知乎一开始只是针对特定有影响力的作者开放，后来开始削弱大V点赞订阅不再推送给所有粉丝，某些有理有据的文章会出现“争议较大的观点”提示，比如小红书最近的“照骗”事件，博主上传精心拍摄、后期的优质内容原本是一件双赢的事，博主收获了粉丝和变现，平台也收获了用户和广告分成，但依然会有用户觉得被骗了，小红书肯定马上会对“照骗”内容进行一波生态治理。

二、具体怎么做

1. 判断内容是否要治理

生态治理有2大来源，一种是外部倒逼的，一种是内部自发的。不同的来源的紧急程度、判断方式不同。

外部倒逼的治理：指令、舆情

1）指令

指令有两种，第一种是国家部门公开发布的清查、政治指令。这类指令一般描述得较为抽象和宽泛，需要专业的政府关系部门和风控部门共同进行研判解读后，基于平台定位制定具体的执行范围和方向。

比如：6月15日，中央网信办宣布在全国范围内开展“清朗·‘饭圈’乱象整治”专项行动。豆瓣开始对违规账号、问题小组等进行删除和解散，爱奇艺对集资、打榜彻底“自查自纠”。

另一种是国家部门直接给企业下达的查杀的指令，比如互联网举报中心收到xx举报，命令平台处理，这类指令必须执行。

2）舆情

舆情一般指用户或媒体在站外对平台出现的内容进行负面评价，并达到一定传播量，如果不及时处理，可能对平台品牌形象、声誉有恶劣影响。官媒发出的负面评价，严肃程度不亚于指令。

比如：9月末，《新京报》和《央视网》等多家媒体报道了社交媒体的“佛媛”现象，一时间上了热搜。各个社区在第一时间进行了清查，抖音共处罚利用“佛媛”形象营造人设开展虚假营销行为相关帐号48个，其中永久封禁帐号7个，同时，清理违规视频148条。小红书第一时间已启动专项检查，清理违规笔记70篇，封禁账号3个。

10月，很多人假期出游后，在社交网络上吐槽小红书“滤镜景点”，一时冲上了热搜，之后小红书进行了公开道歉。

对于外部倒逼的指令、舆情，一般由企业内专业的公关部门，政府关系部门进行快速交涉和判断，给出应对措施到各个部门执行落地，进行生态治理是其中必备的措施之一。

内部自发的治理：监测到平台内容风险上升

日常观察社区整体内容风险的监控数据，以及定期对社区内容的抽样摸底，及时发现风险的变化。风险上升主要体现为：

用户负反馈上涨，某类内容被集中举报投诉或不感兴趣，有演化成外部舆情的趋势。
内容特征升级，需要在原有治理策略的基础上进行迭代，比如一开始大家喜欢在简介里导流微信，发现容易被平台和谐，后来大家发现还可以通过多个视频封面连在一起导流微信。
内容影响变大，之前只有个别人喜欢这么玩，突然很多人这么玩，比如剧本卖货一开始是头部主播在玩，大家还觉得新鲜，但后来模仿者越来越多，影响了业务指标（比如观众浏览直播的时长变低、退货率变高等），于是平台开始进行干涉。

比起外部舆情指令，这类内部监测到的风险变动，有更充足的时间来进行判断分析，所以需要进一步通过数据分析该内容的实际风险情况来做决策。一般使用以下指标：

风险衡量指标：

该内容在整个社区的浏览（vv）占比
该内容引发的举报投诉、舆情等

收益衡量指标：

该内容为平台带来的营收（广告营收、gmv营收、打赏营收）、对应作者的粉丝量等
已有风控策略的质量指标
召回率
准确率

最终得出的结论：

风险较低，或收益显著大于风险，暂时不需要治理，并保持观察
风险较高，原来不打，现在需要打，或原来打得松，现在需要严打

决定要打以后，就可以开始进行内容生态策略设计了。

2. 治理策略三步走

第1步 定义治理对象，基于用户特征、内容场景特征等，给出治理对象的具体定义和机器/人工可执行的规则。

当我们得出初步的治理方向后，落地执行的第一步就是基于社区内容现状的分析，定义及刻画治理的对象。比如要对社区“侮辱谩骂”评论进行治理，分析步骤如下：

取出社区内过去n天，可能存在侮辱谩骂内容的评论内容、用户id、评论点赞次数、评论曝光次数。
从总体n条数据中简单随机抽样，使每个可能的样本被抽中的概率相等。
对每条样本标注特征标签、有害程度。标记前，需要制定标注规则，确保判断维度一致，如果对内容比较陌生，标记时尽可能用细致的标签，标记完成后可以进行同类项合并。
汇总标注结果并得出结论。将各类标签照合理的逻辑框架整理汇总，综合影响面、风险情况确定优先级，作为接下来的策略依据。对于侮辱谩骂来说，明确对他人进行人身攻击、引战的评论风险最高，需要进行治理，而脏话口头禅类风险较低，只需要保持观察或轻度干预。

第2步 针对不同程度的内容，制定干预规则，内容对社区伤害的程度（也就是风险）决定干预规则。

有了干预规则，就可以结合平台已有的策略手段设计实现方式了。

在线策略：事前识别内容及用户，实时召回进行干预，比如对内容进行发布干预，命中某些特征直接禁发，或进行流量干预，比如调整推荐策略、对内容限制分发或删除自见，还可以对用户权限进行干预，某些喜欢发布这些内容的用户直接限流或禁止发布新内容
离线策略：事后结合历史数据进行干预，比如内容被干预n次后，升级为用户权限。

对于侮辱谩骂内容来说，明确对他人进行人身攻击、引战的评论风险最高，需要进行治理，而脏话口头禅类风险较低，只需要保持观察或轻度干预。在实际情况中，需要根据社区的生态特征穷举可能出现内容类型和特征，下表仅作为简单示例：

产品经理，产品经理网站