游戏行业的风控，该怎么做？

柠檬饼干净又卫生 2023-10-25 11:16:21

之前，我曾经撰写了一篇名为《浅谈风控系统的建设》的文章，其中介绍了风控系统的核心模块。然而，不同行业的风控系统在具体内容上会结合各自行业的特征进行调整。作为游戏行业的中台产品，我将结合游戏行业的特点，详细探讨在游戏行业中的风险以及相关的系统建设。

一、游戏行业的风险

在游戏行业中，业务领域不仅仅局限于游戏本身，还包括一系列衍生的外部功能，例如官网、官方活动、客服系统、用户中心、官方商城和官方社区等。游戏本身以及外部功能这些地方所带来的风险可以分为：内容风险、行为风险、账号风险等。

1. 内容风险

游戏行业中的内容风险指的是来自各方（如用户、黑产、竞品、内部）发表的对游戏具有危害性的内容，其中包括违反法律规定的内容、涉及黑灰产业的内容、不良竞争广告以及影响用户体验的内容，这些内容对业务效果产生负面影响。

如果按内容类型分类，可分为文本、语音、图片、视频等内容类型。

1）文本

文本风险内容通常出现在游戏内，如聊天频道内容、玩家名称、玩家签名、公会等。

如图所示，游戏内的聊天频道的辱骂内容属于“用户体验影响”类风险内容。

图片来源于百度搜索

如图所示，游戏内的聊天频道的广告内容属于黑灰产业”类的广告内容。

图片来源于百度搜索

同时，风险也会出现在游戏外的社区帖子、官网的文章投稿、官方商城的商品信息等位置。

2）语音

语音风险内容主要存在于游戏内的频道语音消息和语音实时通话中。特别是在竞技类游戏中，玩家需要进行实时沟通和交流。例如像《王者荣耀》这样的MOBA游戏和《Apex Legends》这样的射击游戏，有效的沟通往往可以提高游戏的胜率。

图片来源于百度搜索

然而，在语音频道中也可能出现一些违法违规的内容，例如讨论违法行为的“法律禁止类”内容，以及玩家之间互相辱骂的“用户体验影响”类风险内容。

3）图片

在游戏行业中，图片风险内容通常出现在玩家头像、公会头像、聊天频道等游戏内场景，或者在玩家社区、官方投稿活动等游戏外场景中。如下图所示，游戏中很容易出现低俗的头像图片，这些图片属于违反法律规定的禁止类违规内容。

图片来源于百度搜索

4）视频

视频风险内容一般出现在社区的官方投稿活动中。这类内容比较少见，因为视频内容有较大的审核成本。

此外，游戏行业内的内容风险可以按照内容时效要求进行分类，主要分为以下两类：

① 实时内容：某些内容如果不能在玩家发表后实时公布，将对玩家的游戏体验产生较大的负面影响。例如，在游戏内的聊天频道和语音通话中，玩家发表的内容通常需要与其他玩家进行互动。如果这类内容不能实时传达，将对玩家的互动体验造成灾难性的影响。

此外，对于存在合作策略玩法（如副本和团战）的游戏而言，如果玩家无法实时沟通，游戏的核心内容体验将无从谈起，甚至可能导致玩家直接流失。

图片来源于百度搜索，FF14的团本玩法

② 延迟内容：延迟内容则对实时性要求较低，主要用于展示性质的内容。例如，在游戏内的社区帖子、玩家自定义的角色名称/头像、公会定义的名称/头像等方面，这些内容的延迟发布并不会对玩家的核心体验产生影响。

2. 行为风险

游戏行业中的行为风险指的是来自各方（如用户、黑产、竞品、内部）对产品采取的具有潜在风险的行为，其中包括黑灰产业、脚本外挂、竞争对手的竞争行为、内部风险以及对业务产生影响等方面。

如果按来源分类，可分为：

1）玩家行为风险

玩家行为风险指玩家产生的对游戏本身产生影响风险，包括但不限于：

① 脚本

玩家利用脚本进行机器操作，代替人工进行游戏，这种行为通常在“数值养成游戏”和“竞技类游戏”中出现。

数值养成游戏的脚本：

在“数值养成游戏”中，玩家通过参与游戏内的活动/任务/玩法来获取资源。游戏厂商通过这个过程来引导用户留存和付费。然而，由于游戏内容设计成本的考虑，玩家往往需要重复参与相同的活动/任务/玩法，以最大化游戏内容的收益。

然而，这种重复性的活动/任务/玩法使得玩家可以利用脚本自动参与，从而导致游戏内出现了不公平的竞争环境。不使用脚本的玩家处于劣势，严重影响了他们的游戏体验。

特别是在资源有限的游戏中，比如某件稀有装备只有一件，限时以极低概率投放，那些使用脚本进行24小时打怪的玩家获取该装备的概率非常高，而正常玩家根本无法与之竞争，这严重影响了正常玩家的游戏体验。

图片来源于百度，某MMO的自动打怪脚本

此外，脚本的滥用也会加速游戏内容的消耗，缩短游戏的生命周期，导致用户流失。例如，游戏在某个版本中提供了一个供玩家游玩一个月的内容，然后在一个月内推出下一个版本以继续吸引玩家。然而，由于脚本的泛滥，原本一个月的内容被脚本玩家在一周内消耗完，剩下的三周变成了“长草期”，导致玩家自然流失严重。

竞技类游戏的脚本：

竞技类游戏旨在让玩家在人类反应速度的极限范围内展开技术比拼，而人类的反应速度极限约为100毫秒。为了磨练自身技术，玩家需要进行大量的练习。然而，如果使用脚本，玩家可以毫不费力地达到反应速度的极限，而无需任何实际练习。

在过去的射击游戏中，玩家需要通过练习来掌握索敌、定位和射击等技巧。然而，如今一旦使用脚本，机器可以实时进行图像识别，立即锁定目标，脚本还能控制鼠标瞄准并开火，玩家无需亲自操作即可完成精准击杀。

图片选自CSDN作者前端仙人一文《AI算法实现CSGO自动锁头辅助脚本》

对于那些经过长时间练习的玩家来说，面对使用脚本的对手，他们会感到极度挫败，进而选择流失。

② 外挂

玩家利用外挂进行非法操作，以作弊手段获取游戏内的优势。相比于脚本，外挂是通过使用封包和抓包工具来提交伪造参数，从而改变游戏中玩家的能力。脚本玩家可能仅仅在人类反应速度极限的范围内进行游戏，而外挂玩家则直接获得了巨大的优势。在脚本玩家还在锁定目标之前，外挂玩家已经修改了自己的血量为无敌，并使用了游戏中不存在的武器。

图片来源于百度搜索，CF的外挂玩家直接飞上了天

外挂对游戏厂商的代码具有攻击性，其带来的公平性损害更加严重，是一种需要大力打击的违规行为。

③ 卡BUG

卡BUG，即利用游戏漏洞进行获益，最常见的有卡BUG类型有“利用BUG刷资源”和“利用BUG不公平竞争”。

利用BUG刷资源：

由于游戏厂商在设计过程中存在一些失误，可能会导致一些BUG的存在，从而使玩家非法获取游戏道具或货币。一些玩家会故意利用这些BUG来大量获取高价值的道具，这会导致游戏的生态系统崩溃，并给游戏厂商带来严重的损失。然而，解决这些问题需要考虑到一些对用户体验影响巨大的方案，如回档或扣除道具，这可能会导致大量用户流失。

图片来源于百度搜索

利用BUG不公平竞争：

在游戏中存在一些BUG，这些BUG可能让玩家在竞争中获得不公平的优势。例如，在射击游戏中，玩家可以利用地图模型的漏洞，使自己的角色进入地图之外的区域（里世界），从而对其他玩家造成不利影响。

图片来源于百度搜索

④ 超承载量行为

这类风险涉及游戏本身的服务承载能力的问题，是厂商自身导致的，不属于玩家故意为之的风险。

当玩家访问量超过原本的承载能力时，游戏功能可能受到影响，出现卡顿、掉线、登录失败等问题，对玩家的游戏体验造成严重影响。

图片来源于百度搜索，为山海镜花的开服炸服公告

2）黑产行为风险

黑产行为风险，即黑产通过脚本、外挂等手段批量从游戏中谋取利益的行为，这些行为包括但不限于：

① 脚本刷注册

黑产利用脚本和外挂工具大规模获取游戏账号，这些账号可以被用于进行其他非法活动（发广告或下文提到的行为风险），或者被出售给下游的黑产工作室。

这种行为不仅会干扰游戏的正常开服进程，还会对数据分析工作造成影响。一个游戏服务器的真实玩家数量通常由游戏内资源的投放和竞争强度所决定，而不同类型的游戏对于最佳服务器玩家数量的要求也不尽相同。如果黑产的刷量行为影响了服务器内真实玩家的数量，这将直接影响游戏厂商的收益。

② 刷初始号

黑产利用脚本编写，使得机器能够自动完成游戏中的新手教程和简单的玩法/任务。

有些游戏会在前期能获得价值较高的角色/装备，比如有抽卡功能的游戏。黑产通过利用脚本和外挂工具，注册大量游戏角色，并使这些角色完成游戏内的任务，提升至一定等级，从而能够进行多次抽奖。通过反复刷取大量账号，黑产有可能获得具有较高价值的初始账号。这些账号可以在账号交易平台上以高价出售，而黑产的成本仅包括设备、电费、人工和个人信息等，带来的利润可谓是“暴利”。

图片来源于百度搜索

③ 刷活动奖励

在某些情况下，游戏内的活动会设置丰厚的奖励，可能是稀有的道具，也可能是实体奖励。黑产通过使用脚本行为来与正常玩家竞争这些奖励，随后将这些奖励变现。此外，如果游戏内存在漏洞或BUG，黑产也会利用这些漏洞进行大规模地牟利。

④ 代练代肝

前文提到，有些玩家会用脚本代替自己在游戏内“打工”或“搬砖”。而一些黑产从业者也会提供代练和代肝等服务，进一步加速了游戏生命周期的过早透支。

图片来源于百度搜索

⑤ 代充值

一些黑产组织提供代充值服务，以帮助玩家以低价充值获取高价值的游戏礼包，例如以100块钱充值获得价值648元的礼包。这些黑产组织通过利用平台的退款机制、礼品卡、汇率差异和代金券等方式来实现盈利。

利用退款机制的代充值行为会导致厂商未真正收到资金，但却提供了等额的游戏服务，从而导致游戏厂商遭受损失。而利用礼品卡和代金券的代充可能涉及黑产通过脚本刷量或非法渠道获取的非法卡密，进而导致玩家的账号受到平台惩罚的风险。

总体而言，代充值方案降低了游戏厂商的收益，同时由于存在各种黑色风险，对玩家自身也造成了损失和影响。

图片来源于百度搜索

⑥ 恶意攻击

黑产有时会直接对游戏本身进行攻击，从而对游戏的运营造成严重影响，并以此威胁企业支付赎金才停止攻击。举个例子，曾经有一款名为《濡沫江湖》的游戏，在上线初期遭受黑客的DDoS攻击，导致公司的服务器瘫痪。黑客通过邮件直接向游戏厂商勒索，迫使厂商不得不购买第三方防护技术，花费了整整一年90万的费用才成功抵御住这次攻击。

图片来源于百度搜索

⑦ 针对性拉人

一些黑产组织会定位并接触核心玩家，向他们发送针对性的内容，以吸引这些玩家流失到他们的游戏中。尽管这种行为属于内容风险的范畴，但有些内容很难被准确识别。例如，为了赢得核心玩家的好感，黑产会采取长期策略，开始时聊一些无关紧要的话题，逐渐建立关系，然后再提及其他游戏，例如：“这个游戏不好玩，来玩XXX吧”。在这种情况下，依靠内容风险的拦截可能已经为时已晚。

因此，针对这类风险，更应从行为风险的角度进行防控，识别那些频繁与核心玩家联系的黑产账号。

3）竞品行为风险

竞品行为风险是指游戏行业中友商进行的非正当竞争行为。其中最常见的一种是爬虫抓取数据等行为。友商利用脚本技术获取厂商的游戏区服、用户信息和社区内容，这些行为构成了不正当竞争，给厂商带来了损失。

4）内部行为风险

内部行为风险是指游戏行业中内部成员所产生的风险，例如借用内部账号、贩卖内部账号以及向正常玩家出售游戏资源等行为，这些行为给厂商带来了损失。

3. 账号风险

账号风险涉及游戏行业中用户账号安全的相关问题，主要源自黑产对用户账号以及用户之间的攻击。当用户的账号信息、密码等被泄露或窃取时，可能导致账号被他人盗取，进而对原账号主的利益造成损害。举例来说，盗号者可能利用原账号主的账号发布违规内容，进行违法犯罪行为，或者直接出售盗取的账号。

二、游戏行业风险特征

根据之前文章《浅谈风控系统的建设》的总结，业务风险都统一有以下特征：

无穷无尽：风险无法根除，利益驱动下黑产层出不穷。
高强对抗：风险防控是一场持续不断的技术对抗，双方技术能力螺旋上升。
高本低效：风控的成本高，但性价比低，并不能直接带来收益。
人力兜底：在当前阶段，基于AI防控规则的召回率与准确率很难达到平衡，因此仍然需要一定程度的人力兜底。

而游戏行业的风险在这些特点的基础上，还具有以下特征：

1）实时性要求高

游戏行业相关的风险防控都大多对实时性要求较高。

游戏内的实时内容，如文字和语音聊天，占据了很大比例。为了确保良好的玩家体验，这些内容需要能够及时发表，以避免对玩家造成不良影响。此外，行为风险的防控也是游戏行业中一项对实时性要求较高的任务。如果无法及时阻止玩家或黑产的违规行为，将会对游戏产生较大的负面影响。

2）风险对抗强度极高

在游戏行业中，存在着多种获利途径，如刷账号、刷广告、代充和卖外挂等。这些获利机会吸引了黑产，使其在游戏行业中获得了较大的空间。黑产不断升级其技术，挑战游戏厂商的反黑产能力。由于黑产具有专业化、职业化和利益链复杂的特点，游戏厂商往往难以全面防控这些黑产风险。

例如，外挂作为游戏中一种无法彻底禁止的现象，几乎伴随着每款游戏的出现。为了应对外挂问题，有的游戏厂商不仅需要提升自身的风控技术，还需要借助法律手段。以《永劫无间》二周年发布会为例，该游戏曾公开展示了与外挂制作团队斗智斗勇的成果，成功端掉了上百个外挂制作窝点，并抓获了超过40名犯罪嫌疑人。

图片来源于百度搜索

3）标准化难度高

在游戏行业中，建立一套标准化的风险防控体系并不容易，与其他行业相比，游戏行业面临着以下挑战：

① 游戏类型的多样性：游戏可以被划分为多个类型，如RPG、ACT、AVG、AAG、SLG、SRPG、RTS、FTG等，而且这些类型可以相互组合形成新的类别。随着游戏行业的发展，还会不断涌现新的类型。不同类型的游戏强调的方面也不同，例如一些强调团队协作的游戏（如MOBA和FPS）需要提供实时的语音和文字聊天功能，这要求风险防控系统能够实时应对风险。

而一些强调社交的游戏（如RPG）则需要对自定义装扮进行审查，以避免出现风险内容。例如，《动物森友会》这款游戏具有高度的自定义能力，但这也使得一些团体可以自由发布涉及政治和黄色内容等违规内容。在国内运营的情况下，这将对游戏的运营产生影响。

② 游戏功能的差异性：即使是同一类型的游戏，具体的功能也会有所不同。例如，一些RPG可能强调开放世界探索玩法，而另一些RPG则可能强调关卡副本式战斗。对于不同玩法的游戏，黑产的行为规则也会有所差异，因此我们的黑产识别特征规则需要进行定制化设计。

③ 游戏内容的差异性：不同游戏之间存在着内容上的差异。有些游戏是军事战争题材，而有些游戏则是剑与魔法题材。在内容防控方面，一般会屏蔽与党政军相关的内容，以避免玩家发布相关违规内容。

然而，如果在军事战争题材的游戏中也限制与军队相关的内容，那么玩家发布一些正常的战斗交流内容，如“打仗”、“军队”等，也可能被内容防控规则误判，从而极大地影响玩家的游戏体验。因此，内容防控规则需要根据游戏类型进行定制化。

④ 游戏运营策略的差异性：每个游戏对于风控策略的要求都不同，这受到游戏特性、防控成本、地区政策等多方面因素的影响。有些游戏过于强调单机体验，因此外挂和脚本对游戏的影响并不大，对于这些内容的防控可以不需要投入太多精力。

有些厂商在考虑到风险内容“高本低效”且人力有限的情况下，可能会允许一定量级的中低风险内容存在，以避免过度消耗人力。如果游戏发行的地区是海外，那么相关的内容防控要求可能相对较低，可以相应调整防控的严格程度。因此，厂商需要针对不同的游戏采用不同的策略，以实现“以最小的成本达到预期的风险防控建设”。

以上提到的差异增加了风险防控的标准化难度，因此在不同游戏之间需要考虑定制化的方案：

针对不同游戏的类型、功能和内容，需要结合考虑可能存在的风险类型，并引入相应的防控技术方案。
根据不同的运营策略要求，需要定制不同的防控策略。

三、游戏行业风控功能建设

之前文章《浅谈风控系统的建设》总结过，风险防控系统的业务模块可以分为“风险预防”、“信息采集”、“风险识别”、“风险应对”四个环节，而这四个环节也同样可以套用在游戏行业的风控功能模块建设上。

1. 风险预防

游戏行业中针对内容风险、行为风险和账号风险的预防措施基本一致，主要包括用户教育、规则限制、人机校验和身份验证等方面。

1）用户教育：针对游戏内的风险，风控团队可以与运营部门合作，制定适用于游戏的风险防控规则。同时，运营团队可以在玩家可见的位置进行公示，以进行用户教育，并明确违规行为可能面临的处罚。

2）规则限制：为了应对游戏内产生的内容风险、行为风险和账号风险，游戏厂商可以制定一些限制规则，并在可能产生风险的环节进行限制。对于内容风险，可以进行发表频率限制，例如，在实时聊天频道中可以设置文本发表频率限制，如每1~2秒一次，以允许玩家进行连续聊天，但限制机器高频刷屏行为。在社区发帖中可以设置几分钟的限制，以避免无意义的灌水对社区生态的影响。

对于行为风险，可针对高风险行为的入口限制操作频率，例如，厂商可以限制一个设备在一天内只能注册2个账号，以提高黑产刷量的成本（黑产需要购买设备储备以绕过这个限制）。

对于账号风险，可以进行异地登录限制，例如，拦截账号在短时间内在不同城市之间的登录，以防止潜在的账号被盗行为。

3）人机校验/身份验证：针对被标记为高风险用户的情况，可以要求用户进行人机校验或身份验证。这样一方面可以限制机器行为，另一方面也可以增加黑产实施违规行为的成本。

2. 信息采集

游戏行业的信息采集可以分为基础数据采集、风险情报采集。

1）基础数据采集

风控系统需要提供一套完整的基础信息采集方案，用于给到各内容产生系统、各行为产生系统、各账号相关系统进行相关数据的上报，以用作风险识别和应对的依据。但是信息采集也存在一定的挑战：

① 数据采集的不全面问题

为确保风险识别和应对的效果，信息采集需要全面覆盖。然而，在实际与各系统的研发对接过程中，由于两方部门的意识不对齐，且游戏内外与内容、行为、账号风险相关的位置众多，可能导致信息漏报的情况。因此，负责风控系统的中台部门还需设计一个验收环节，让熟悉这些系统的专业人员检查信息采集系统是否覆盖全面。

② 黑产的采集欺骗

技术娴熟的黑产可能采用各种手段绕过信息采集，或伪造虚假信息进行上报，使我们难以准确识别和应对风险。因此，风险控制系统的信息采集模块需要考虑如何应对这些风险。我们需要在客户端层面拦截绕过上报或数据篡改的数据，并在服务端层面识别和过滤绕过和篡改的数据。例如，设备指纹识别技术可帮助我们识别黑产的数据篡改行为。

2）风险情报采集

除了基础信息采集，还需要采集来自各个业务线的内部风险情报，如用户举报和其他业务线的反馈。这些风险情报途径能够挖掘出一些意料之外的风险内容，以便及时应对视野盲区中的意外风险。例如，玩家之间的作弊行为往往很难通过规则识别发现新型外挂。我们需要依赖受到外挂影响的玩家反馈，以及时应对外挂，并增强对这类外挂的识别能力。

同时，我们可以采集外部的风险情报，如实时敏感热点、竞品动向、新型破解技术等，以及时补充我们的风险识别能力。

3. 风险识别

1）内容风险识别

内容风险识别通常采用敏感内容库、风险识别AI和人工审核这三种手段。根据不同的运营策略，我们将内容划分为“高风险”、“中风险”、“低风险”或“无风险”，以帮助我们决定如何处理这些内容。

对于实时性要求较高的内容（如玩家的实时聊天），我们可以采用敏感内容库和风险识别AI进行事前识别，以提前应对。为降低误判率，我们应重点关注高风险或高准确率的识别内容。

此外，可以通过人工审核的方式进行补充审核，以防遗漏。对于实时性要求较低的内容，我们可让内容经过敏感内容库、风险识别AI和人工审核三个环节的完整识别，然后再发布，以确保内容的安全性。

2）行为/账号风险识别

行为/账号风险识别通常采用风险规则库、人工审核和黑名单等手段。我们针对风险行为/账号进行特征提取，从而总结出风险识别规则、人工审核判断依据和黑名单列表等内容，并将行为/账号风险划分为“高风险”、“中风险”、“低风险”或“无风险”的等级，用于辅助判断如何应对风险。

例如，对于黑产的脚本行为，我们可以通过抓取脚本号的行为来识别其共性。假设脚本角色通常按顺序依次使用ABCD功能，并在固定的时间节点升级到1234等级，那么我们可以建立一个规则描述这些共性行为，并识别出高风险的脚本角色，用于后续的处罚。

无论是内容风险、行为风险还是账号风险的识别，我们的识别手段都可能存在漏判和误判问题。因此，在正式上线识别策略配置之前，需要安排灰度环节，以观察效果并判断是否上线。我们可以使用召回率和准确率作为指标来衡量，并辅助判断是否上线。在上线后，我们还需要根据实际的防控效果来调整识别功能，以确保召回率和准确率都在业务可接受的范围内。

例如，我们使用敏感内容库来识别游戏中新出现的广告文本，风控人员采用了正则规则的配置方式。假设这个正则表达式写得不好，可能会误杀正常玩家的聊天发言。因此，在正式拦截玩家发言之前，我们需要先观察该正则规则的准确率和召回率情况。如果误杀和漏判在可接受范围内，就可以安排上线规则。