【产品小心机】提升社区内容审核体验的方法
文/Sosofunny
图片来源于网络
最近申请了很多自媒体号，在申请过程中遇到了很多问题，挺让人恼火。然而，我今天想说的并不是资质审核，我只是在这让人恼火的等待过程中，想到了自己做社交产品的时候，关于提高用户在内容审核过程中的体验的一些小方法。方法的确很小，但也算得上是行之有效。现总结出来和大家一起探讨，如果有更好的方法，也欢迎一起讨论。
以下方法只针对于常见的文字、图片、语音、视频审核，不包含即时性较强的直播审核以及账号申请等资质审核。
几个小方法提升用户体验
-
内容发布者：静默审核，将对普通用户的打扰降到最低
在产品的最初版本里，我们每次的审核动作都会给用户反馈，于是普通用户便会收到很多系统消息，例如“恭喜，您上传的图片已审核通过”。长久下来，对于喜欢上传图片的用户来说，这已经成为一种打扰。
站在用户的角度想想，这种做法实在是太耿直了，普通用户上传的照片大部分都是可以通过的，我们完全可以在不通过的时候再通知他们，常态的通过消息没必要发送。
下一版本我们便改成了静默审核，只在图片审核未通过的时候提示用户重新上传并给予警告，普通用户甚至完全感受不到图片是需要审核的，也不会一直受到系统消息的骚扰了。 -
内容观看者：内容审核通过之前，对发布者之外的其他人不可见
这个是很常用的方式，在审核通过之前，信息是不会展示给其他用户观看的。其中也有一些小的点可以注意下：
- 对信息的上传者给予正常的展示。例如:用户上传一张新头像，还在审核中，此时用户出现在广场列表或者其他地方，自己看到的都是新头像，但其他用户看到的依然是旧头像。这样做，对上传者自己来说，符合即时反馈的体验原则，对其他用户来说，确保展示安全内容，对双方来说都是比较好的体验。
- 增加“审核中”标签。接上一条，我们对发布者采取的是静默审核的方法，虽然降低了对用户的骚扰，但用户可能会将“审核中”和“审核通过”的状态混淆，对于两者的区分，我们的做法也很简单：给审核中的信息增加一个“审核中”标签，不用太明显，关心审核状态的用户会主动去看，对不关心审核状态的用户也没有造成干扰。
-
用不同的方式来对待“小广告”
对文字审核而言，最让人头疼的就是小广告了。有用户的地方就会有小广告，而且这些小广告的进化能力很强，每次新增审核关键词后，用不了一段时间，广告词就进化到可以规避机器审核的程度了，着实让人头大。
对于这类型垃圾信息，我们之前的处理方法和非法信息一样，使用关键词检测和一些常见的违规判定，例如，检测到违法词则发送失败、多次发送违法词则自动禁言、短时间内给大量用户发相同信息则自动禁言，等等。
直到有一次，我们在讨论问题的时候突然提到：为什么要告诉那些小广告，他们发送的消息是非法的呢？这不是逼着他们去进化吗？当时就觉得，我们还是太耿直了！
后面的版本我们是这样做的，对于判定为小广告的信息，我们对发送者做了不同的展示，他们得到的反馈是消息正常发送出去了。至于后台的逻辑，自然是拦截信息，其他用户无法收到这些小广告。若不是有心去测试，这些小广告的发布者是无法知道自己的消息已经被拦截的，自然也不存在主动进化以躲过机器审核了。
注：当时做这个逻辑的时候，才发现这种方法其实很常见，只是我自己不知道罢了，例如朋友圈就有这个逻辑，有时候自己发的信息不在别人的朋友圈展示，就是被限定展示啦~ -
抓大放小：先默认通过，后面跟进审核
对于一些通过率非常高，也并不是十分重要的入口，可以采用“先过后审”的方法，即先默认内容是可以展示在所有人面前的，再进行审核规避非法内容。
这种方法一般是机器与人工相结合，目前有很多文字审核都是采用这种方法，在用户上传的时候，先通过机器审核一遍，机器审核通过的可直接通过，对于审核不通过的，再转人工审核。与静默审核的不同是，即使是不通过的内容，也是先暴露在用户面前，事后再进行处理的。
在我们的APP里面，对于用户修改资料、修改签名、社区留言等内容，都是采用的这种方式，毕竟通过率很高，在机器筛选过后，只剩下非常少的需要人工审核的内容，需要的人力很少，基本可以并在其他的内容审核工作中去。
确保审核效率才是解决问题的根本之道
总的来说，内容审核就是为了更好地控制平台氛围，给予内容观看者更好的体验（哈哈哈，此处忽略政治因素），以上这些小心机只是在已经有损发布者体验的情况下，想办法减少不好的体验带来的坏心情，属于治标不治本的方法。提高审核效率，做到秒审，才是最好的体验。这就要求我们想办法提高机器审核的效率和准确率，同时拥有充足的审核人员和审核素质，这两点，才是解决审核体验的根本之道。
另外，在我了解的范围内，目前直播审核和资质审核这两块，人工审核还占有很重的比例，不知道目前有没有比较成熟的自动审核的方案。
写在最后
对社交、媒体等平台来说，良好的社区氛围会让平台大大加分，但很多时候，太过严苛的审核环境又会让整个平台风声鹤唳，用户不敢发声。关于审核的度的问题，不在本次的讨论范围，但我还是想说，每个人都有发表自己真实言论的权利，平台应尽可能地给予普通人更多发声的机会，更多地让这个社会发出真实的声音。
文/Sosofunny
转载请简信联系作者获取授权
