某鉴黄师:“我并不幸福”,AI加持下CDN鉴黄又是何物?
鉴黄师大概是属于最初怀有丰满的幻想,
却不料被一次次残暴的现实无情的摧残!
某知名互联网公司面向社会(年薪20万)招聘鉴黄师,每天的工作就是识别色情淫秽网站,即利用上班时间浏览黄网!
当很多人看到这种招聘信息的时候,尤其在荷尔蒙分泌旺盛的年纪,或许成了心中梦寐以求又充满好奇的梦想职业之一。因此,在一部分的认知中鉴黄师这个职业一定是个香饽饽,属于百里挑一的竞争强度。
某鉴黄师日常其实不然,鉴黄师的门槛并不高,对专业知识并不会做太多要求,毕竟相关的具体操作半个月时间通过培训也足够可以掌握。一般而言男女也不会太多限制,当然大多数是年轻群体,也是因为工作属性所决定的,其次便是对心理成熟度和心理素质有一定的要求。
对鉴黄师的工作内容和体验,大众可能还是多了太多美好的幻想!
这里简单先分享几个相关的新闻案例吧:
脸书的女鉴黄师:“每天看8000个辣眼画面,8个月后决定离开了”
脸书作为拥有20亿级用户的巨无霸产品。内容和画面的尺度远超过我们的想象,在脸书这个职位的角色被定义为内容审核员,鉴别的也不只是“黄”而已,暴力、仇恨、恐怖主义、断头、虐待动物、儿童色情、人兽性交。
某互联网公司女鉴黄师:“其实女生看久了,身体也扛不住”
“每天熟练地点开运营审核系统,每个用户的微动态、活动、群、相册里的图片等信息便会在电脑上一目了然地呈现,先快速浏览最直观的图片,一眼扫到有疑似色情暴力的图片,点进去进一步确认,再看用户登记的文字信息,察觉有敏感词也要再仔细查看。不过,对于究竟什么内容涉黄其实并没有严格、精确的文字表述,每个公司基本都有属于自己的一套筛选标准,对于我们公司而言采用的是三级标准:A级露性器官的,封号;B级露胸的,删照片、禁言24小时;C级过分暴露或带来不良影响的,删照片”,方便对照使用。
微软鉴黄师:怒告老东家索赔
2017年初,微软网络安全部门的两位员工Henry Soto和Greg Blauert联手将雇主微软告上了法庭,并寻求精神损害赔偿。这两名员工日常的工作职责是搜查微软的电子邮件和互联网系统,找到儿童被虐待和其他犯罪的证据,在工作中需要观看儿童色情和谋杀等图片和视频,他们起诉微软没有充分正确警告和提醒,使得他们反复接触的邪恶信息,造成精神障碍。
相比较图片、视频,这类用眼睛就能直观看到的地方,文字、声音的鉴黄难度则大得多!说文字难,那是相比较直观的图片、视频来做的比较。但是和声音相比较之下,则显得似乎又简单了很多,语种的丰富和多样、背景声音的干扰、数据采集和识别的难度也是超过前三类的。
关于鉴黄师,有几句话想和各位分享:
如果你在网络上看到一丁点暴力、色情的内容就要破口大骂,不妨想想背后工作的他们! 如果你觉得网络环境还挺好的、没那么糟,那是因为这背后有默默帮你过滤防护的他们! 当你看到一些不舒服内容便会做恶梦、食不下咽,那每天阅览千计普通如你我的他们呢?
我们需要感谢鉴黄师这个职业的存在,这个职业也远比我们想象的要承受更大的压力和责任!
说完人作为鉴黄师的部分,接下来聊聊基于机器学习算法和人工智能技术的CDN鉴黄,对于鉴黄师而言更需要技术来帮助其工作减压。
这里说的CDN鉴黄常规上指的是图片鉴黄和视频鉴黄(直播/点播)两种类型,目前而言基本上主流的CDN服务厂商都会提供这种服务。
CDN全称是Content Delivery Network,即内容分发网络。CDN是构建在网络之上的内容分发网络,依靠部署在各地的边缘服务器,通过中心平台的负载均衡、内容分发、调度等功能模块,使用户就近获取所需内容,降低网络拥塞,提高用户访问响应速度和命中率。CDN的关键技术主要有内容存储和分发技术。
CDN图片鉴黄
依托于深度学习算法和实时更新的亿级图像样本数据库,基于云服务厂商自身的云计算平台,对海量数据进行快速扫描、识别和相关特征的提取、分析、比较,从而发现其中涉嫌违规内容,违规图片的链接将会被记录下来供用户导出、删除,有效解决所有内容安全问题,而对于可疑的色情图片则交由鉴黄中心专业的鉴黄师再进行人工审核和定夺,节省90%以上的人工审核成本。
附:图片涉黄尺度的一般界定标准
色情:裸露敏感部位,包含露骨镜头,描述性交行为和色情场景的图片。 性感:衣着暴露但没有裸露敏感部位。 正常:非色情,非性感图片。
CDN直播鉴黄
对于直播以及短视频平台而言,为了保障平台内容播出的合规,鉴黄对于这部分企业而言是十分必要且重要的一环,稍有闪失,估计就要被请去喝茶聊天了。鉴黄内容和形式一般而言包括视频截图、语音审核、弹幕监控、关键词的提取等方式分析和识别色情内容。
传统形式上单纯的依靠鉴黄师,成本高昂且不说,监测的精准性也很难把握。而平台通过API系统对接CDN服务厂商,加上AI人工智能和深度学习算法的技术加持,全方位的监测平台风险内容而协助平台方对内容实时涉黄程度进行评判,从而更好的帮助平台方进行风险管控!
技术最大的魅力在于解放生产力,降低人类的工作压力和风险指数。
鉴黄师这个职业值得被尊重,也亟待被技术逐渐从高压的模式中解放出来!