声音鉴黄师图片鉴黄师都要消失？人工智能浪潮下的鉴黄师
网络鉴黄师”，就是那群天天趴在电脑面前，每天浏览各种互联网信息，鉴别其中涉黄涉暴内容的人。
然而，你可能想不到，就是这群互联网精神文明守护者，其实每天压力是非常大的。
因为随着互联网的发展，每天上传网络的色情暴力信息都以亿万计，而传统的人工鉴黄师，都是通过一双肉眼鉴别淫秽图片和视频，面对海量信息，很多鉴黄师每天都要浏览超过上万涉黄信息。
熬夜加班什么的，对于鉴黄师来说，都习以为常，但是因为工作内容的特殊性，他们在工作中要承受巨大精神压力，这导致过度兴奋、抑郁、脂肪肝、高血压.....已经成为鉴黄师中常见的职业病。
为了缓解鉴黄师身心疲惫的工作状态，解决网络上的色情、广告违规等社会问题，阿里巴巴推出了人工智能AI鉴黄师！
这几年人工智能是越来越火，很多实力雄厚的大公司都设计出非常厉害的AI产品。
比如去年大火的人工智能机器人“阿尔法狗”，只经过很短时间的学习，就把全球排名第一的中国围棋冠军柯洁打败
国外媒体就预测过，未来诸如流水线工人，翻译，会计这类重复性和程式化的职业都将被AI机器人所取代。
人的精力是有限的，鉴黄师每天就受困于此。但是AI不一样，通过人工智能，深度学习和大数据样本的技术，他们可以以无休状态投入工作。
所以，AI鉴黄师可以通过算法模型以你无法想象的速度鉴别影像内容是否涉黄。
据阿里安全部高级算法专家威视表示：原来需要4万人工鉴黄师处理的工作，如果使用AI鉴黄，即使再加上人工复审也只要20人就能完成。
更厉害的是，阿里的这个AI鉴黄系统，不仅能鉴别黄片黄图，连带有情色信息的语音内容都能识别。
不仅是中文普通话语音，日，英，俄等外文，东北，四川，广东话等方言都不在话下。
今年年初，湖南郴州警方就在阿里安全技术的协助下，利用最新技术，一下就端掉了一个聚合100多个跨国淫秽直播站点的团伙，涉案3.5亿！这些女主播来自中美日等多国，每天上亿人次观看！更夸张的是，为赚打赏，竟有未成年少女做淫秽直播，还有母亲在直播中裸露女儿的性器官，有的女主播一天收13.8万打赏！
而且，平台不设年龄限制，不少未成年及在校学生观看，有未成年考生熬到深夜对主播说，明天要考试不得不下线。此案背后黑灰产团伙躲在境外，披着假身份假IP操控，侦查难度极大。
在阿里安全技术协助下，警方对这个案子全链路收网。#2018网络安全生态峰会#上，阿里安全将联合南都发布黑灰产报告，探索用技术协助各界解决社会问题。
据说阿里的安全部为了能设计出这个AI，最初在获取样本时，筛选了近2000网站、6000多万色情图片，经过去重，标注1300多万张高质量的色情图片，才打造了AI鉴黄系统最主要的基石。
鉴黄师会被AI取代么？鉴黄师是怎样的一个群体？在搜索引擎里键入“鉴黄师”，会有数百万的相关结果。在知乎里，输入同样的关键字，也有各种各样的问题和回答。
“如果不考虑薪水、尊严、面子，你最想从事什么工作？”有人就回答了三个字：“鉴黄师”，答案获得了上千点赞，数百评论。尽管有一些人向往鉴黄师，但鉴黄师这个岗位，在大多数人的眼里却是一个世界黑暗、心理伤害重的岗位。外媒报道，内容审查（鉴黄师的另外个名称）是科技产业增长最快，但或许是最累人的工作之一——工作压力大巨大，且普遍遭受心理伤害。
而在另一面，随着人工智能技术的进步，一部分人认为鉴黄师的工作要被人工智能替代。
在这个态势下，如今的鉴黄师是怎样的一群人？处于怎样的一个生存状态？盾盾踩方团第二期带领大家了解下网易的鉴黄师：
视频：https://v.qq.com/x/page/z071138zuwc.html
上班看黄图
和沈鹏炜、许嘉奇、袁鹏、边雪菁约好的那天，是个阳光明媚的下午。
他们的办公室门禁森严，进出都要刷卡。带我们穿过一段较长、两边窗帘都拉下的走廊，便来到了另一头的会议室。会议室靠窗，很明亮，在这里我们就各种话题聊了将近两个小时。
对于鉴黄师的称呼，他们没有直接否定，只是在后来确认内部是否也这么称呼时，才告诉我们，网易其实内部的真实岗位名称是叫“信息安全审核专员”。而且工作范畴并不纯粹鉴黄，色情之外，他们也会处理血腥、暴力、恐怖主义等内容。
大家可能会认为鉴黄师男生偏多点，抗压力能力好，然而沈鹏炜说，实际上是女生偏多点。虽然女生有一些短板，但长处非常明显——她们非常细心，容易发现一些细节上的问题。“不过，招聘上我们会尽量保持平衡，女生招得差不多了，会刻意地去招一些男生。”
外界盛传，鉴黄师高薪又轻松，工作很有意思。他们说，没有高薪，也并不轻松。刚接触这份工作时，的确因为一些小福利，男生可能会有一点小欣喜和好奇。不过女生却是另外一种反应，有些刚毕业的女生，反应会很特别：一开始会特别害羞，脸很红不敢看。遇到需要处理违规结果时，动作会很可爱——哎呀呀，很紧张，闭着眼去点击鼠标。
有意思的是，有些保洁大叔也会被福利所吸引，从一开始纳闷他们的团队怎么每天上班看黄图，在后面盯着他们看到底在干吗，到后来形成习惯，偶尔会在后面享受下福利。
“妈妈，你可以找不上夜班的工作吗？”
不过，有害信息接触多了，鉴黄师们都是同一个反应：内心多多少少会有点崩溃。
崩溃的原因主要有两方面，一方面是身体上的。首当其冲的是他们的工作时间，7x24小时，三班倒，中间不能离人。上夜班的时候，大多数人到了凌晨三四点就会很想睡觉。有些人的第二个通宵班，真的是需要靠毅力扛过来。而女生处于生理期时，可能会更加受不了。其次是眼睛，由于需要大量看东西，他们眼睛必须一目十行，而这给眼睛带来的伤害比较大，需要不断点眼药水。还有就是：胖，倒班容易肚子饿，而经常吃夜宵，就容易有副产品——身上不经意间就增长了肥肉。
另一方面是精神上的，有些人觉得每天看黄图会觉得很爽，然而鉴黄师说，实际上经常有一些超出大家想象的高清无码变态图，比如乱伦、变性、虐杀等，它带来的视觉冲击力非常大，犹如身临其境，心理非常容易崩溃，让你怀疑人生，觉得这个世界太黑暗……这非常考验一个人的心理素质。
更重要的是三班倒导致的时差，让鉴黄师没办法和正常人一样社交。他们说，朋友娱乐的时候，他们在睡觉。而朋友睡觉的时候，他们在另外一个世界里清理互联网的垃圾。这种牺牲，在逢年过节的时候，感受会特别强烈，大家都在，就差我一个，这种孤单感会很强烈……
亲情、友情，是他们面临的最大一个挑战。
边雪菁告诉我们：“有次晚上9点去上通宵班，他的孩子一改往常不让我出门，而是突然说：‘妈妈，你可以找不上夜班的工作吗？”临走前发生的这一幕，让她很心酸，下意识地紧紧抱住孩子，久久都没有松开。
“休息时间不固定，也会导致自己很有内疚感。朋友找你时，你没法赴约，经常这样，好多朋友都不会再来找你。这样的感觉，好像是故意疏远朋友，自己内心很容易过不去。”袁鹏分享了自己的过去的一个心理状态。
崩溃、麻木后的蜕变
和鉴黄师接触前，原以为压力“摧残”之下，与之谈话多少会有点压抑。然而有点超出我们预期的是，和他们接触后最大的感受就是发现他们，居然是一群积极乐观的人，深知这份工作存在的意义。
的确，他们一开始会有浮躁和困惑，不知道做这份职业到底有没有意义，能否体现自己的价值？每天那么忙，那么累，坚持到底是为了什么？但过了一段时间后，他们就会从多个角度看待问题，认识到自己的责任重大。
边雪菁是位有一个孩子的妈妈，她在这一点上认知特别深刻。她认为鉴黄师是一个很伟大的职业，她说，每个人终将会有孩子，以后你的孩子也会接触互联网。如果没有鉴黄师的存在，孩子很容易接触到不良信息。孩子没有判断能力，需要保护，否则会被不良信息影响，导致他们的价值观、世界观扭曲。“以前我们上网的时候，总会遇到一些含有色情信息的弹窗，玩游戏时也会遇到。”边雪婧说，现在很少会遇到了，这就是鉴黄师的功劳，让网络空间变得更健康。
有害信息看得多了，人会变得麻木。但正是这种麻木，让袁鹏有了蜕变。他说，对自己伤害得越大，越是会感受到这份责任的重大：“连我们这些专业人士都受不了，更何况普通人？”
“我们是有害信息流传到网络上的最后一道关卡，必须得守好这份疆土，避免有害信息流落到网络空间，危害社会健康。”对于这份职业的成就感，他说，看着社区、产品里的用户活跃，没有被有害信息毁掉，他们也会感到开心——尽管他们是幕后英雄，不曾被人们知晓，也不曾被感激，甚至有人对这个职位理解有偏差，接受不了。
面对身体上的劳累、心理上的折磨，大多数的鉴黄师没有选择放弃，而是默默选择坚持下去，坦然面对一切。他们如同一名法医：都是要24小时待命、克服恐惧、承受心理压力，冷静面对刑事案件里的各种情况，为破案、社会的安定提供可能的蛛丝马迹。
破壁“枯燥”
边雪菁说，其实每个岗位做久了都会觉得枯燥乏味，尤其是像鉴黄师这样的，更加枯燥。所以最重要的就是自己去寻找乐趣，把一份普通的工作做到有姿有色。
“我首先是调整自己的心态，乐观向上的就是我，每天上班来的时候嘻嘻哈哈，下班当然也是兴高采烈。有时候看看审核的图片、视频，其实你会发现很有趣。在审核中，如果你用心，就会发现形形色色不同的人，有些段子可能不在这里上班都不会知道，所以只要你有个好心情，工作也不会觉得枯燥乏味。”边雪菁真诚地对着我们说，你要相信不管什么事情，从不同角度出发都会发现不一样的乐趣。
许嘉奇的调节是老司机的方式——动不动开车。他会努力寻找让自己开心的点，一些低俗恶搞的信息、搞笑的图片：“男人站着高不是真的高，躺着高才是真的高。”偶尔还会分享到鉴黄师的一个内部沟通工具里，调节自己的同时，也能够让大家一起乐起来，获得提高——进一步了解有害信息的分类。
鉴黄师告诉我们，除了这些，他们也会在工作空闲片刻，在办公室聚个会，共同点个外卖，一起吃东西，互相诉说今天的经历，释放自己的压力。深夜下班，有时共同下班的几个人，也会相约一起撸个串，大口吃肉，大口喝酒，感受畅快人生。
有的人会好奇，回家之后，鉴黄师还会不会再看这些视频，或者说会不会把内容拷贝下来。沟通中，鉴黄师说，他们是不会拷贝视频的，因为公司内部有规定，审核的信息只能在后台，不能带出去。工作之余，他们会不会再看，因人而异。有的人会选择继续看，多看一点，多一分工作经验上的积累。
这让人很感动，鉴黄师虽然有痛苦、折磨和煎熬，但他们深知自己的责任，一直在永不停息地努力乐观和坚韧。
当然鉴黄这份工作，也并非没有一点好处。许嘉奇说，安全意识会变得非常好，一看到什么色情图片或谣言，都会在第一时间出来提示身边人不要转发。有些人会觉得自己消息灵通，要散布消息让朋友知道，但这样到处转发，会导致群被封掉，甚至会给自己带来不必要的麻烦。第二个是，一目十行造就的火眼金睛，让他们的观察力非常敏锐。
技术“解放”
人工智能潮流下，大家都非常关心，鉴黄师是不是要被淘汰了？
回顾人类历史上的几次技术革命，答案或许明了。蒸汽机的出现，让人类进入了蒸汽时代，蒸汽开始替代了人力，无论是炼钢，纺织业，都由此得到了巨大的发展；后来随着电力的普及，人类进入电气时代，开始进一步替代人力；而随着互联网、云计算、大数据等技术的发展，人类又进入信息时代……然而不管怎么变化，都是把人从单调的劳动生产中解放出来，让他们可以从事更有价值的劳动，而不是单一重复的劳动。
沈鹏炜说，技术的介入，的确替代了很大一部分人力，让技术成为了主力，人工成为辅助。尤其是几年前，网易云易盾内容安全第三代人工智能技术接入后，人+技术协同，审核效率较之前提升了数千倍。
但技术并没有淘汰掉鉴黄师，却是解放了鉴黄师。许多海量的工作，人工智能技术一个规则就可以立马处理掉。而不是像多年前，几个鉴黄师要埋头吭哧处理好几天，非常辛苦不说，低效还容易造成内容安全事故。
“今天的鉴黄师能够从事更加高级的工作，比如说，有害数据分析、前台巡查、规则维护、质检检查等更核心、有效的工作，因此，鉴黄师也不像以前那样压力大和工作繁忙。”沈鹏炜介绍到。
鉴黄师被解放的背后，是一段网易云易盾内容安全技术不断升级的历史：第一代内容安全技术是建立在关键词、黑白名单、过滤器和分类器上；第二代内容安全技术基于内容特征识别（肤色、纹理）、贝叶斯过滤、相似度匹配和规则系统；而第三代则升级为大数据分析（用户行为、用户分类）、人机识别、人工智能和机器学习（语义识别、图像识别）。经过不断更新换代后，网易云易盾内容安全服务已覆盖了文本、图片、语音和视频（直播）等领域，在广告过滤、智能鉴黄、暴恐识别等场景应用上，有害信息处理效果超出所有客户预期。
沈鹏炜最后表示，只要有男人和女人在，欲望就在，鉴黄师也就在。似乎嫌这样的说法不够严谨，他接着又补充一句：“人工离不开智能，但智能也脱离不了人工，因此鉴黄师的未来只会变化，而不会消失。”
相关文章
-
鉴茶院：中美暗搓搓谈好了，欧洲还蒙在鼓里
01 79岁的拜登生于1942年，按中国的生肖算，属马。 属马的人2021年不太顺，因为命犯太岁。 运程不济，小人作弄。 这不，拜登踌躇满志的《重建美好...
2021-12-24 17:51:08 中国美国欧洲 -
鉴茶院：中美暗搓搓谈好了，欧洲还蒙在鼓里
01 79岁的拜登生于1942年，按中国的生肖算，属马。 属马的人2021年不太顺，因为命犯太岁。 运程不济，小人作弄。 这不，拜登踌躇满志的《重建美好...
2021-12-24 17:51:08 中国美国欧洲 -
牛弹琴：我有一个想法，可破美国荒唐反华禁令！
这是一大清早的想法，刚才又看了看网上，不少朋友也有类似建议。 虽然半开玩笑半认真，但斗争嘛，就是要以变应变，感觉真可破了美国荒唐反华禁令。 慑于美国的淫...
2021-12-24 17:48:02 新疆美国才是 -
牛弹琴：我有一个想法，可破美国荒唐反华禁令！
这是一大清早的想法，刚才又看了看网上，不少朋友也有类似建议。 虽然半开玩笑半认真，但斗争嘛，就是要以变应变，感觉真可破了美国荒唐反华禁令。 慑于美国的淫...
2021-12-24 17:48:02 新疆美国才是 -
新财迷：北约“步步紧逼”，普京首提“军事回应”俄乌危机！火药味有点浓了...
2021/12/24星期五 农历十一月廿一 北约“步步紧逼”，普京首提“军事回应”俄乌危机！ 环球时报消息，普京日前表示，由于北约“步步紧逼”，俄罗斯已经“...
2021-12-24 17:36:39 画外音观察者日前 -
新财迷：北约“步步紧逼”，普京首提“军事回应”俄乌危机！火药味有点浓了...
2021/12/24星期五 农历十一月廿一 北约“步步紧逼”，普京首提“军事回应”俄乌危机！ 环球时报消息，普京日前表示，由于北约“步步紧逼”，俄罗斯已经“...
2021-12-24 17:36:39 画外音观察者日前 -
徐吉军：危机持续，局势一触即发，谁将打响第一枪？
近期，世界局势剑拔弩张，欧洲战场和亚太地区都呈现出临界点状态。其实，世界局势走到今天几乎不可挽回的地步，最主要的因素就是新冠疫情。 2021年新冠肺炎疫情夺走了...
2021-12-24 17:33:57 俄罗斯美国立陶宛 -
徐吉军：危机持续，局势一触即发，谁将打响第一枪？
近期，世界局势剑拔弩张，欧洲战场和亚太地区都呈现出临界点状态。其实，世界局势走到今天几乎不可挽回的地步，最主要的因素就是新冠疫情。 2021年新冠肺炎疫情夺走了...
2021-12-24 17:33:57 俄罗斯美国立陶宛 -
战忽智库：手握能源军事两张牌，谁不服就砸谁！普京开条件西方不接受都不行
俄罗斯卫星通讯社最新发布消息称，俄外长拉夫罗夫23日表示：“美俄首轮安全保障谈判将于明年初举行”。值得一提的是，在此之前，西方对由俄罗斯开出条件的安全保障谈判，一直持...
2021-12-24 17:31:46 俄罗斯欧洲莫斯科 -
酷玩实验室：这些人自杀、啃老、拒绝打工，可我骂不出口…
这两天，相信不少人都看到这样一条新闻——“实习医生轻生，被出租司机救回”。 从目前得到的信息看，该实习医生因为实习期间没有工资，并且身边的亲人还不能理解支持...
2021-12-24 17:28:36 自己的父母小鬼