他們要消失了嗎？探訪(fǎng)人工智能浪潮下的鑒黃師

　 阿里云優(yōu)惠券 先領(lǐng)券再下單

文章摘要：

記錄幫我們 清理 互聯(lián)網(wǎng)垃圾的那群人。

鑒黃師是怎樣的一個(gè)群體?

在搜索引擎里鍵入“鑒黃師”，會(huì)有數(shù)百萬(wàn)的相關(guān)結(jié)果。在知乎里，輸入同樣的關(guān)鍵字，也有各種各樣的問(wèn)題和回答。

“如果不考慮薪水、尊嚴(yán)、面子，你最想從事什么工作?”有人就回答了三個(gè)字：“鑒黃師”，答案獲得了上千點(diǎn)贊，數(shù)百評(píng)論。盡管有一些人向往鑒黃師，但鑒黃師這個(gè)崗位，在大多數(shù)人的眼里卻是一個(gè)世界黑暗、心理傷害重的崗位。外媒報(bào)道，內(nèi)容審查(鑒黃師的另外個(gè)名稱(chēng))是科技產(chǎn)業(yè)增長(zhǎng)最快，但或許是最累人的工作之一——工作壓力大巨大，且普遍遭受心理傷害。

而在另一面，隨著人工智能技術(shù)的進(jìn)步，一部分人認(rèn)為鑒黃師的工作要被人工智能替代。

在這個(gè)態(tài)勢(shì)下，如今的鑒黃師是怎樣的一群人?處于怎樣的一個(gè)生存狀態(tài)?盾盾踩方團(tuán)第二期帶領(lǐng)大家了解下網(wǎng)易的鑒黃師：

視頻：https://v.qq.com/x/page/z071138zuwc.html

上班看黃圖

和沈鵬煒、許嘉奇、袁鵬、邊雪菁約好的那天，是個(gè)陽(yáng)光明媚的下午。

他們的辦公室門(mén)禁森嚴(yán)，進(jìn)出都要刷卡。帶我們穿過(guò)一段較長(zhǎng)、兩邊窗簾都拉下的走廊，便來(lái)到了另一頭的會(huì)議室。會(huì)議室靠窗，很明亮，在這里我們就各種話(huà)題聊了將近兩個(gè)小時(shí)。

對(duì)于鑒黃師的稱(chēng)呼，他們沒(méi)有直接否定，只是在后來(lái)確認(rèn)內(nèi)部是否也這么稱(chēng)呼時(shí)，才告訴我們，網(wǎng)易其實(shí)內(nèi)部的真實(shí)崗位名稱(chēng)是叫“信息安全審核專(zhuān)員”。而且工作范疇并不純粹鑒黃，色情之外，他們也會(huì)處理血腥、暴力、恐怖主義等內(nèi)容。

大家可能會(huì)認(rèn)為鑒黃師男生偏多點(diǎn)，抗壓力能力好，然而沈鵬煒說(shuō)，實(shí)際上是女生偏多點(diǎn)。雖然女生有一些短板，但長(zhǎng)處非常明顯——她們非常細(xì)心，容易發(fā)現(xiàn)一些細(xì)節(jié)上的問(wèn)題。“不過(guò)，招聘上我們會(huì)盡量保持平衡，女生招得差不多了，會(huì)刻意地去招一些男生。”

外界盛傳，鑒黃師高薪又輕松，工作很有意思。他們說(shuō)，沒(méi)有高薪，也并不輕松。剛接觸這份工作時(shí)，的確因?yàn)橐恍┬「＠?，男生可能?huì)有一點(diǎn)小欣喜和好奇。不過(guò)女生卻是另外一種反應(yīng)，有些剛畢業(yè)的女生，反應(yīng)會(huì)很特別：一開(kāi)始會(huì)特別害羞，臉很紅不敢看。遇到需要處理違規(guī)結(jié)果時(shí)，動(dòng)作會(huì)很可愛(ài)——哎呀呀，很緊張，閉著眼去點(diǎn)擊鼠標(biāo)。

有意思的是，有些保潔大叔也會(huì)被福利所吸引，從一開(kāi)始納悶他們的團(tuán)隊(duì)怎么每天上班看黃圖，在后面盯著他們看到底在干嗎，到后來(lái)形成習(xí)慣，偶爾會(huì)在后面享受下福利。

“媽媽?zhuān)憧梢哉也簧弦拱嗟墓ぷ鲉幔?rdquo;

不過(guò)，有害信息接觸多了，鑒黃師們都是同一個(gè)反應(yīng)：內(nèi)心多多少少會(huì)有點(diǎn)崩潰。

崩潰的原因主要有兩方面，一方面是身體上的。首當(dāng)其沖的是他們的工作時(shí)間，7x24小時(shí)，三班倒，中間不能離人。上夜班的時(shí)候，大多數(shù)人到了凌晨三四點(diǎn)就會(huì)很想睡覺(jué)。有些人的第二個(gè)通宵班，真的是需要靠毅力扛過(guò)來(lái)。而女生處于生理期時(shí)，可能會(huì)更加受不了。其次是眼睛，由于需要大量看東西，他們眼睛必須一目十行，而這給眼睛帶來(lái)的傷害比較大，需要不斷點(diǎn)眼藥水。還有就是：胖，倒班容易肚子餓，而經(jīng)常吃夜宵，就容易有副產(chǎn)品——身上不經(jīng)意間就增長(zhǎng)了肥肉。

另一方面是精神上的，有些人覺(jué)得每天看黃圖會(huì)覺(jué)得很爽，然而鑒黃師說(shuō)，實(shí)際上經(jīng)常有一些超出大家想象的高清無(wú)碼變態(tài)圖，比如亂倫、變性、虐殺等，它帶來(lái)的視覺(jué)沖擊力非常大，猶如身臨其境，心理非常容易崩潰，讓你懷疑人生，覺(jué)得這個(gè)世界太黑暗 ……這非常考驗(yàn)一個(gè)人的心理素質(zhì)。

更重要的是三班倒導(dǎo)致的時(shí)差，讓鑒黃師沒(méi)辦法和正常人一樣社交。他們說(shuō)，朋友娛樂(lè)的時(shí)候，他們?cè)谒X(jué)。而朋友睡覺(jué)的時(shí)候，他們?cè)诹硗庖粋€(gè)世界里清理互聯(lián)網(wǎng)的垃圾。這種犧牲，在逢年過(guò)節(jié)的時(shí)候，感受會(huì)特別強(qiáng)烈，大家都在，就差我一個(gè)，這種孤單感會(huì)很強(qiáng)烈……

親情、友情，是他們面臨的最大一個(gè)挑戰(zhàn)。

邊雪菁告訴我們：“有次晚上9點(diǎn)去上通宵班，他的孩子一改往常不讓我出門(mén)，而是突然說(shuō)：‘媽媽?zhuān)憧梢哉也簧弦拱嗟墓ぷ鲉?”臨走前發(fā)生的這一幕，讓她很心酸，下意識(shí)地緊緊抱住孩子，久久都沒(méi)有松開(kāi)。

“休息時(shí)間不固定，也會(huì)導(dǎo)致自己很有內(nèi)疚感。朋友找你時(shí)，你沒(méi)法赴約，經(jīng)常這樣，好多朋友都不會(huì)再來(lái)找你。這樣的感覺(jué)，好像是故意疏遠(yuǎn)朋友，自己內(nèi)心很容易過(guò)不去。 ”袁鵬分享了自己的過(guò)去的一個(gè)心理狀態(tài)。

崩潰、麻木后的蛻變

和鑒黃師接觸前，原以為壓力“摧殘”之下，與之談話(huà)多少會(huì)有點(diǎn)壓抑。然而有點(diǎn)超出我們預(yù)期的是，和他們接觸后最大的感受就是發(fā)現(xiàn)他們，居然是一群積極樂(lè)觀(guān)的人，深知這份工作存在的意義。

的確，他們一開(kāi)始會(huì)有浮躁和困惑，不知道做這份職業(yè)到底有沒(méi)有意義，能否體現(xiàn)自己的價(jià)值?每天那么忙，那么累，堅(jiān)持到底是為了什么?但過(guò)了一段時(shí)間后，他們就會(huì)從多個(gè)角度看待問(wèn)題，認(rèn)識(shí)到自己的責(zé)任重大。

邊雪菁是位有一個(gè)孩子的媽媽?zhuān)谶@一點(diǎn)上認(rèn)知特別深刻。她認(rèn)為鑒黃師是一個(gè)很偉大的職業(yè)，她說(shuō)，每個(gè)人終將會(huì)有孩子，以后你的孩子也會(huì)接觸互聯(lián)網(wǎng)。如果沒(méi)有鑒黃師的存在，孩子很容易接觸到不良信息。孩子沒(méi)有判斷能力，需要保護(hù)，否則會(huì)被不良信息影響，導(dǎo)致他們的價(jià)值觀(guān)、世界觀(guān)扭曲。“以前我們上網(wǎng)的時(shí)候，總會(huì)遇到一些含有色情信息的彈窗，玩游戲時(shí)也會(huì)遇到。”邊雪婧說(shuō)，現(xiàn)在很少會(huì)遇到了，這就是鑒黃師的功勞，讓網(wǎng)絡(luò)空間變得更健康。

有害信息看得多了，人會(huì)變得麻木。但正是這種麻木，讓袁鵬有了蛻變。他說(shuō)，對(duì)自己傷害得越大，越是會(huì)感受到這份責(zé)任的重大 ：“連我們這些專(zhuān)業(yè)人士都受不了，更何況普通人?”

“我們是有害信息流傳到網(wǎng)絡(luò)上的最后一道關(guān)卡，必須得守好這份疆土，避免有害信息流落到網(wǎng)絡(luò)空間，危害社會(huì)健康。”對(duì)于這份職業(yè)的成就感，他說(shuō)，看著社區(qū)、產(chǎn)品里的用戶(hù)活躍，沒(méi)有被有害信息毀掉，他們也會(huì)感到開(kāi)心——盡管他們是幕后英雄，不曾被人們知曉，也不曾被感激，甚至有人對(duì)這個(gè)職位理解有偏差，接受不了。

面對(duì)身體上的勞累、心理上的折磨，大多數(shù)的鑒黃師沒(méi)有選擇放棄，而是默默選擇堅(jiān)持下去，坦然面對(duì)一切。他們?nèi)缤幻ㄡt(yī)：都是要24小時(shí)待命、克服恐懼、承受心理壓力，冷靜面對(duì)刑事案件里的各種情況，為破案、社會(huì)的安定提供可能的蛛絲馬跡。

破壁 “ 枯燥 ”

邊雪菁說(shuō)，其實(shí)每個(gè)崗位做久了都會(huì)覺(jué)得枯燥乏味，尤其是像鑒黃師這樣的，更加枯燥。所以最重要的就是自己去尋找樂(lè)趣，把一份普通的工作做到有姿有色。

“我首先是調(diào)整自己的心態(tài)，樂(lè)觀(guān)向上的就是我，每天上班來(lái)的時(shí)候嘻嘻哈哈，下班當(dāng)然也是興高采烈。有時(shí)候看看審核的圖片、視頻，其實(shí)你會(huì)發(fā)現(xiàn)很有趣。在審核中，如果你用心，就會(huì)發(fā)現(xiàn)形形色色不同的人，有些段子可能不在這里上班都不會(huì)知道，所以只要你有個(gè)好心情，工作也不會(huì)覺(jué)得枯燥乏味。”邊雪菁真誠(chéng)地對(duì)著我們說(shuō)，你要相信不管什么事情，從不同角度出發(fā)都會(huì)發(fā)現(xiàn)不一樣的樂(lè)趣。

許嘉奇的調(diào)節(jié)是老司機(jī)的方式——動(dòng)不動(dòng)開(kāi)車(chē)。他會(huì)努力尋找讓自己開(kāi)心的點(diǎn)，一些低俗惡搞的信息、搞笑的圖片：“男人站著高不是真的高，躺著高才是真的高。”偶爾還會(huì)分享到鑒黃師的一個(gè)內(nèi)部溝通工具里，調(diào)節(jié)自己的同時(shí)，也能夠讓大家一起樂(lè)起來(lái)，獲得提高——進(jìn)一步了解有害信息的分類(lèi)。

鑒黃師告訴我們，除了這些，他們也會(huì)在工作空閑片刻，在辦公室聚個(gè)會(huì)，共同點(diǎn)個(gè)外賣(mài)，一起吃東西，互相訴說(shuō)今天的經(jīng)歷，釋放自己的壓力。深夜下班，有時(shí)共同下班的幾個(gè)人，也會(huì)相約一起擼個(gè)串，大口吃肉，大口喝酒，感受暢快人生。

有的人會(huì)好奇，回家之后，鑒黃師還會(huì)不會(huì)再看這些視頻，或者說(shuō)會(huì)不會(huì)把內(nèi)容拷貝下來(lái)。溝通中，鑒黃師說(shuō)，他們是不會(huì)拷貝視頻的，因?yàn)楣緝?nèi)部有規(guī)定，審核的信息只能在后臺(tái)，不能帶出去。工作之余，他們會(huì)不會(huì)再看，因人而異。有的人會(huì)選擇繼續(xù)看，多看一點(diǎn)，多一分工作經(jīng)驗(yàn)上的積累。

這讓人很感動(dòng)，鑒黃師雖然有痛苦、折磨和煎熬，但他們深知自己的責(zé)任，一直在永不停息地努力樂(lè)觀(guān)和堅(jiān)韌。

當(dāng)然鑒黃這份工作，也并非沒(méi)有一點(diǎn)好處。許嘉奇說(shuō)，安全意識(shí)會(huì)變得非常好，一看到什么色情圖片或謠言，都會(huì)在第一時(shí)間出來(lái)提示身邊人不要轉(zhuǎn)發(fā)。有些人會(huì)覺(jué)得自己消息靈通，要散布消息讓朋友知道，但這樣到處轉(zhuǎn)發(fā)，會(huì)導(dǎo)致群被封掉，甚至?xí)o自己帶來(lái)不必要的麻煩。第二個(gè)是，一目十行造就的火眼金睛，讓他們的觀(guān)察力非常敏銳。

技術(shù)“解放”

人工智能潮流下，大家都非常關(guān)心，鑒黃師是不是要被淘汰了?

回顧人類(lèi)歷史上的幾次技術(shù)革命，答案或許明了。蒸汽機(jī)的出現(xiàn)，讓人類(lèi)進(jìn)入了蒸汽時(shí)代，蒸汽開(kāi)始替代了人力，無(wú)論是煉鋼，紡織業(yè)，都由此得到了巨大的發(fā)展;后來(lái)隨著電力的普及，人類(lèi)進(jìn)入電氣時(shí)代，開(kāi)始進(jìn)一步替代人力;而隨著互聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)等技術(shù)的發(fā)展，人類(lèi)又進(jìn)入信息時(shí)代……然而不管怎么變化，都是把人從單調(diào)的勞動(dòng)生產(chǎn)中解放出來(lái)，讓他們可以從事更有價(jià)值的勞動(dòng)，而不是單一重復(fù)的勞動(dòng)。

沈鵬煒說(shuō)，技術(shù)的介入，的確替代了很大一部分人力，讓技術(shù)成為了主力，人工成為輔助。尤其是幾年前，網(wǎng)易云易盾內(nèi)容安全第三代人工智能技術(shù)接入后，人+技術(shù)協(xié)同，審核效率較之前提升了數(shù)千倍。

但技術(shù)并沒(méi)有淘汰掉鑒黃師，卻是解放了鑒黃師。許多海量的工作，人工智能技術(shù)一個(gè)規(guī)則就可以立馬處理掉。而不是像多年前，幾個(gè)鑒黃師要埋頭吭哧處理好幾天，非常辛苦不說(shuō)，低效還容易造成內(nèi)容安全事故。

“今天的鑒黃師能夠從事更加高級(jí)的工作，比如說(shuō)，有害數(shù)據(jù)分析、前臺(tái)巡查、規(guī)則維護(hù)、質(zhì)檢檢查等更核心、有效的工作，因此，鑒黃師也不像以前那樣壓力大和工作繁忙。”沈鵬煒介紹到。

鑒黃師被解放的背后，是一段網(wǎng)易云易盾內(nèi)容安全技術(shù)不斷升級(jí)的歷史 ：第一代內(nèi)容安全技術(shù)是建立在關(guān)鍵詞、黑白名單、過(guò)濾器和分類(lèi)器上;第二代內(nèi)容安全技術(shù)基于內(nèi)容特征識(shí)別(膚色、紋理)、貝葉斯過(guò)濾、相似度匹配和規(guī)則系統(tǒng);而第三代則升級(jí)為大數(shù)據(jù)分析(用戶(hù)行為、用戶(hù)分類(lèi))、人機(jī)識(shí)別、人工智能和機(jī)器學(xué)習(xí)(語(yǔ)義識(shí)別、圖像識(shí)別)。經(jīng)過(guò)不斷更新?lián)Q代后，網(wǎng)易云易盾內(nèi)容安全服務(wù)已覆蓋了文本、圖片、語(yǔ)音和視頻(直播)等領(lǐng)域，在廣告過(guò)濾、智能鑒黃、暴恐識(shí)別等場(chǎng)景應(yīng)用上，有害信息處理效果超出所有客戶(hù)預(yù)期。

沈鵬煒最后表示，只要有男人和女人在，欲望就在，鑒黃師也就在 。似乎嫌這樣的說(shuō)法不夠嚴(yán)謹(jǐn)，他接著又補(bǔ)充一句：“人工離不開(kāi)智能，但智能也脫離不了人工，因此鑒黃師的未來(lái)只會(huì)變化，而不會(huì)消失。”

申請(qǐng)創(chuàng)業(yè)報(bào)道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！