寫在前面
這是一次特別的推送。騰訊新聞王牌紀實欄目《中國人的一天》創辦十周年之際，我們特此聯合欄目方向大家呈現以騰訊人為藍本的中國互聯網人的故事。
過去十年，《中國人的一天》記錄了許許多多普通中國人的生存狀態和喜怒哀樂。這一次，故事的主角是騰訊普通員工，你會看到，他們在現實世界中的一舉一動，可能影響著數字世界的千千萬萬人……
面對鏡頭，略顯靦腆的程序員Fay
他們是互聯網世界的“濾芯”，他們沉默寡言，不善表達，很少被人看見，在關鍵位置默默發揮作用。但他們和你想象中的“鑒黃師”，並不一樣。
點擊觀看視頻：傳統鑒黃師靠的是肉眼，而我們更依賴技術
冷不丁，耳機裡突然傳出一陣嬌喘。
Fay肩膀快速抖動一下，他摘下耳機，搖搖頭，露出心有余悸的表情，“我去，是個男的。”
30歲的Fay，是騰訊安全部門內容風控天禦團隊一名研發負責人。
幾年前，一則關於“鑒黃師”的新聞走紅網絡，也給Fay增加不少煩惱，“別人很容易就把我和這個職業對號入座了。
不少人想象裡，Fay的日常工作，就是盯著若乾塊“花花綠綠”的螢幕，一看一天。
有人擔心Fay，和“不良內容”長年累月接觸，會不會讓他心理扭曲？也有人對他的職業，產生了莫名的羨慕和好奇。
Fay心裡有點苦，“其實，並不是你們想象的那麽回事。”
“鑒黃師”團隊
2015年，Fay加入騰訊，在網絡安全中心做基礎平台研發。
程序員波瀾不驚的日子，終結於他入職的第二年。2016年，國內直播盛行，亂象橫生，伴隨著大量涉黃涉暴內容出現。
“我們也在琢磨，如何把內容審核經驗和能力，進行服務輸出，幫助用戶識別、清理這些不良內容。”於是，包括Fay在內，一個10人的“鑒黃師”團隊成立了，主攻審核系統研發。
Fay所在的團隊，主要服務騰訊平台和外部客戶，客戶數超過上萬家。
和“鑒黃師”不太一樣的工作場景
“傳統鑒黃師靠的是肉眼，而我們更依賴技術。”Fay說，雖然兩者工作內容有交叉，但本質是有區別的。
他舉了個例子：三年來，他所在的內容風控團隊，累計處理了上兆條數據。“這樣的數據量，單靠人工識別，那是不可能完成的。” 解決方案，只能是通過AI人工智能。
Fay和同事的日常交流
“但AI不會一開始就那麽聰明，需要經歷人工標注+機器學習的反覆過程。”
為了訓練AI，Fay和同事，每周會抽檢5萬條數據，包括圖片、音頻、文本，進行人工審核，篩出不良內容、標注違規類型。
“鑒黃師”也有一顆卡通的心
這部分被標注的樣本，將送給AI模型學習訓練，理解其共同特徵，在後續判定中“智能”識別不良內容。
“現在系統的識別率達已經提升95%以上。” Fay認為，相比“鑒黃師”，自己的工作，更像是AI人工智能的訓練師。
對違規內容進行人工審核
訓練師帶領的AI，和違規內容的戰爭，遠比想象中複雜，AI在更新迭代，違規內容也在不斷推陳出新。
從傳統的文字，到圖片、視頻、音頻……三年來，Fay接觸到的違規內容，可謂形形色色，五花八門。
類似不愉快的經歷，並不少見
“色情、血腥、暴恐圖片，很容易被識別，而有一些則隱藏很深，試圖繞過AI。” Fay舉例，有些音頻場景，前半段很正常，“中間突然出現女人嬌喘聲。”
他頓了一下，“甚至是男人的，第一次聽到時，簡直顛覆三觀。”
空閑時，和小夥伴打把遊戲釋放壓力
隨後，技術團隊開發出了“嬌喘識別”系統，對音頻場景中的違規內容進行清理。
“嬌喘識別”系統上線，也絕非一勞永逸，“我們仍需要不斷推動算法模型的調優和升級，比如在嘈雜背景識別聲音違規等，這就非常考驗我們的審核模型。”
日子也並非都是按部就班，雲卷雲舒，時常也有需要Fay救火的時候。
“有一次，客戶平台突然出現大量違規內容，給平台帶來嚴重風險。”而Fay團隊需要在一周之內，幫助客戶將平台所有數據全部做一遍機器審核和人工審核。
“那一周，我們處理了幾十億的圖文信息量，每天都是熬到凌晨三四點。”
最終，Fay團隊完成了任務，保證了客戶產品正常運營。
Fay在和小夥伴討論工作
Fay把自己團隊比喻成“濾芯”， 將互聯網的陰暗面和普通人隔離開來。“讓人享受互聯網的信息便利，免受被侵害的危險。”
“有時我也想，如果沒有濾芯的存在，這世界會是什麽樣。”
Fay在公司附近夜跑釋壓
Fay也承認，在這個位置呆久了，潛移默化中，也會吸收一些負面的信息，繼而轉化為消極的情緒。
組織團隊小夥伴開一把黑，打球，或者深夜獨自去附近大學跑跑步，“實在想找人說說話，就約幾個朋友出來，吃吃飯，喝喝酒。” 這都是他，一位非標準“鑒黃師”釋放情緒的方式。
他們是濾芯，是和你想象中不太一樣的“鑒黃師”，他們沉默寡言，不善表達，很少被人看見，卻在關鍵位置默默發揮作用。
攝影/吳海文 韓佳林剪輯/張珂
統籌/孫伊豆責編/匡匡
出品/騰訊新聞、騰訊官方公眾號
香港九龍灣馬來街興發大廈15樓D室