每日最新頭條.有趣資訊

假面科技提升大數據風控 嚴打賭博等違規內容

網絡安全關係每位用戶的基本利益,也是網絡平台的基礎保障。為了給用戶營造更加綠色健康的網絡氛圍,假面科技近期全面升級了平台的網絡風控能力,努力清除部分用戶上傳的違法違規信息,不給不法分子可乘之機。
為了更好的清理平台上的涉賭涉黃等違法違規內容,假面科技已與阿里雲、同盾科技等國內知名公司合作,搭建起高效的大數據風控平台,對用戶上傳的文字、圖片、語音等各類內容進行系統性識別。一旦風控平台發現有用戶上傳違禁詞匯,系統將會自動攔截,將違規內容扼殺在搖籃中。
在自動攔截違禁詞匯的基礎上,假面科技大數據風控平台還引入了語境分析機制,理解用戶上傳內容的真實意圖,並加入人工審核團隊,全力攔截不法分子發布違法違規內容。而人工審核的結果也將反饋給風控平台進行機器自主學習,從而使風控平台得以不斷優化,可以更為精準的分析用戶內容。

▲假面科技大數據風控平台上各類型違規信息佔比

不僅如此,在大數據風控平台內,假面科技還專門搭建了“涉賭用戶行為模型”,針對賭博用戶進行有效清理。在內容審查的基礎上,引入行為分析,通過對過去已被查禁賭博用戶的多維度行為特點分析,總結出賭博用戶的整體行為特徵,並將此特徵與平台用戶行為進行擬合。一旦發現有用戶行為與該模型高度相似,風控系統將立即向審查人員發出預警,接入人工審核,從而達到精準識別。
在大數據風控平台的基礎上,假面科技還進一步擴大了人工審核團隊,安排審核人員24小時不間斷在假面科技旗下狼人殺、誰是臥底等產品中進行巡查,並設立違規账戶舉報郵箱,由客服主管直接負責,直接處理用戶對於違法違規內容的投訴。為了起到更好的警示作用,產品會在APP內的顯著位置展示違規用戶處罰名單,甚至挑選部分違規用戶名單進行公示,並呼籲平台用戶積極舉報相關違法違規账號。

除此之外,假面科技還積極與警方展開合作,與警察建立了長效的信息互動機制,共同設立網安警務室,有專人24小時在線巡查,隨時向警方上報可疑用戶的涉黃涉賭信息,積極配合各地警方聯手偵破相關案件。
對於平台上存在的違法違規內容,假面科技搭建起了以大數據風控平台為核心,以人工審核團隊為巡查,以警企互動為監督的多渠道強效機制,以期更好的清楚不法分子上傳的違法違規信息,從而為用戶提供一個穩定安全的網絡環境。

獲得更多的PTT最新消息
按讚加入粉絲團