人工智能賦能網絡安全 騰訊用AI打擊黑產

9 月 18 日，2018世界人工智能大會·人工智能安全高端對話在上海召開，活動由上海賽博網絡安全產業創新研究院和中國資訊通信研究院安全研究所承辦，騰訊公司安全管理部、上海社會科學院互聯網研究中心和《探索與爭鳴》雜誌社共同協辦。本次對話匯聚了全球人工智能安全領域的重量級學者、專家和產業精英，共同探討“AI+安全”領域的安全挑戰及應對之道。

上海社會科學院副院長王振主持論壇開幕式。中國互聯網發展基金會理事長馬利、上海市經濟和資訊化委員會巡視員陳躍華、中國資訊通信研究院副院長王志勤以及騰訊資訊安全執行委員會主任、騰訊公司安全管理部副總經理楊鵬出席活動並致辭。楊鵬表示騰訊一直致力於用“互聯網+”連接一切，強調科技應當為我所用，造福於人類，AI+安全的加號代表著一種“賦能”和“助力”的理念，要求其更好地利用人工智能，保障、維護好人工智能的安全問題，實現健康有序的發展。

會議重磅推出了三份人工智能安全專題報告，其中騰訊公司安全管理部和上海賽博網絡安全產業創新研究院聯合重磅推出《人工智能賦能網絡太空安全：模式與實踐》。該報告聚焦 AI 在安全場景的應用模式與案例，從風險演進和技術邏輯的視角闡述了網絡太空安全的內涵和趨勢。引入安全防護範式，梳理出網絡系統、網絡內容和物理網絡系統 3 個層面 14 個安全領域的 AI 應用情況，其中包括要解決的安全威脅，AI 技術如何應用的模式和具體實例 30 多個。

人工智能打擊黑產初具成效

隨著網絡資訊技術全面普及以及數據價值的持續增長，網絡太空安全威脅持續嚴峻，且呈現出智能化、隱匿性、規模化的特點，這讓網絡太空安全的防禦、檢測和響應面臨更大的挑戰。人工智能以其獨特的優勢，正在各類安全場景中形成多種多樣的解決方案。

騰訊在運用人工智能打擊黑產方面，已經有詐騙資訊打擊、新型身份認證和網絡安全態勢感知等方面的應用。

在詐騙資訊打擊方面，騰訊公司基於其黑產對抗經驗技術和反欺詐 AI 模型建造能力，打造“賓果反詐騙防控系統”，通過大數據分析和機器自我學習總結、預測警情中作案手法、通信行為、網絡特徵、資金流向等特點規律，從而能在詐騙事前、事中、事後等環節起到預警、分析作用。與警方開展合作，通過對合法獲取的警情、通信、網絡、金融等領域大數據的深度學習，賓果系統具有三項“自動能力”。一是可自動發現電信網絡詐騙犯罪行為並自動預警，配合警方開展預防勸阻措施提供助力；二是自動關聯作案工具，對有害账戶進行自主收斂，賓果系統能夠充分依托騰訊公司安全體系和機制，在最短時間內作出限權、封停等措施；三是可實現對電信網絡詐騙窩點、人群的智能聚類，為警方開展刑事打擊提供線索參考。

賓果反詐騙防控系統投入使用以來，全國重點詐騙區域詐騙號碼大幅下降接近70%，有效遏製了詐騙態勢蔓延；3月上線以來，預警超過50000起，準確率超過99%，覆蓋全國31個省區市，累計為民眾避免損失20億元。

新型身份認證的應用方面，基於數據挖掘和人工智能技術的新型身份認證綜合運用了數字簽名、設備指紋、時空碼、人臉識別等多項身份認證技術，目前在金融、社保、保險、電商、O2O、直播等行業均已有廣泛應用。騰訊守護者計劃基於長期積累的 AI 人工智能和神經網絡的分析能力，引入多維度的動態驗證機制對抗相關黑產。

新型網絡安全態勢感知，是利用數據融合、數據挖掘、智能分析和可視化等技術，從巨集觀角度實時直觀顯示網絡安全狀態，並對網絡安全趨勢做出預測，為網絡安全威脅預警和防護提供參考。

騰訊守護者計劃研發的智能金融安全感知系統“靈鯤”力爭對非法集資、金融傳銷等涉眾型金融犯罪“打早打小”，識別覆蓋率可達90%以上；騰訊反傳銷態勢感知系統通過海量數據的合法采集、自然語言處理等人工智能技術，全面分析匯總傳銷態勢，該系統目前已協助警察機構破獲了善心匯、五行幣、雲在指尖、星火草原等涉嫌網絡傳銷案件。

人工智能也已經廣泛應用於不同形態的網絡資訊內容治理中，騰訊研發的冰鑒系統引擎借助深度學習算法，開發應用了提供端到輸出端全鏈條鑒黃檢測服務，對於色情圖片的識別準確率達99.9%以上，並可通過不斷學習讓模型更加智能，大大提高不良資訊內容治理的效率。

人工智能助力車聯網 安全先行

騰訊科恩安全實驗室是全球知名且備受尊敬的安全研究團隊，致力於保障智能網聯汽車“大安全”。2016年曾通過移動網絡識別、準備和實施攻擊場景等技術成功發現特斯拉的重要漏洞，並遵循負責任的漏洞披露方式把漏洞威脅情況提交給特斯拉官方，供其完善智能防禦系統，保障智能車輛安全。在當前智能攻防競爭態勢中，這種先於黑客發現漏洞的自主安全保障能力是極其需要的。

對話現場，科恩實驗室總監呂一平表示，網聯汽車資訊安全是汽車行業面臨的全新挑戰。他從科恩實驗室首次全球成功“遠程入侵”特斯拉的和對寶馬不同車型進行的全面測試經驗，總結了智能網聯安全的4點思考：未來智能網聯汽車“大安全”=功能安全+資訊安全；攻易守難，資訊安全建設需要全局思維；資訊安全將成為汽車品牌的重要能力； 資訊安全將成為汽車行業的國防。

“AI+安全”展望：共同努力應對各類安全威脅

人工智能時代，網絡太空安全威脅全面泛化，如何利用人工智能思想和技術應對各類安全威脅，是國內外產業界共同努力的方向。

在“AI+安全”領域，騰訊提出了 5 個未來展望：人工智能安全將成為人工智能產業發展最大藍海，人工智能的本體安全決定安全應用的發展進程，“人工”+“智能”將長期主導安全實踐，人工智能技術路線豐富將改善安全困境，網絡太空安全將驅動人工智能國際合作。

隨著智慧城市、工業互聯網、自動駕駛等將在未來十年普及，人工智能安全將成為產業發展的藍海。騰訊在運用人工智能賦能網絡太空安全方面，已經積累了豐富的技術、模式與經驗。

面對技術規範、行業標準、法律法規尚未健全的人工智能新領域，制定統一的安全監測標準、安全防範架構、安全評估體系需要各國參與共同協調，網絡太空安全成為人工智能國際間合作的重要領域。隨著人工智能技術日趨成熟，人工智能在“AI+安全”領域不僅能夠全面提高網絡太空各類威脅的響應和應對速度，而且能夠全面提高風險防範的預見性和準確性。