從《網絡生態治理規定》看互聯網新技術的治理

作者 | 張欽坤 騰訊研究院秘書長

曹建峰 騰訊研究院高級研究員

今年，人工智能等新技術的治理，在全球範圍內獲得了廣泛的關注。美歐開始針對人工智能相關應用探索多元化的治理措施。我國也開始回應人工智能新技術及其應用的潛在風險，《民法典人格權編草案》《數據安全管理辦法（征求意見稿）》《網絡音視頻信息服務管理規定》等都有所涉及。此外，網信辦發布的《網絡生態治理規定（征求意見稿）》（以下簡稱《規定》），在強調政府、企業、社會、網民等主體共同治理網絡信息內容的同時，也及時回應了算法推薦、深度偽造、流量造假、網絡暴力等熱點問題。

算法推薦引發負面影響，風險防範與技術和產業發展的平衡需要分級分類多元治理

近年來，隨著人工智能算法推薦的廣泛應用引發的虛假信息、用戶隱私、信息繭房、算法歧視等負面影響的持續發酵，我國相關立法和標準開始關注算法推薦。《電子商務法》《數據安全管理辦法（征求意見稿）》以及國家標準《個人信息安全規範》最新修訂草案等都作出了規定，要求標明“定推”字樣，給用戶提供“退出”選項並刪除個人信息，禁止歧視、欺詐等。此次《規定》進一步明確算法推薦與人工編輯相結合的信息分發方式，第15條要求建立體現主流價值導向的推薦模型，建立健全人工乾預機制，建立用戶自主選擇機制，進一步回應了算法推薦的相關問題。

從行業角度看，個性化算法推薦對貼近用戶需求以及構建互聯網內容和服務生態十分重要，在各類移動互聯網平台的快速崛起中扮演著重要角色，已被廣泛應用於新聞、視頻、音樂等數字內容及廣告、商品、服務等的分發、推薦。但在經歷了算法有沒有價值觀的大討論之後，人們越來越多地認識到算法並不是萬能的，其在提高信息內容分發效率的同時，卻可能帶來用戶隱私、信息繭房、內容安全、傳播虛假信息等問題，甚至可能影響公眾認知，加劇社會分層和偏見等。所以企業在部署應用算法決策的時候，一方面需要持續優化算法模型，確保數據和算法的準確性、有效性、公平性等；另一方面需要以人工乾預等方式進行適度的管理，例如對進入推薦池由算法進行推進的文章，需要經過審核。

圖：來源：網絡

國外也開始多舉措規範包括算法推薦在內的算法決策的應用，例如歐盟GDPR通過賦予用戶選擇和控制權限來解決用戶畫像和自動化決策中的隱私問題，除此之外並沒有給算法推薦等自動化決策提出其他更多的監管要求；而美國加州CCPA對於個人信息的處理則繼續沿用opt-out機制，對消費者更為實用，也更有利於市場發展和市場競爭。但數據創新研究中心（Center forData Innovation)的研究報告顯示，GDPR實施的一年以來，要求企業手動審查重大的算法決策提高了人工智能的總體成本，在某種程度上阻礙了歐盟的技術創新和產業發展。此外在行業自律方面，Facebook、YouTube等也在不斷調整完善其推薦算法，以便給予用戶更大的控制和選擇權限，同時限制虛假信息的傳播。例如今年6月YouTube對其推進算法做出了三項調整，以便用戶可以更容易地探索主題和相關視頻，拒絕某個頻道的視頻推送，並理解為什麽被推送了某個視頻，代表了其在算法透明上的努力。[1]

整體而言，國外對於算法決策確立了分類分級的監管思路：分類即針對政府和公共部門使用的算法系統和商業領域的算法系統建立不同的監管，前者需要較強的事前監管，如歐盟提出針對前者建立“算法影響評估”機制[2]；分級即對於一般的商業算法系統如定向推送、個性化廣告等采取事後追究法律責任的方式，但對於具有與政府和公共部門的算法系統應用類似的重大影響的商業算法系統可考慮一定程度的事前監管。此種分類分級監管方式避免給企業帶來不成比例的成本和管理負擔，有助於人工智能發展應用。此外，非監管的方式例如算法素養、倫理指南及倫理審查、技術標準和指南、用戶控制等柔性方式，也將發揮重要作用。這些舉措可給我國將來進一步立法提供有益的借鑒。

深度偽造給網絡內容治理帶來新挑戰，監管需要防範技術濫用同時留出發展空間

《規定》第24條規定，網絡信息內容服務使用者不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規禁止的活動。這一規定給今年備受國內外關注的“深度偽造”技術劃定了應用邊界，同時為行業探索有益應用場景留出了發展空間。

左圖：1994年電視劇《射雕英雄傳》截圖；右圖：同一場景的“深度偽造”視頻片段。來源@換臉哥

深度偽造（Deepfake）作為deep learning（深度學習）和fake（偽造）組合而成的新生事物，是隨著生成對抗網絡（GAN）等深度學習技術的發展而出現的。其最常見的方式是AI換臉，例如deepfake、face2face等技術，此外還包括語音模擬、人臉合成、視頻生成等，統稱為深度偽造。深度偽造和合成內容給網絡平台治理帶來了新挑戰，主要表現為利用深度學習等AI技術偽造或合成高度逼真且真假難辨的圖片、音頻、視頻來進行欺騙和欺詐，如色情報復、敲詐勒索、假冒身份、散布虛假信息等，給個人和企業利益以及公共安全帶來威脅。而且深度偽造生成方法開源軟體的增多，極大地降低了操縱、偽造音視頻的門檻。報告顯示，網上的深度偽造視頻的總數比去年12月翻了一番，達到近15000個，其中偽造的色情視頻佔比高達96%。[3]

除了此次《規定》提出的概括性禁止要求，《民法典人格權編（草案）》第799條、《數據安全管理（征求意見稿）》第24條，以及日前發布的《網絡音視頻信息服務管理規定》第10-13條等都作出了規定。主要包括：禁止利用信息技術手段偽造的方式侵犯他人的肖像權和聲音；針對自動合成的信息內容標明“合成”字樣；上線相關功能或服務需開展安全評估，對非真實音視頻信息予以標識，禁止深度偽造的虛假新聞消息，部署鑒別技術並在對非真實音視頻信息進行標識後方可繼續傳播，建立辟謠機制，等等。這些規定表明深度偽造等新技術新應用已經引起我國立法的高度重視。

全球來看，美國最早對深度偽造進行規製，今年以來，美國尤其擔心深度偽造對2020年大選和國家安全的影響，開始探索立法應對措施，防範潛在濫用風險。2019年6月，美國國會先後提出了兩部法律草案《深度偽造責任法案》[4]和《2019年深度偽造報告法案》[5]。此外，美國的加州、德州、馬薩諸塞州、弗吉尼亞州等也陸續推出了相關立法。這些立法提出的主要措施包括：第一，設定應用紅線，禁止政治干擾、色情報復、假冒身份等非法目的的深度偽造，否則可能構成刑事犯罪；第二，設置披露義務，要求製作者、上傳者以適當方式披露、標記合成內容，例如采取嵌入數字水印、文字、語音標識等方式；第三，加強技術攻防，要求開發檢測識別和反製技術。

綜合國內外監管趨勢來看，遏製深度偽造技術的濫用需要多方主體共同努力，采取分類分場景監管、行業自律、技術對抗、數字素養提升等多元化的舉措，在防範風險的同時促進深度偽造技術妥善利用。在合理有效、靈活敏捷的監管之外，還需重視以下兩點。

一方面，探索更多有益運用場景，提振產業發展信心。深度偽造作為內容創作工具有其積極的應用價值，可在娛樂、新聞媒體、影視製作、教育等諸多領域運用，例如實現虛擬主播、替身演出、虛擬歌手等，改善醫學圖像分析，豐富社交網絡體驗和自我表達等。面對深度偽造帶來的風險，在積極應對的同時，還應鼓勵行業探索更多有益運用場景，為人工智能技術開發提供更多實踐樣本，引導人工智能技術向善發展。

另一方面，從源頭要求製作者對深度偽造進行標注，同時鼓勵行業開發應用檢測識別技術，推動建立相關技術和行業標準。當前美國的做法主要是要求製作者對深度偽造內容進行標注，否則可能承擔民事責任，嚴重時還將承擔刑事責任，從而從源頭上對深度偽造進行規範。這一源頭治理的做法具有很理性，因為沒有標注的深度偽造內容一旦傳播出去之後，第三方就很難鑒別，檢測技術的開發、成熟也面臨著諸多困難，而且難以跟上深度偽造技術進化的步伐，所以開發溯源技術並進行源頭標記是最有效的措施。此外，當前谷歌、Facebook等美國主流科技公司都開始通過多種舉措，發展甄別深度偽造和合成內容、對抗深度偽造技術濫用的方法和工具，包括：構建並開放深度偽造數據集，為研究、開發檢測識別技術提供基準；支持、發起深度偽造檢測挑戰賽，與行業攜手推動檢測技術的研究與開發；開發深度偽造檢測識別和標注工具；培訓專門的合成內容審查人員，加強對視頻內容的真實性審核。但是考慮到行業內當前還沒有通用的、高準確率的視頻鑒偽網絡，相應的鑒偽技術也都尚在初步階段、還有很長一段路要走，所以不宜強製要求平台對用戶上傳的或第三方的視頻是否屬於“深度偽造”或“自動合成”進行檢測識別，並以此為由要求平台承擔責任，因為這將給企業帶來不成比例的管理負擔和成本。而且技術攻防本來就是“魔高一尺道高一丈”、處於不斷發展之中，故不宜將其轉變為硬性要求並與法律責任掛鉤，所以如前所述，美歐沒有強硬要求平台部署鑒別技術，而是采取了源頭治理讓製作者、上傳者對深度偽造內容進行標注，這具有合理性，值得肯定。

流量造假行為被納入禁止性規範，技術管網遏製流量經濟野蠻生長

《規定》第25條規定，網絡信息內容服務使用者不得通過人力或者技術手段實施流量造假、流量劫持以及虛假注冊账號、批量買賣账號、操縱用戶账號等行為，破壞網絡生態秩序。這一規定將流量造假等行為列為破壞網絡生態秩序的禁止性行為，有利於規範數據利用，從源頭製止流量造假。

流量是網絡文化的重要指標之一。流量經濟時代，流量劫持、流量造假等問題開始挑戰傳統法律。流量造假糾紛不僅發生在個人主體之間，平台間的流量之爭則更加複雜。去年8月，愛奇藝公司訴杭州飛益信息科技有限公司不正當競爭案中，法院認定通過技術手段增加無效的愛奇藝網站視頻訪問數據並獲取不當利益的行為破壞數據的真實性以及完整性，構成不正當競爭，這表明被刷流量方也可能成為流量糾紛中的受害者。今年5月，全國首例暗刷流量案當庭宣判合約違反社會公共利益而無效，並上繳所有非法所得。流量造假、流量劫持以及虛假注冊账號、批量買賣账號、操縱用戶账號等行為，不僅損害消費者權益，破壞商業模式，還會損害數據信息價值，造成大數據產業“劣幣驅逐良幣值”。

圖：蔡徐坤1億轉發量（微博總用戶3.3億）流量造假被央視批評曝光

整體而言，流量造假背後已經形成了巨大的灰色利益鏈條，從線上到線下需要更加嚴密的監管體系。首先，平台可以加強流量監控合作，形成全平台聯動打擊。以往的互聯網相關法規中，對流量造假等行為的規製主要在於提高平台責任，要求平台監控異常數據，屏蔽造假網頁、處理虛假账號等。下一階段，為應對大規模的流量造假，需要加強平台合作，建立平台與平台間的聯動打擊機制。

其次，大力發展互聯網內容產業，豐富網絡評價體系，告別“唯流量論”。網絡直播銷售、明星流量變現等商業模式催生了流量造假行為，畸形的利益分配機制是導致流量造假的根本原因。要扭轉這一局面，必須回歸互聯網內容產業的發展，豐富評價體系，擺脫“唯流量論”。

再者，提高違法成本，有效震懾流量造假行為。如今流量造假行為已經滲透到電商、娛樂、影視等多領域，利益的深度捆綁讓流量造假的多方主體均對該行為保持緘默。2018年《反不正當競爭法》的互聯網專條對流量劫持、惡意不兼容等問題進行了規製。2019年《電子商務法》明確禁止電商平台買流量刷好評行為。未來還應進一步加大執法力度，提高違法成本，破除該縱深灰色利益鏈條。

網絡暴力成諸多惡性事件導火索，監管之外還需引導理性上網

《規定》第22條針對網絡暴力作出專門規定，明確禁止網絡用戶的網絡侵權和網絡暴力行為，違反該規定將依照相關法律、行政法規處理。網絡暴力在新技術背景下具有新的發展趨勢如人工智能被用於實施色情報復等，該規定有助於淨化網絡環境、維護健康的上網秩序，並規範新技術的應用。

互聯網在為用戶提供充分表達空間的同時，非理性的聲音也極易通過網絡發酵，造成大規模網絡行為失范。以語言暴力、隱私洩露等為典型，網絡暴力主要表現網絡欺凌、網絡跟蹤以及網絡騷擾，具體而言：一是對未經證實或已經證實的網絡事件，公開發錶帶有傷害性、侮辱性和煽動性的失實言論；二是在網上公開他人個人隱私，侵犯其隱私權；三是對他人及其親友的正常生活進行行動和言論侵擾等。網絡暴力引發的社會惡性事件層出不窮，不僅對當事人身心、名譽、財產等方面造成實質性損害，還會影響社會價值觀，破壞網絡生態秩序。

而且近年來，網絡暴力事件逐漸增多，衝突行為逐漸升級。中國社科院2019《社會藍皮書》顯示，其調查對象中，約有28.89%的青少年在上網過程中遇到過暴力辱罵，而60%以上的青少年對此沒有采取任何措施。美國反誹謗聯盟ADL（Anti-Defamation League）2018年調查顯示，全美範圍內約37%的被調查民眾曾經歷過性騷擾、被視奸跟蹤、人身攻擊、持續騷擾等各樣的極端網絡暴力。此外，如前所述深度偽造等新技術也被用於色情報復、敲詐勒索等網絡暴力行為，網絡上的深度偽造內容幾乎都是偽造的色情視頻。

網絡暴力的成因複雜，牽涉面廣，對暴力信息往往難以及時介入和監管。首先，互聯網的複合性傳播方式為網絡輿論發酵提供了便利。互聯網多樣化的傳播方式使得暴力信息可以通過公開網頁、即時通訊設備等進行公開、小範圍以及一對一的傳播，暴力信息一旦傳播開來，便難以控制。其次，網絡暴力信息界定模糊，難以及時發現並處理。在技術過濾和人工審核的雙重保障下，對於明顯的違法信息或含敏感詞信息，能進行有效攔截。但是，對於輿論形成初期，如何在健康的輿論環境中識別出暗含網絡暴力可能性的話題，如何區分正當的輿論監督和暴力信息都尚未明確操作標準。整體而言，目前針對網絡暴力的治理仍以事後監管為主，對網暴事件發生的施暴引導者、不實信息散布者及事件背後的組織策劃者等關鍵對象進行懲治。引導用戶理性上網，提升網民素養是從源頭消解網絡暴力的必要手段。

探索新技術治理的中國模式，為新技術發展應用營造良好的制度土壤

如前所述，連同此次《規定》在內，我國近一兩年一系列立法開始加強規製人工智能等新技術及其應用。但在當前的國際化發展形勢下，新技術成為各國競爭的核心，如何在日趨嚴峻的國際競爭形勢下（如地區對抗博弈加劇、單邊主義抬頭等），為新技術創新發展和應用普及營造良好的制度土壤，從而佔據技術發展和產業應用高地，是我國在監管新技術新應用時需要著力思考的。

歷史地看，美國矽谷之所以在互聯網時代成為全球科技創新中心，除了資本、人才、人才流動等因素之外，其成功在很大程度上得歸因於美國互聯網友好型的法律變革，諸如適度的平台責任、版權避風港和開放式的合理使用制度、行業自律為主的隱私監管等，這些制度規定為矽谷企業在Web 2.0時代的巨大成功提供了良好的法律制度土壤，天才的程序員們才得以發揮其聰明才智，帶來令人驚豔的創新產物。[6]這可以給全世界正在進行中的新技術治理提供很好的啟發。

當前在新技術治理方面，歐盟最為活躍。GDPR、數字稅、人工智能監管等都旨構建歐盟內部統一的互聯網監管標準和模式，但其對新技術的嚴格管制能否最終轉化為其在人工智能等新技術、新產業發展等上的國際競爭力，是值得深入探討的。除了對自身發展的考量，歐盟的互聯網強監管還有另外一個人們經常提及的原因，就是通過設定偏向性的法律規則來製衡、約束美國，意在為歐盟自身贏得產業發展機遇。用歐盟官方的話來說就是，讓互聯網惠及所有人，而非個別公司（意指美國大型互聯網企業）。

就我國而言，防範新技術新應用相關的風險，已經成為了我國互聯網治理的重要內容，需要明確整體上的治理思路和路徑。如前所述，在中美歐引領互聯網競爭的國際背景下，對於新技術新應用歐盟采取了更為側重監管的路徑，而美國相對寬鬆的監管環境在新技術背景下不大可能發生大的改變。以此為出發點，我國在監管新技術新應用的時候，需要考慮國際競爭視角和新技術新應用的社會經濟效益，兼顧監管治理需求、防範風險、權益保護與技術創新、產業發展等。更進一步，在實踐層面，多層次的治理體系比單一的監管和法律更能適應人工智能等新技術快速發展迭代、日益複雜化的特徵，行業標準、自律公約、技術指南、最佳實踐、倫理框架、倫理教育和技術素養等都將發揮更大的作用。在監管方面需要“疏堵結合、包容審慎、敏捷靈活”的方式，“疏”即破除新技術應用面臨的法律障礙，如自動駕駛汽車、AI醫療等面臨的傳統監管障礙，構建新的監管框架；“堵”即明確應用邊界，並以包容審慎、敏捷靈活的方式防範風險，保障技術和產業發展空間。

注：感謝騰訊公司安全管理部安全戰略研究中心高級研究員趙玉現在此文寫作過程中提出寶貴建議，騰訊研究院助理研究員熊辰協助進行資料搜集。

參考資料：

[1]https://youtube.googleblog.com/2019/06/giving-you-more-control-over-homepage.html

[2]http://www.europarl.europa.eu/thinktank/en/document.html?reference=EPRS_STU(2019)624262

[3] https://edition.cnn.com/2019/10/07/tech/deepfake-videos-increase/index.html

[4] https://www.congress.gov/bill/116th-congress/house-bill/3230

[5] https://www.congress.gov/bill/116th-congress/senate-bill/2065/text

--END--

我好看嗎？