專家解讀｜構建算法治理落地支撐體系

隨著網絡信息技術的高速發展，大數據、雲計算、算法與人工智能等技術廣泛應用於社交、購物、旅遊、醫療、求職及視頻等各類平台和應用場景。互聯網新興業態為人們帶來極大便利，塑造了人們新的生活方式。同時，由於信息技術更新迭代速度快、發展形式多樣、新興業態越來越複雜，大數據挖掘與算法通過用戶行為分析，以及歷史的數據進行挖掘，給用戶的個性化服務帶來了便利，也為經濟社會發展注入新動能。然而，算法歧視、“大數據殺熟”、誘導沉迷、違法和不良信息推薦等算法不合理應用也觸及了用戶信息安全與權益保護等問題，並深刻地影響了正常的傳播秩序、市場秩序和社會秩序，給我國現有法律法規與監管治理體系帶來新的挑戰。

為了規範互聯網信息服務算法推薦活動，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，促進互聯網信息服務健康發展，國家互聯網信息辦公室、工業和信息化部、警察部、國家市場監督管理總局聯合發布《互聯網信息服務算法推薦管理規定》(以下簡稱《規定》)，自2022年3月1日起施行。《規定》的頒布和施行將有效加強國家對互聯網信息服務提供者算法推薦的規範化監管，有利於營造積極健康、向上向善的互聯網信息服務環境，形成良好的信息傳播秩序，進一步提升我國社會治理能力。

一、以社會主流價值為導向，強調輿情管理與引導

《規定》強調算法推薦服務提供者應當堅持主流價值導向，優化算法推薦服務機制，積極傳播正能量，促進算法應用向上向善。《規定》著眼互聯網信息服務中潛在的算法影響網絡輿論、算法誘導用戶沉迷或過度消費、算法共謀和不正當競爭等算法應用風險，由此引出治理對象，通過算法規製規範互聯網信息服務算法推薦活動，維護國家安全和社會公共利益。《規定》指出具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內通過互聯網信息服務算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息，履行備案手續。

二、重點強調用戶權益保護，維護未成年人和老年人等群體合法權益

《規定》強調算法推薦服務提供者應當向用戶提供不針對其個人特徵的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。算法推薦服務提供者向未成年人提供服務的，應當依法履行未成年人網絡保護義務，並通過開發適合未成年人使用的模式、提供適合未成年人特點的服務等方式，便利未成年人獲取有益身心健康的信息。《規定》指出，算法推薦服務提供者不得向未成年人推送可能引發未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務誘導未成年人沉迷網絡。《規定》指出，算法推薦服務提供者向老年人提供服務的，應當保障老年人依法享有的權益，充分考慮老年人出行、就醫、消費、辦事等需求，按照國家有關規定提供智能化適老服務，依法開展涉電信網絡詐騙信息的監測、識別和處置，便利老年人安全使用算法推薦服務。

三、建立完備可行的監管體系，明確服務提供者的法律責任

《規定》強調網信部門會同電信、警察、市場監管等有關部門建立算法分級分類安全管理制度，根據算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規模、算法推薦技術處理的數據重要程度、對用戶行為的乾預程度等對算法推薦服務提供者實施分級分類管理。《規定》指出算法推薦服務提供者違反本規定第七條、第八條、第九條第一款、第十條、第十四條、第十六條、第十七條、第二十二條、第二十四條、第二十六條規定，法律、行政法規有規定的，依照其規定；法律、行政法規沒有規定的，由網信部門和電信、警察、市場監管等有關部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停信息更新，並處一萬元以上十萬元以下罰款。構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

四、構建算法治理落地支撐體系，強化企業的社會責任

《規定》的頒布，具有較強的探索性和前瞻性，也是算法推薦管理的新起點。然而，算法綜合治理目前仍處於起步階段，缺少算法推薦管理的實踐經驗和技術支撐體系，加快推進算法治理的盡快落地實施，結合當前的新技術體系，修正落地實施過程中遇到的新問題，是切實保障算法綜合治理工作有力有序推進的關鍵。另外，在管理落地過程中，相關企業的自律及社會責任也是影響落地的重要因素。建議加強如下工作：

(一)構建算法管理與監測的技術體系，促進網絡治理持續發展

圍繞構建算法治理與監測的技術體系，鼓勵高校設置並加強算法安全相關專業學科建設，並注重交叉學科建設和學生培養，引導高校院所建立相關科研機構，強化算法治理研究方向，組建相關人才隊伍，建立研究機構與相關主體企業的聯動機制，運用研究機構的科研能力，結合企業技術積累和服務體系，開展治理的示範應用，並培養一支高素質算法監管人才隊伍。

(二)激發信息服務企業的社會責任感，形成行業自律風氣

除了完善法律法規，構建監管機制，企業的社會責任感至關重要。首先，通過行業協會組織簽訂互聯網平台算法推薦自律公約，就數據搜集與算法使用等做出合理規定與製約，並按要求公開相關算法和程序，建立用戶監督機制。國內相關知名和頭部企業要發揮示範引領作用，鼓勵其他中小企業，從而在行業內部形成互相監督、自覺守約、合規經營的治理機制。其次，互聯網平台企業要自覺承擔社會責任，學習並遵守國家法律規範和商業道德，遵循誠信交易原則，提高公信度，靠品質與口碑盈利。最終，依靠企業自身力量，從源頭上阻斷算法推薦亂象的發生，為維護用戶合法權益，共同守護健康向上的互聯網秩序凝聚力量。(作者：沈浩 中國傳媒大學媒體融合與傳播國家重點實驗室大數據中心，首席科學家)