每日最新頭條.有趣資訊

算法自律——智能化時代的創新治理探索

人工智能是引領新一輪科技變革的顛覆性技術,伴隨其向社會各領域的滲透融合,在倫理、安全、隱私、公平等方面,也帶來了新的挑戰和問題。11月19日,在首屆中國網絡文明大會數據與算法論壇中,中國網絡社會組織聯合會發起了《互聯網信息服務算法應用自律公約》(以下簡稱《公約》),旨在加強互聯網信息服務行業自律,引導平台及企業擔當社會責任,促進算法應用向上向善,強化算法應用示範引領,推動用主流價值導向駕馭“算法”,助力共建算法良好生態。

智能算法使機器擁有了分析、預測、優化甚至決策的能力,智能算法的自主性和決策能力成為智能化變革的核心要素。在加快推進人工智能技術研發和產業應用的同時,需要同步跟進適應智能化變革的制度調整和技術治理。隨著數據的積累和算法技術的發展,算法應用已經滲透到人們生活的方方面面,同時也滋生了“過度推薦”“流量造假”“大數據殺熟”及“深度偽造”等損害公眾利益、破壞正當競爭、擾亂社會秩序的行為。算法治理跟不上,就會反過來製約技術的應用和發展。

對於算法應用,應該充分重視其技術屬性和社會屬性並重的特徵,樹立“負責任創新”的價值觀,避免技術創新被引入濫用的歧途。一方面,需要通過政策法規來規範算法技術的應用,保證技術的創新應用和安全可控協調發展。另一方面,也需要通過行業自律等方式規範企業行為,將政策法規精神落到實處。此次發布的《公約》,是互聯網信息服務行業落實算法應用治理的積極嘗試和探索,有助於企業切實承擔互聯網信息服務算法治理社會責任,加強互聯網信息服務行業自律,推動行業健康有序發展。

《公約》首先強調了合規底線,強調依法依規開展算法應用,加強行業自律,積極踐行社會主義核心價值觀,尊重社會公序良俗,恪守商業道德。在此基礎上,進一步落實主體責任,明確要求相關部門和企業履行算法治理義務,承擔算法治理責任;設立算法治理組織機構,持續完善算法治理制度,建立健全算法安全應急管理預案;開展算法倫理審查,開展算法安全風險監測、評估和防控。從治理機制和措施方面,明確了責任和義務,有助於政策的實施。

《公約》中“維護網民權益”“築牢安全防線”“促進算法公平”等內容,呼應了國家新一代人工智能治理專業委員會發布的《新一代人工智能倫理規範》中“促進公平公正”“保護隱私安全”“確保可控可信”等基本倫理規範,並在研發、供應、使用等各個環節提出了相應的管理規範。落實算法應用治理,就必須保障用戶的知情權、選擇權等合法權益,並保證算法在分析、決策和優化等具體應用任務的公平性,不能基於數據和算法優勢對用戶不正當地進行差別對待。在安全保障方面,需要防範應用、內容和數據的安全風險,提高算法風險監測、預警和處置能力。

《公約》最後提出,要推動設計研發創新,持續開展算法研發,主動掌握關鍵核心技術,融入全球科技創新整體格局。對於智能算法的治理問題,不僅要從現有技術角度出發,也要從發展的角度提出前瞻性的預判和要求。這也是張鈸院士提出“第三代人工智能”的初衷,希望通過融合第一代知識驅動和第二代數據驅動的人工智能,建立新的可解釋和魯棒的AI理論與方法,發展安全、可信、可靠和可擴展的AI技術。當前以深度學習為代表的人工智能算法,本質上是“黑盒”,在可靠性、可解釋性、安全性等方面存在缺陷,發展第三代人工智能技術能夠克服深度學習這些缺陷,有利於推動人工智能創新發展。對於算法治理的要求,也會對人工智能技術的創新發展起到有益的促進作用。

作者:特約評論員 朱軍(清華大學人工智能研究院基礎理論中心主任)

來源:光明網

獲得更多的PTT最新消息
按讚加入粉絲團