算法自律——智能化時代的創新治理探索

　　人工智能是引領新一輪科技變革的顛覆性技術，伴隨其向社會各領域的滲透融合，在倫理、安全、隱私、公平等方面，也帶來了新的挑戰和問題。11月19日，在首屆中國網絡文明大會數據與算法論壇中，中國網絡社會組織聯合會發起了《互聯網信息服務算法應用自律公約》（以下簡稱《公約》），旨在加強互聯網信息服務行業自律，引導平臺及企業擔當社會責任，促進算法應用向上向善，強化算法應用示范引領，推動用主流價值導向駕馭“算法”，助力共建算法良好生態。

　　智能算法使機器擁有了分析、預測、優化甚至決策的能力，智能算法的自主性和決策能力成為智能化變革的核心要素。在加快推進人工智能技術研發和產業應用的同時，需要同步跟進適應智能化變革的制度調整和技術治理。隨著數據的積累和算法技術的發展，算法應用已經滲透到人們生活的方方面面，同時也滋生了“過度推薦”“流量造假”“大數據殺熟”及“深度偽造”等損害公眾利益、破壞正當競爭、擾亂社會秩序的行為。算法治理跟不上，就會反過來制約技術的應用和發展。

　　對于算法應用，應該充分重視其技術屬性和社會屬性并重的特征，樹立“負責任創新”的價值觀，避免技術創新被引入濫用的歧途。一方面，需要通過政策法規來規范算法技術的應用，保證技術的創新應用和安全可控協調發展。另一方面，也需要通過行業自律等方式規范企業行為，將政策法規精神落到實處。此次發布的《公約》，是互聯網信息服務行業落實算法應用治理的積極嘗試和探索，有助于企業切實承擔互聯網信息服務算法治理社會責任，加強互聯網信息服務行業自律，推動行業健康有序發展。

　　《公約》首先強調了合規底線，強調依法依規開展算法應用，加強行業自律，積極踐行社會主義核心價值觀，尊重社會公序良俗，恪守商業道德。在此基礎上，進一步落實主體責任，明確要求相關單位和企業履行算法治理義務，承擔算法治理責任；設立算法治理組織機構，持續完善算法治理制度，建立健全算法安全應急管理預案；開展算法倫理審查，開展算法安全風險監測、評估和防控。從治理機制和措施方面，明確了責任和義務，有助于政策的實施。

　　《公約》中“維護網民權益”“筑牢安全防線”“促進算法公平”等內容，呼應了國家新一代人工智能治理專業委員會發布的《新一代人工智能倫理規范》中“促進公平公正”“保護隱私安全”“確保可控可信”等基本倫理規范，并在研發、供應、使用等各個環節提出了相應的管理規范。落實算法應用治理，就必須保障用戶的知情權、選擇權等合法權益，并保證算法在分析、決策和優化等具體應用任務的公平性，不能基于數據和算法優勢對用戶不正當地進行差別對待。在安全保障方面，需要防范應用、內容和數據的安全風險，提高算法風險監測、預警和處置能力。

　　《公約》最后提出，要推動設計研發創新，持續開展算法研發，主動掌握關鍵核心技術，融入全球科技創新整體格局。對于智能算法的治理問題，不僅要從現有技術角度出發，也要從發展的角度提出前瞻性的預判和要求。這也是張鈸院士提出“第三代人工智能”的初衷，希望通過融合第一代知識驅動和第二代數據驅動的人工智能，建立新的可解釋和魯棒的AI理論與方法，發展安全、可信、可靠和可擴展的AI技術。當前以深度學習為代表的人工智能算法，本質上是“黑盒”，在可靠性、可解釋性、安全性等方面存在缺陷，發展第三代人工智能技術能夠克服深度學習這些缺陷，有利于推動人工智能創新發展。對于算法治理的要求，也會對人工智能技術的創新發展起到有益的促進作用。

　　作者：特約評論員 朱軍（清華大學人工智能研究院基礎理論中心主任）