張 欣：探索人工智能體的模塊化治理框架

本文轉自：人民日報

張 欣

作者爲對外經濟貿易大學法學院教授

科技興則民族興，科技強則國家強。黨的十八大以來，我國高度重視人工智能發展，積極推動互聯網、大數據、人工智能和實體經濟深度融合，培育壯大智能產業，加快發展新質生產力，爲高質量發展提供新動能。習近平總書記指出：“要堅持促進發展和依法管理相統一，既大力培育人工智能、物聯網、下一代通信網絡等新技術新應用，又積極利用法律法規和標準規範引導新技術應用。”習近平總書記的重要論述爲我國人工智能發展提供了根本遵循和行動指南。大力發展人工智能，提高人工智能安全治理水平，要把黨的二十屆三中全會《決定》提出的“建立人工智能安全監管制度”重要部署不折不扣貫徹落實好，準確把握人工智能發展動向，重點關注人工智能前沿技術及其帶來的風險挑戰，加強前瞻性思考，不斷探索人工智能治理的創新方案。

當前，生成式人工智能開創了人機交互新範式，憑藉其強大的交互、理解和生成能力，爲發展以大型自然語言模型爲核心組件，集記憶、規劃和工具使用於一體，具備感知和行動能力的人工智能體開闢了廣闊前景。人工智能體已成爲通用人工智能最重要的前沿研究方向和科技企業競相佈局的新賽道。它以大型自然語言模型爲“智慧引擎”，具有自主性、適應性和交互性特徵，可顯著提高生產效率，增強用戶體驗，提供超越人類能力的決策支持，已能夠應用於軟件開發、科學研究等多種真實場景。儘管大規模商業化落地仍在初步探索和孵化階段，但人工智能體所代表的虛實融合、人機深度互動等趨勢對經濟社會發展具有重要引領意義。然而，由於技術侷限，人工智能體也可能引發複雜的、動態的、不可預見的風險與隱憂。

從設計邏輯看，人工智能體需要通過控制端獲得認知能力，通過感知端從周圍環境獲取和利用信息，最終在行動端成爲基於物理實體進行感知和行動的智能系統。

在控制端，大型自然語言模型作爲人工智能體的“大腦”，通過學習海量數據形成知識，構成人工智能體控制系統中的記憶模塊，但其在生成內容的可靠性和準確性方面存在風險。比如，模型生成的內容可能不遵循信息源或者與現實世界的真實情況不符，產生所謂“機器幻覺”；由於訓練數據中的人類偏見，影響人工智能體的公平決策；等等。

在感知端，爲充分理解具體情境下的顯性信息和隱性信息，準確感知人類意圖，人工智能體將感知範圍從純文本拓展到包括文本、視覺和聽覺模式在內的多模態領域。這雖然提升了決策能力，卻在融合和分析不同渠道和類型的多源數據時可能引發一系列隱私泄露和數據安全風險。比如，不當使用和分享人臉信息、指紋、聲紋等高度個性化、具有永久性的生物特徵數據，導致長期甚至永久性的隱私風險。爲更好地處理複雜任務，部署多個人工智能體進行規劃、合作甚至競爭，以完成和提高任務績效的多智能體系統將成爲主流和常態。多個人工智能體的系統交互就可能引發不可預見的系統性安全風險。即使每個算法在單獨操作時看似安全和合理，但組合和交互之後仍可能產生完全不同且難以預測的風險，並迅速演化升級。比如，在股票市場中，如果人工智能被廣泛應用，多個算法自動識別股票價格微小變化，同時大量執行高頻交易進行套利，就可能引發股票市場閃崩的系統性安全事件。

在行動端，部署於真實物理環境的人工智能體將可能以更爲立體、擬人的形象呈現。與虛擬空間不同，現實空間依賴交互式學習方法，人工智能體需要豐富的、全方位的信息感知來觀察、學習和行動，通過基於反饋的學習優化能力，這可能對個人隱私構成全面性、侵入性和隱蔽性的風險。比如，解讀用戶的肢體語言並感知更加複雜的用戶活動，未經用戶授權持續隱秘地收集數據，一旦系統存在安全漏洞，可能引發巨大的數據安全風險。此外，隨着人工智能體自主性不斷提升，不僅可能干預和影響人類的認知和情緒，也挑戰着人類作爲獨立決策者和獨立行動者的能力與地位。比如，一些聊天機器人在與用戶的交互過程中就出現了影響用戶情感的輸出，有時是負面並且具有操縱性的。

面對人工智能體帶來的風險和挑戰，要讓人工智能體的行爲符合人類的意圖和價值觀，需要探索創新性的治理方案，保證人工智能安全監管制度切實管用。人工智能體的發展正處於“從零到一”的關鍵期。治理方案應具備以不變應萬變的能力，確保該技術的發展與應用始終處於可控的軌道上。人工智能體的開發、訓練、部署、運行和服務等環節經過高度專業化的分工，形成了複雜的分層結構。每一層均有不同的參與者、利益相關方和潛在風險因素，使人工智能體具有“模塊”化的產業鏈特質。因此，可以構建一種能夠覆蓋整個產業鏈和各個端層的模塊化治理框架，從數據模塊、算法模塊、模型架構等關鍵節點出發，設計相應的治理模塊。例如在部署環節，就可根據應用場景和部署模式的特性，靈活選擇、協同組合不同的治理模塊，構建與之相匹配的治理方案。模塊化治理框架提供了一種具有可操作性的分解方法，通過將治理目標拆解爲相對獨立但關聯耦合的治理模塊，漸序推動治理體系形成，不僅提高了治理的靈活性和針對性，還能夠適應技術的快速迭代。在構建基於數據、算法、模型和場景等維度的治理模塊時，應以技術賦能監管，打造與人工智能體模塊化治理框架相適配的、智慧化的治理工具，從而彌合風險動態性與監管靜態性之間的張力，實現對特定高風險場景的精準化治理。

要構建面向人工智能體的交互式治理生態。人工智能體具有深度交互性、高度互聯性以及動態適應性。相應地，治理方式應當超越傳統的以個體爲中心的治理，推動形成廣泛互聯、多方參與、多層次協作的治理生態。其中，技術開發人員、運營維護人員等技術社羣對於人工智能體的治理將起到至關重要的“吹哨人”作用。應更好發揮技術社羣的監督優勢，在人工智能企業內部構建有效的約束機制。還應積極提高廣大用戶的數字素養，增強其依法、安全、負責任使用人工智能體的意識，實現與人工智能體的良性交互，推動形成向上向善的運行狀態。