論壇·全球人工智能治理 | 美國人工智能治理體系的底層邏輯淺析

掃碼訂閱《中國信息安全》

郵發代號 2-786

徵訂熱線：010-82341063

文 | 斂海智庫發起人、中國“智權”研究聯合實驗室高級顧問 嚴明

隨着美國的 OpenAI、谷歌、Meta 等科技公司不斷推出新一代人工智能（AI）應用，以大模型爲代表的生成式人工智能掀起全球人工智能技術發展新浪潮，引發輿論對人工智能領域風險控制的擔憂，也引發了對人工智能治理全面和系統的思考。例如，聯合國大會於 2024 年 3 月21 日通過的首個關於人工智能的全球決議《抓住安全、可靠和值得信賴的人工智能系統帶來的機遇，促進可持續發展》（Seizing the Opportunities of Safe,Secure, and Trustworthy Artificial Intelligence Systems for Sustainable Development）等，都是重要的信號。然而，我國國內大多數人工智能領域的研究者往往依託美國等西方國家的計算機科學理論與技術成果，進行人工智能的應用創新研究，習慣了強調場景應用，而忽視了人工智能的交叉學科屬性。其中，爲數不多的研究者會開展部分基礎理論研究。這種情況使研究人員對美國人工智能體系認知往往停留在碎片化、片面化過程與現象層面，缺乏對其背後通盤底層邏輯的系統性認知和理解。正所謂“沒有底層邏輯，聽什麼都對；沒有頂層設計，做什麼都錯”。爲了正確把握中國人工智能生態建設路徑和方法，避免盲目跟進，有必要展開對美國人工智能治理體系底層邏輯的通盤梳理工作，並持續對其進行研究。這在信息大爆炸時代並非易事，因爲除了要從人工智能發展的哲學科學史的實際情況出發，結合美國國家層面的戰略措施和美國智庫機構發佈的研究成果，通過對大量碎片化信息抽絲剝繭地分析探究美國人工智能治理體系的形成、特點與影響，才能揭示美國人工智能治理體系的底層邏輯。

一、美國人工智能治理體系的形成

美國在人工智能技術領域擁有全球領導地位，得益於其人才和教育機制、先進的科研基礎設施和重視科學研究、技術創新的社會文化土壤，以及政府和軍方的大力支持。所謂美國人工智能治理體系，簡言之，就是基於一套完整的系統邏輯、頂層設計框架下的技術演進和功能拓展脈絡。這個體系體現在其歷史背景、技術基礎和治理目標等多個維度。

（一）美國人工智能治理體系的形成離不開西方現代科學技術的發展歷史，包括西方哲學發展史

人工智能技術發展離不開哲學科學理論。人工智能領域相關的哲學和科學理論基礎可以追溯到兩千多年前的柏拉圖、亞里士多德，到康德、羅素、庫恩、維納、香農和圖靈等，再到當代的喬姆斯基、辛頓、楊立昆和弗里斯頓等，不勝枚舉。正是這個哲學家和科學家羣體，成就了今天龐大的現代科學技術體系，尤其是語言學、邏輯學、數學、物理學和生物學等，涉及計算機科學和認知科學、複雜性科學等諸多科學領域的研究和發展，對今天的人工智能技術發展具有深遠影響。實際上，人工智能並非單一學科研究，而是多領域知識融合的交叉學科和體系綜合。唯有對此有清醒認知，才能保持系統的思考能力。

（二）美國人工智能治理體系的形成與人工智能技術本身的發展歷史不可分割，並與其經驗來源相關聯

人工智能技術發展是伴隨整個科技發展演進的過程。20 世紀 50 年代，人工智能概念誕生。1950 年，被稱爲“人工智能之父”的英國計算機科學家艾倫·麥席森·圖靈（Alan Mathison Turing）提出的“圖靈測試”成爲評估機器智能的首個標準。1956 年，在美國漢諾斯小鎮召開的達特茅斯會議首次將討論的內容以“人工智能”作爲該領域的名稱，標誌着人工智能研究的正式起步。美國的政府和學界開始大量投資人工智能研究領域，尤其是國防領域。

從人工智能的科學研究範式角度看，先後出現了符號主義、連接主義、行爲主義三大派研究羣體。在六七十年代佔據主導地位的符號主義（或邏輯主義）認爲，智能可以通過符號操作實現。八九十年代興起的連接主義認爲，智能可以通過模擬人腦神經元的連接模式實現。這就是以神經網絡爲代表的機器學習、強化學習、深度學習。控制論範疇的行爲主義，作爲經典範式也隨着認知科學的出現，又爲人工智能發展提供了新的視角，強調模擬人類的認知過程，包括感知、記憶、學習、語言和問題解決等。

始終伴隨人工智能發展進程的關於強人工智能與弱人工智能的爭論，也是這個領域關注的焦點。強人工智能主張者認爲，機器最終會擁有與人類相似的智能，包括意識和自由意志等。弱人工智能主張者則認爲，機器雖然能模擬智能行爲，但不會具備真正的智能或意識。此外，包括哲學家在內的更多研究者和政策制定者開始關注人工智能倫理問題，例如機器的道德與責任、隱私權、自主性，以及人工智能給人類社會會帶來的影響等，而這又與人工智能哲學發展息息相關。在美國，人工智能技術的發展不僅推動了科技進步，也爲其社會和經濟帶來了深遠影響。

（三）美國人工智能治理體系的形成與美國日益增長的全球治理需求密不可分，尤其是國家安全需求

除了科學發現驅動技術進步，需求也是美國人工智能治理體系形成的重要驅動力。作爲數字科技領域的“國際公共產品”，人工智能技術除了爲美國社會服務外，更是其實現全球國際秩序、維護美國國家利益的重要手段。

人工智能在軍事領域的應用或許是美國人工智能治理體系最集中最充分的體現。依據美國《國家安全戰略》（National Security Strategy）和《國防戰略》（National Defense Strategy)，美國國防部制定頒佈了《國防部數字現代化戰略》（Department of Defense Digital Modernization Strategy），以及《國防部人工智能戰略》（Department of Defense Artificial Intelligence Strategy）等一系列 IT 現代化領域相關戰略文件，作爲人工智能領域頂層設計的依據。2022 年，美國國防部發布《負責任的人工智能戰略和實施途徑》（Responsible Artificial Intelligence Strategy and Implementation Pathway）文件，旨在以頂層設計推動人工智能技術快速發展，並在實戰中加強人工智能技術運用。可見，美軍數字化戰略包括的人工智能治理體系，具有明確而清晰的通盤邏輯。此外，美國國防高級研究計劃局（DARPA）作爲美國國防部下屬有軍事背景的研究機構，負責研發軍事用途的高新科技，專注變革性研發具有革命性思維的應用創新，通過對現有科學和工程概念的通過顛覆性理解，創新科學與工程範式，開闢新的領域。

一是美軍“馬賽克戰”計劃。於 2017 年由 DARPA 下屬戰略技術辦公室提出的“馬賽克戰”（Mosaic Warfare）作爲一種新興作戰概念，強調多種低成本、模塊化作戰單元的靈活組合，以柔性和動態重組能力形成可聚合、可疊加的殺傷鏈和強大的殺傷網，適應不斷變化的戰場環境和任務需求，推動美軍第三次“抵消戰略”（Offset Strategy）落地。“抵消戰略”是美軍爲了保持其全球軍事優勢而制定的戰略，旨在將人工智能、自主系統、網絡戰等先進技術作爲其核心組成部分，強調組合創新，包括認知域作戰在內的混合戰，形成新的不對稱競爭態勢，贏得未來戰爭。應用人工智能技術和全息數字化提升戰場態勢感知能力，是“馬賽克戰”的核心。這是爲精細化戰術需求提供的小戰術單元全息化數字支持，強調“局部就是整體”。在此基礎上，美軍又進一步擴展了聯合全域指揮控制（JADC2）體系，爲立體作戰打造強大的戰場全息數字化能力。

二是彈性智能下一代系統（RINGS）計劃。2022 年 6 月，DARPA 的 RINGS 計劃正式發佈，旨在融合人工智能技術和網絡技術，開發智能、彈性和可靠的下一代網絡技術，滿足未來以應用爲中心的網絡通信需求，包括但不限於提高網絡的安全性、增強抗攻擊和抗干擾能力，通過提升網絡智能化水平來更好地適應不斷變化的技術和用戶需求。

三是須臾之間（In the Moment）研發項目。2022 年 3 月，DARPA 啓動了 In the Moment 項目，旨在依靠人工智能技術減少美國軍方的人爲失誤。DARPA 認爲，去除決策過程中人的偏見可以“拯救生命”，需要開發能夠在高壓和複雜環境中進行快速、準確決策的人工智能算法，而算法目標需要與人類專家的決策過程保持一致，提高決策的可信度和效率。

深入研究美國 DARPA 的案例可知，其成績遠非如此。DARPA 的美國國防數字化戰略充分展示出美國人工智能治理體系背後的底層邏輯，其中，系統性頂層邏輯設計是實現持續創新能力的強大支撐。

二、美國人工智能治理體系的特點

相對系統而言，體系是一個更宏觀和廣泛的概念，在不同學科和領域擁有不同的定義和應用。體系概念強調了整體性以及相互作用關係，理解體系需要分析其組成部分及部分與部分間的聯繫。對體系的研究和分析有助於更好理解和解決實際應用中的複雜現象和問題，制定出有效解決方案，優化體系性能，實現對目標系統行爲的預測和控制。DARPA 在美國國防數字化戰略中提出的“系統之系統”（SoS）是一個強調複雜性的概念，指由多個相互關聯、相互影響的獨立系統組成的更大系統，以及系統和系統間的互相作用關係。按照漢語的習慣語境，與“系統之系統”相比，“系統體系”會是一個更貼切的表達。每個獨立的系統（子系統）都會有自己的目標、功能和管控模式。當它們之間以某種方式相互作用時，就會構成一個更高層次的整體，成爲一個更強大的系統。“系統之系統”不是爲了要形成一個統一和被集中控制的系統，而是要通過系統與系統的協同實現更高價值和更強功能。因此，“系統之系統”架構被用在最複雜的軍事作戰系統，使人工智能技術被最大化地應用於美國的國防數字化領域，成爲美國人工智能治理體系複雜性的集中體現和最佳實踐。

（一）美國人工智能治理體系的核心錨定在結構、功能和秩序，推動人工智能安全、負責、動態地可持續發展

美國人工智能治理體系特點還體現在因果凝聚角度，因爲美國人工智能治理體系在結構、功能方面不斷技術演進，持續影響社會秩序，很多結果是必然和應然的。人工智能技術發展到今天的自然語言、人機交互和大模型的迭代，其本質是生產力和生產關係的革命。

類似社會“子系統”互相協同工作，美國人工智能治理體系具有系統和全面的治理水平，體現了融合、漸進的治理特徵。它以行政治理爲先，以軟法約束爲主，對剛性立法起到了形塑和牽制的效應。爲確保人工智能技術在發展與風險管理之間實現平衡，同時維護美國全球人工智能領導者地位，從奧巴馬到特朗普再到拜登政府時期，美國人工智能發展和治理策略體現了延續性和漸進性，旨在保證美國人工智能領域的政策穩定性和可預測性，爲產業發展提供清晰方向。這在 2023 年 10 月拜登簽署的《關於安全、可靠和可信的人工智能的行政命令》（Executive Order on Safe，Secure，and Trustworthy Artificial Intelligence）中有所體現。作爲美國政府負責任創新綜合戰略的一部分，該行政令以美國總統之前採取的行動爲基礎，包括促使行業領軍企業自願承諾推動安全、可靠和可信的人工智能發展工作。該行政令包含八個目標：建立人工智能安全的新標準；保護美國民衆的隱私；促進公平和公民權利；維護消費者、病患和學生的權益；支持勞動者；促進創新和競爭；提升美國的海外領導力；確保美國政府負責任且有效地使用人工智能。該行政命令體現了美國政府在人工智能治理體系的全面佈局，旨在確保美國在人工智能技術領域保持領先地位，同時也要負責任地利用人工智能技術保護美國公民和國家利益。

（二）美國人工智能治理體系框架及特點體現了其頂層設計邏輯，具備動態適應和平衡全局的能力

美國人工智能治理體系的內涵與外延，充分反映其在促進技術創新和保護公共利益之間努力尋求平衡。美國人工智能治理體系框架的特點主要體現在六個方面。一是多方參與的治理結構。人工智能治理不是由單一機構負責，而是需要多個聯邦機構和政府部門協同工作。這種多方參與的治理結構，有助於更好地從不同角度審視和應對人工智能帶來的挑戰。二是漸進式的政策發展。美國人工智能治理政策是漸進式的，其發展和完善是一個持續的過程。三是原則性指導與行業自律。美國政府通過發佈一系列的原則性指導文件，鼓勵行業自願遵守相關原則並進行自我監管，其中，更加強調安全性、防止算法歧視、保護數據隱私等關鍵原則，引導人工智能健康發展。四是重視算法歧視和倫理問題。美國充分認識到人工智能系統在決策或服務時可能會產生對某些個體或羣體不公平的情況，因此在政策制定時會強調算法公平以及倫理審查的重要性。五是靈活的監管手段。美國更傾向於採取靈活的監管手段，而不是制定嚴格的法律框架，而且，善於用非強制性的指導原則，幫助企業和專家更好地評估人工智能風險。六是國際合作與領導。美國在人工智能治理方面注重國際合作與領導，支持全球範圍安全、可靠地部署和使用人工智能。然而，這一點在全球秩序重構尤其是中美競爭態勢下，由於捍衛美國科技霸權的需要正在發生變化。

（三）美國人工智能治理體系的治理目標是確保在人工智能技術發展與風險管理之間實現平衡

美國人工智能治理體系的治理目標集中體現在五個方面。一是促進人工智能技術創新發展。不斷推動人工智能研究的基礎設施建設，促進人工智能技術研發投資，在增強人工智能商業化應用同時，確保人工智能技術的安全性、可靠性，減少潛在負面效應和風險。二是保護美國的公民權利和隱私。美國提出使用人工智能的民主模式，提高人工智能技術使用的公共透明度，建立監督和審計機制，強調尊重隱私、公民自由和公民權利。三是維護美國的全球國際科技秩序。美國通過與盟國建立合作伙伴關係，制定國際技術標準，統一全球數字基礎設施和技術體系，合作促進人工智能技術創新，維護美國在全球高科技領域的領導者地位。四是贏得全球高科技人才競爭。美國推行高技術人才的移民戰略，不斷吸納全球頂級人才，確保美國在全球高科技行業持續保持競爭力。五是提升應對新興威脅的能力。美國政府認識到人工智能時代的新興威脅，但是，在面對惡意信息操作和網絡衝突等問題時，在面對戰略執行層面是應該防範還是利用威脅時，美國表現出兩面性。

三、美國人工智能治理體系的影響

隨着全球格局重塑和中美競合關係變化，美國人工智能治理體系正做出調整應對全球競爭新態勢下的挑戰和機遇。美國高度警惕中國在人工智能領域的發展，不惜採取一系列制裁措施保護其全球人工智能產業的領先地位，不斷通過貿易保護、經濟制裁、長臂司法管轄及外交施壓等手段，試圖將中國限制在人工智能產業鏈和價值鏈的低端。

在外交領域，美國會強制要求其盟友把遏制中國人工智能崛起作爲優先對華政策。美國人工智能治理體系的影響體現在政治、經濟、軍事、科技等不同領域。

在政治領域，美國會充分發揮人工智能在認知域作戰中的優勢，以“技術佔領、資本導演、全媒體傳播”的組合拳，通過人工智能技術提升信息傳播和輿論引導能力，爲美國創造更多優勢和主動權，以期在國際博弈中贏得更多國際社會支持，更有效地實現其政治和戰略目標。特別是美國人工智能技術在國家安全領域的應用，對中國構成嚴峻威脅。

在經濟領域，美國對中國不斷實施人工智能領域的高科技出口限制，以各種手段打壓中國高科技企業，以此阻礙中國數字經濟發展和產業升級。2024 年 3 月 13 日，美國衆議院以 352 票對 65 票的壓倒性多數通過《保護美國人免受外國對手控制應用程序侵害法》（Protecting Americans from Foreign Adversary Controlled Applications Act）法案，迫使字節跳動剝離 TikTok。可見，美國在高科技和人工智能領域對中國的態度是複雜且多維的，因爲這會影響美國全球霸權。

在軍事領域，以美國人工智能治理體系爲核心的“馬賽克戰”在俄烏衝突中得到充分實踐。“星鏈”的真相揭露了其背後的“馬賽克戰”邏輯，因爲它是同一個系統的不同子系統。這個體系支撐烏克蘭更持久地對抗俄羅斯。在中東戰場，哈馬斯、伊朗和胡塞武裝也學會了以“馬賽克戰”爲核心的混合戰新技能，讓以色列陷入前所未有的困境的同時，讓美國也陷入極大的戰略被動。在科技領域，美國爲阻礙其他國家人工智能技術發展而實施的輿論誘導，屬於認知域作戰範疇。如果通過媒體宣傳的內容看美國各大科技公司不斷推出人工智能技術和產品，就會由於缺乏對美國人工智能治理體系背後邏輯的理解，結果也只能是管中窺豹或瞎子摸象，錯把對象國家人工智能發展過程的片段當作整體，掉進美國戰略的陷阱，甚至在錯誤的方向上耗盡人力財力，失去戰略機遇。

總體而言，儘管存在競爭和對抗，美國和中國在人工智能領域也存在合作的空間，因爲兩國都是全球人工智能發展的重要參與者。然而，對於中國而言，如何利用已經掌握的人工智能技術賦能科學技術創新，加速推進解決卡脖子技術進程，立足中國的優勢找到適合國情的通用人工智能生態建設路徑和方法，是亟待解決的重要課題。

（本文刊登於《中國信息安全》雜誌2024年第4期）

分享網絡安全知識 強化網絡安全意識

歡迎關注《中國信息安全》雜誌官方抖音號

《中國信息安全》雜誌傾力推薦

“企業成長計劃”

點擊下圖 瞭解詳情