當前，人工智能技術的快速發展和現實應用越來越吸引國際社會的廣泛關注。2023年3月，OpenAI發佈的ChatGPT—4.0因其強大的對話功能迅速在全球“爆火”， 引發企業和實驗室搭建大模型的激烈競爭。2024年2月，OpenAI公布了旗下視頻生成模型Sora的演示視頻，其逼真的視頻效果令科技界驚嘆。伴隨着人工智能技術展露出的驚人效果，如何應對這項新興技術帶來的潛在風險成為國際輿論的討論焦點。科技和產業界發出多封公開信並呼籲高度重視“人類文明被機器終結”的可怕後果以及“滅絕性風險”。荷蘭、英國、新加坡、中國等國家以及不同國際組織在2023年舉辦了各種形式和範圍的論壇與峰會，探索人工智能全球治理的合作路徑。

中美作為兩個人工智能大國開啟了人工智能治理溝通的大門。2023年11月15日，中國國家主席習近平在美國舊金山斐洛里莊園同美國總統拜登會晤，兩國領導人達成建立中美人工智能政府間對話機制的共識。2024年1月27日，中共中央政治局委員、中央外辦主任王毅在曼谷同美國總統國家安全事務助理沙利文會晤，為落實兩國元首舊金山會晤共識，雙方同意在今年春天舉行中美人工智能政府間對話機制首次會議。

中美如何在有限的大國合作空間里務實尋求共識，恐怕是一項艱巨的政策研究課題。人工智能是應用場景廣泛的軍民兩用技術，在當前兩國互信程度較低且美國加大對華科技制裁的背景下，中美在較為寬泛的社會治理領域開展政策溝通進而形成某種共識的可能性要強於更為敏感的軍事安全領域。儘管如此，如何防範人工智能武器化應用衝擊中美戰略穩定關係依然是一個極為重要的話題。因此，我們希望通過回顧清華大學戰略與安全研究中心與美國布魯金斯學會舉行的“中美人工智能與國際安全”二軌對話，為中美之間人工智能領域的二軌對話和即將開啟的中美人工智能政府間對話提供參考。

一、“中美人工智能與國際安全”二軌對話的誕生與發展

（一）對話背景與緣起

自2016年谷歌AI系統AlphaGo戰勝世界圍棋冠軍李世石以來，人工智能技術的快速發展開始引發政策研究界思考AI與國際安全的關係。2017年7月，哈佛大學肯尼迪學院貝爾福科學與國際事務中心發佈《人工智能與國家安全》報告，認為未來人工智能有可能成為與核武器、飛機、計算機、生物技術不相上下的變革性國家安全技術。2018年5月，布魯金斯學會在《人工智能改變世界》報告中提出“極速戰”（hyper war）概念，指出戰爭是一個與時間賽跑的過程，決策最快和執行最快的一方通常會佔上風。彼時，政策研究界存在的一種預測是在人工智能輔助下的指揮和控制系統，其決策速度會超越傳統戰爭模式，能夠自主決定發射致命武器的自動武器系統將加速戰爭進程。

2018年，清華大學戰略與安全研究中心（以下簡稱戰略中心）在時任主任傅瑩大使的指導下啟動人工智能與安全項目小組，重點探討人工智能技術的發展對國家安全和國際關係的影響以及構建共同準則的可能性。2018年7月，清華大學第七屆世界和平論壇舉辦“人工智能與安全”分論壇，邀請來自美、英、法、德、澳、日、印等多國研究人工智能技術與治理的專家60餘人進行深入討論。專家們提出，雖然目前大致可以判斷出機器學習、工業機械人、材料科學等技術的未來發展趨勢，但這些技術結合起來給未來戰爭造成的具體影響尚無法準確預估。在討論中，有專家認為，無論“算法戰”還是“蜂群”戰術，戰略界的熱議都還是從單項技術出發分析其對作戰的影響，如果不能從整體上認識人工智能技術的軍事運用，設想出來的應對措施有可能成為昂貴而無用的新“馬奇諾防線”。2019年7月，在清華大學第八屆世界和平論壇“人工智能：技術與治理”分論壇上，人工智能與軍事結合的問題繼續得到廣泛的關注。不少專家認為，人工智能的軍事化運用是一把“雙刃劍”，它擁有的“機器學習”和“自主能力”既可以增加預警、防禦、偵查、模擬能力，增強戰略穩定性，也可能改善非戰略核武器和導彈系統，推動軍備競賽，加劇不對稱性，從而帶來戰略不穩定性。

同年11月，在彭博創新經濟發展論壇的AI分論壇上，傅瑩在與基辛格博士和時任谷歌公司首席執行官斯密特（Eric Schmidt）先生同台討論時提出一系列發人深省的問題：“我們在談論未來和如何面對技術進步之前，首先需要想明白，中美是要協調合作還是彼此對抗？當前兩國之間日益惡化的緊張關係必然會影響到我們如何應對未來的挑戰。未來我們是要共同努力，讓技術與人類共生，讓世界避免技術風險，並確保技術的進步能夠促進文明的繁榮，還是要分道揚鑣，各自挾持技術削弱甚至傷害對方？”

2019年10月，清華大學戰略中心與美國布魯金斯學會正式啟動“人工智能與國際安全”聯合研究項目。從2019年至2024年，雙方的學術討論在過去近五年時間裡頓挫推進。其間，中美戰略分歧上升、相互信任下降，但是，參加項目的雙方學者都認為，對AI賦能的武器，尤其自主性武器的治理事關重大。這個項目的進程從一個側面反映了大國博弈中前沿學術合作研討的艱難，但其成果令人鼓舞。

（二）艱難的對話議題探索

自2018年3月特朗普對華啟動所謂的“301調查”之後，中美關係因“貿易戰”“科技戰”“輿論戰”等諸多摩擦而迅速惡化，政策研究界一度用“斷崖式下跌”“新冷戰”來描述彼時的情景。在這種激烈的大國競爭背景下，中美之間的不少官方對話被迫中斷，人工智能治理合作等尚未進入政策辯論核心的議題更奢談提上日程。

新冠疫情期間，政策研究界圍繞人工智能軍事化的安全風險展開討論，尤其是人工智能融入軍事體系後對戰略穩定性的衝擊效應幾何是一個重要的研究議題。對於人工智能武器化所產生的國際安全不確定性，大體上有三類觀點。變革派認為，技術優勢國家的軍事實力將迎來“質”的突破，令技術弱勢方只能處於被動挨打的狀態。特別是在戰略領域，人工智能強大的精確打擊、精準識別以及快速決策的賦能效果將削弱二次核打擊國家的核報復能力，這或將降低危機穩定性。演進派則認為，人工智能只會起武力“放大器”的作用，依賴二次核打擊的國家可以通過提高報復力量的生存能力抵消技術劣勢。謹慎派強調，人工智能的賦能好處還不明確，其固有的不足可能限制軍事部門的快速部署。

在人工智能軍事化的安全風險和治理手段尚不清晰的前提下，項目專家圍繞相關議題進行了艱難的議題探索。項目最初的焦點是如何圍繞AI賦能武器建立一定的治理共識和規則。在2020年—2021年的第二輪至第四輪對話會上，雙方專家圍繞人工智能軍事化應用的目標識別範圍、符合比例原則等國際法準則、訓練數據和系統安全以及中美治理合作等議題各自提交論文，並在會議上就相關問題開展交流。在這些討論中，兩國的專家認識到彼此關於人工智能軍事應用給國際法、國際安全帶來的新挑戰以及兩國的潛在關切，探討了在軍事人工智能研發、部署和應用各個環節採取不同程度預防性措施的可行性。例如，雙方專家都認同不將民用設施作為智能武器的攻擊目標，不對民用機場、大壩等基礎設施進行攻擊。

這一對話平台為推動中美人工智能治理的政策研究提供了重要的交流渠道。一方面，對話所涉及的議題和概念更加清晰，為中美開展危機預防和危機管控的探索性研究提供了不同視角。例如，一國武器的自主化程度和進攻性效果越強就越有可能加劇安全困境，而要緩解安全困境所要採取的預防性措施之一則是在加強技術安全和穩定性的同時對攻防予以區分，從而降低意外和維持攻防平衡。另一方面，專家層面的政策溝通增進了對彼此國家政策的理解。例如，對官方文件中核心概念的直接溝通更有利於減少因語言和文化差異所產生的誤解。

（三）聚焦中美建立人工智能信任措施

在前期的對話中，兩國專家除了要克服疫情對人員國際流動所造成的技術困難之外，還面臨三方面的研究難題。一是因中美關係惡化，很難找到具有可操作性的兩國合作方案。二是人工智能軍事化應用的案例相對較少，難以評估其對國際安全和穩定所產生的衝擊效果，更難以根據現實情景深入討論相應的預防措施。三是對涉及人工智能軍事化的相關術語存在不同的理解，這不免降低了雙方專家的溝通效率。

雖然對話面臨上述理論和現實的種種困難，但是雙方團隊從維護兩國戰略穩定關係的角度出發對如何建立信任措施做了不少探索性工作。在2023年2月的第七輪對話會上，中方專家提交了基於對八位中國專家和七位美國專家就中美人工智能建立信任措施進行訪談的報告。中美專家總體認同，政治互信下降、軍事對抗趨緊、科技競爭激烈等因素增加了兩國建立人工智能信任措施的不確定性。而從建立信任措施的角度出發，兩國自願增加政策透明度、開展政策溝通的可操作性相對較高，而開展核查檢驗則面臨不小的技術難題和缺乏政治互信的挑戰。

為了克服人工智能軍事化現實應用案例相對不足的挑戰，雙方團隊設計了不同的討論場景。場景小組付出巨大努力，設計了包括致命性/非致命性自主武器的應用、自主/智能技術在太空和深海的使用、大模型為戰場提供決策支持以及人工智能干預選舉造成雙方軍事衝突等多樣化場景。值得注意的是，在場景推演的過程中，中美專家都強調了人類在危機管控中所發揮的重要作用。其中潛藏的政策含義是兩國建立信任措施有可能緩解人工智能軍事化應用所產生的國際安全不確定性，大國開展負責任的溝通對話能夠起到應對當前國際輿論所謂的人工智能“滅絕性風險”的作用。

為解決中美專家組對人工智能軍事化的相關術語存在不同理解的問題，雙方團隊成立術語工作組，並於2023年8月10日就人工智能術語表的框架和詞條目錄舉行了第一輪交流會。在此後的交流中，中方專家組提出相關術語64條，美方專家組提出42條，雙方作出共同解釋的術語共25條。2024年2月，在慕尼黑舉行的第九輪對話中，雙方重點探討了六條核心術語，包括武器系統、無人系統、自主武器系統、致命性、自主與自動化、人機交互。中美專家圍繞自主與智能的區別、人機互動的相關術語依然存在部分分歧，這不僅反映出人工智能這項技術的複雜性，也在某種程度上映射了實施相關軍控措施的艱難程度。

二、中美“人工智能與國際安全”二軌對話經驗總結

“軌”（Track）這個術語最早是由前美國外交官約瑟夫·蒙特維利（Joseph Montville）在1987年提出，用來指非國家行為者參與的非官方外交領域的談判活動。他同時指出，二軌外交是指在有衝突或爭端的組織或者國家之間進行的一種非官方的、非正式的接觸和互動，其目的是通過尋找戰略方法，影響輿論並組織人力、物力資源以解決衝突。中國學者朱旭峰則認為，二軌外交是指指社會知識精英層的國際合作與對話，尤其是指那些政策研究專家。他同時引用美國東西方中心主任莫里森（Morrison）的觀點，將二軌外交的作用歸納成：支持一軌政策、提供並試驗新思想、提供思想資源的儲備等。

清華大學戰略中心與布魯金斯學會的“人工智能與國際安全”聯合研究項目也被雙方項目團隊冠以二軌對話之名。項目之初，中方牽頭人為中國外交部前副部長、時任清華大學戰略與安全研究中心主任傅瑩，美方牽頭人為時任布魯金斯學會主席、退役海軍上將約翰·艾倫（John Allen）。在團隊成員方面，由於討論的議題跨越多個學科，需要技術人員和政策研究者一起探討，雙方分別邀請了研究中美關係、人工智能技術、治理和軍事應用以及軍控領域的學者與專家參與。

項目自2019年底啟動，2020年2月在慕尼黑舉行第二輪對話後即遭遇新冠疫情。此後三年間，雙方團隊克服種種挑戰，以線上視頻會議的方式完成了數輪對話。2020年12月，傅瑩和約翰·艾倫在美國Noema雜誌分別發表文章，公布聯合研究成果，介紹雙方專家的討論和主要觀點，旨在提高國際社會和兩國各界對人工智能武器化風險的認知和警惕，並提出治理建議。在對話的地點、主題、形式以及參加人員方面，雙方始終保持以友好協商的方式做出安排，即使在中美關係陷入低谷，官方溝通渠道一度中斷之時，中美項目組仍保持每年兩次的對話節奏，並挑選第三國作為面對面對話地點。為更好地為一軌政策提供支持，雙方智庫以邀請官方人員作為觀察員旁聽會議、適時向政府部門提交會議總結、彙報項目進展等方式，持續保持與各自政府機構的互動和溝通。2024年4月，中美項目組在各自機構網站上發佈階段性項目總結，對過去五年九次對話取得的共識與進展進行了梳理，並對下階段工作進行展望。

在與美方對話過程中，戰略中心逐漸形成以項目為牽引的穩定的跨學科研究團隊。項目組定期召開研討會，圍繞人工智能技術與治理以及軍用人工智能的倫理、法律、技術、軍事和治理機制等問題邀請嘉賓分享或進行討論，逐步形成人工智能軍事應用領域的學術共同體。項目組在與美方進行交流的同時，也在逐步開展與歐洲、東南亞國家智庫的對話與交流。

三、中美人工智能二軌對話的作用探討

通常而言，在國家間外交溝通不暢的時候，民間對話可以起到維持溝通渠道、為官方政策制定提供信息和智力支撐的服務作用。而在中美就人工智能治理的官方接觸將要啟動的當下，民間對話對外交溝通將起到重要的支撐作用。

自兩國領導人達成建立中美人工智能政府間對話機制的共識以來，中美之間在人工智能領域的二軌對話紛紛出現，在中美各種二軌對話平台上，人工智能也成為越來越熱門的議題。此外，在各類人工智能相關的國際論壇上，中美不僅發揮着議題設置、嘉賓邀請的引領性作用，同時兩國在人工智能治理問題上的互動也備受各方關注。

為實現二軌外交更好為一軌外交提供支撐的功能，一方面，二軌對話可就中美政府間對話可能長期關注的議題進行研究。例如，梳理人工智能技術和應用的關鍵術語，進一步探索中美開展治理合作的法律和政策基礎，挖掘兩國維護戰略穩定關係的共有規範和規則。對今年春季將舉行的中美人工智能政府間對話而言，寬泛的人工智能治理議題可能比敏感度較高的軍用人工智能更容易被提上日程。2024年美國即將舉行總統大選，新政府對華戰略尚不明確，未來中美人工智能政府間對話是否能繼續開展仍存在不確定性，更遑論就人工智能軍事議題進行溝通。因此，聚焦于軍事領域的中美人工智能二軌對話依然需要發揮維持溝通管道和開展探索性研究的作用。

另一方面，二軌對話可開展人工智能“風險識別”研究。例如，評估人工智能大模型的現實應用引發的全球安全風險，研判人工智能軍事化應用可能在哪些方面增加兩國戰略關係不穩定性。就識別人工智能武器化風險而言，一個方向是，探索建立劃分武器裝備的自主/智能水平的框架，並且基於開源情報對相應的武器裝備進行歸類。另一個方向是，以納卡衝突、巴以衝突、烏克蘭危機等等近年來的武裝衝突為重點，梳理可能不利於維護國際安全穩定和違反國際道義的現實案例。例如，某些武器裝備在使用中出現意外的案例，違反國際法相關武力使用原則的案例，等等。

在提供並試驗新思想以及提供思想資源的儲備方面，中美二軌對話似可突破官方障礙，更多在民間層面探討中美在人工智能領域進行合作的空間和方式。作為人工智能技術和應用發展最快的兩個國家，中美在此領域開展對話與合作至關重要，一方面可降低這一領域影響中美雙邊關係和國際安全的潛在風險，另一方面可探討如何推動構建國際層面的規範和制度，為全球人工智能治理合作貢獻智慧。