English簡體繁體
【熱點話題】:美國大選 中美關係 全球治理 氣候變化 脫鉤
中文英文中英對照

軍備控制的經驗教訓:美中就人工智能達成協議勢在必行

2023-08-30
軍備.jpg

作為加州大學伯克利分校人工智能領域的新聞撰稿人和講師,以及此前報道亞太事務的記者,我職業生涯的大部分時間都在分析技術、政策和國際外交的交匯領域。今天,我想強調,美中借鑒全球武器條約的歷史先例,包括標誌性的《核不擴散條約》(NPT),就人工智能監管達成雙邊協定,是十分重要的。

今年,生成式人工智能技術蓬勃發展,表明人工智能已經迅速從科幻小說題材轉變為現實生活的基礎。人工智能系統驅動汽車,為各行各業提供動力,並且越來越多地影響着軍事決策。人工智能有可能徹底改變我們生活的許多方面,這一點是無可爭議的。然而,與所有強大的技術一樣,它也帶來了重大風險——如果不加以控制,可能破壞雙邊和全球關係的穩定。

人工智能可以為軍事行動提供巨大的戰略和戰術優勢。它能夠快速處理大量數據,識別人類無法識別的模式,並在複雜且快速變化的情況下提供快速決策。然而,另一方面卻是一場新的人工智能軍備競賽,有可能引發衝突、滋生不信任並破壞全球穩定。(今年早些時候,由於擔心人工智能對社會造成的潛在危險和影響, 數千名科技領袖呼籲禁止開發最先進的人工智能系統。)

這種情況令人毛骨悚然地想起冷戰期間世界面臨的核難題。隨着核技術的發展,出現了一個悖論——雖然具有發電等和平應用方面的潛力,但它也化身為“相互保證毀滅(MAD)”的幽靈。

正是在這種背景下,1968年《不擴散核武器條約》應運而生,它旨在防止核武器擴散、促進裁軍、促進和平利用核能。該條約體現出對共同安全、建立信任和透明度的承諾,這對於維持脆弱的平衡至關重要。

同樣,人工智能的興起也造成了軍民兩用的困境。人工智能具有顯著提高生產力、解決複雜問題,並創造巨大經濟和社會效益的潛力。然而,如果不受監管,它有可能對美中關係和全球層面的穩定構成重大威脅,特別是在軍事領域。

人工智能驅動的軍備競賽可能帶來的場景是,由機器驅動的快速決策繞過人類的深思熟慮和判斷,從而無意中加劇衝突。這些自動化決策可能無法完全考慮地緣政治的細微差別和長期影響。此外,在追求優勢的過程中,各國可能越過道德界限,創造出無需人類干預即可行動的人工智能武器,進一步擴大意外對抗的風險。缺乏標準化的人工智能規範,還可能導致各國沉迷於秘密的人工智能活動,從而加劇相互猜疑,並增加因為誤解意圖而採取先發制人行動的幾率。某種程度上,冷戰時期的核對峙因為“相互毀滅”而得到緩解。但是,人工智能缺乏這種相互明確性,尤其是在早期階段。

以《不擴散核武器條約》為模式,美中就人工智能監管達成雙邊協議,可能有助於應對上述威脅。該協議應涵蓋限制自主武器的開發和部署、提高人工智能研究和開發的透明度,以及促進共同利用人工智能應對氣候變化和疾病爆發等共同挑戰等。

考慮到中美之間持續的戰略競爭,這樣的協議至關重要。兩國都處於人工智能技術的前沿,並且擁有保持競爭優勢的巨大動力。如果沒有達成協議,已經成為兩國競爭新戰線的人工智能,將有可能破壞穩定,加劇地緣政治緊張局勢。目前的地緣政治緊張局勢已經相當嚴重了。

在美國,正如科技領袖7 月份在國會作證所說,人們擔心中國可能在人工智能領域領先。一群受美國兩黨支持的參議員計劃推出《全球技術領導力法案》,該法案旨在應對人工智能的崛起以及美國的競爭者和對手對人工智能的運用。該法案出台之際,參議院多數黨領袖查克·舒默誓言要把解決人工智能問題作為優先事項。根據該法案,將設立一個辦公室,分析相較於中國等競爭對手,美國在人工智能等關鍵技術方面的競爭力。

與此同時,中國國家主席習近平敦促中國抓住人工智能和其他新突破帶來的機遇。在周五的經濟會議上,他表示中國應該這樣做,以此促進國家工業體系的現代化。

這種雙邊協議不僅是為了防止衝突,它還將釋放人工智能促進合作的潛力。人工智能領域的合作,可以幫助美國和中國更有效地利用這項技術造福社會,促進相互理解,促進共同的規範和價值觀。

人工智能代表着前所未有的挑戰,但也代表着機遇。汲取核時代的經驗教訓,我們可以開闢出一條利用人工智能潛力並降低其風險的道路。中美關於人工智能監管的雙邊協議是這條道路上的重要一步,不僅塑造着兩國的未來,也塑造着整個世界的未來。儘管任何協議的執行都是極其困難的,但必須建立起有關人工智能的參與規範和規則,為全球穩定奠定基礎。

我們必須記住:在互聯互通的時代,全球安全比以往任何時候都更加相互交織。不受控制的人工智能軍備競賽不僅是雙邊問題,也是全球問題。為了我們共同的未來,讓我們以應有的尊重、合作和嚴肅態度對待人工智能。