 |
| 美國的PauseAI志願者 |
中國國家主席習近平與美國總統唐納德·特朗普將於本月在華盛頓會晤，而人工智能將是重要議題。若雙方以技術競爭、相互猜忌的視角看待這一問題，達成任何諒解都幾無可能。但我們可以重構雙方對這項技術的認知，並採取同一立場，這也正是應對人工智能可能帶來的生存挑戰的第一步。
當前中美峰會的議程核心，似乎是確保強大的人工智能模型的安全，防止其落入恐怖分子與犯罪分子之手。但這一目標被雙方相互競爭引發的不滿所裹挾，中方不滿半導體限制，美方則擔憂開源模型以及未經授權的模型蒸餾行為。
所有這些問題，都建立在一個未經審視的前提之上：人工智能是一種工具，現在和將來都處在人類控制之下。這一前提把對話局限在諸如“我方如何在人工智能上取得競爭優勢”以及“誰有權使用乃至控制這項技術”之類的問題里。而超出這一前提的問題，尤其是“當這個工具演變為其他事物時，將會發生什麼”，則無從談起。
據人工智能研發從業者判斷，這個問題很快將無法迴避。Anthropic首席執行官達里奧·阿莫代伊預計，一至兩年內，人工智能系統將在大多數認知任務上匹配或超越人類能力。谷歌DeepMind創始人戴密斯·哈薩比斯則認為，達到這一成就也只是再需要數年時間。
無論你是否相信這些預測，其背後的技術趨勢都無可辯駁：人工智能行業正在構建能夠自主行動、自主設定目標、在無監督下完成長鏈條任務的系統。近幾周，在網絡安全基準測試中，一些實驗模型逃出被隔離的評估環境，黑入其他企業的生產服務器，僅僅是為了在測試中拿到更高分。這已經是行為主體的行為，而不再是工具的行為了。
我們不能坐等證據，來證明人工智能將演變為真正的獨立智能體。到那時（模型或許還能在一段時間內隱匿能力），人工智能早已深度嵌入金融、電信、國防、醫療及其他基礎設施，即便人類仍能切斷電源，這一舉動也等於引發一場文明層面的斷裂。到那一刻，我們面臨的選擇就不是共存和災難問題了。
當潛在後果具有系統性且不可逆時，準備工作就必須先於確證。這是保險機制、歷次疫情預案以及所有軍控條約背後的邏輯，也必須是指導我們應對人工智能的原則。世界必須開始為一種情景做準備，即這項技術跨過了其研發者早已預見的能力閾值。
若這一工作在即將到來的習特會上啟動，那麼雙方的談判將從根本上重塑。也許再沒有哪個議題能讓中美利益如此高度一致，因為任何一方都無法單獨管控人工智能帶來的風險，而一旦風險成真，雙方一切皆輸。中美一旦認清這一點，就不會再以對手身份在零和遊戲中爭奪優勢，而是會發現雙方並肩坐在桌子的同一側，面對兩國共同打造的技術。
誠然，這還不足以讓雙方同意設立一個有強制執行力的全球人工智能監管機構。所幸並不需要，至少現在不需要。我們當下需要的機構，是一個中性的、雙方共同認可的實體，監測人工智能能力並發布評估。正如政府間氣候變化專門委員會那樣，這一機構只描述進展，不出台政策指令。
與此同時，以中美為首的各國必須着手起草人機共存規則，以便監測機構確認預設警戒信號時，各國能有所準備。現在就這些規則進行談判，不會給政府施加義務，卻能確保一旦人工智能能力抵達臨界點，人類能夠拿出現成的備案，而非在壓力下倉促應對。
這一進程也會引出棘手問題：誰來核驗人類的緊急剎車仍然有效？誰有權啟動這一開關？人工智能系統如何能真正遵守這些規則？人工智能以毫秒為思考單位，數周內便迭代進化，而人類達成共識動輒數月數年，因此，我們應在尚有時間設計解決方案時，現在就着手處理這些問題。
習特會若能達成有關人工智能濫用與安全問題的協議，便可視作成功，但各方絕不能無視這項挑戰的真正分量。事實上，這或許是最後一代能夠從容地為挑戰人類主宰地位的智能做應對準備的談判者了。
全文翻譯自報業辛迪加（Project Syndicate），原文標題“Trump and Xi Should Align on AI”（2026）。
