本文作者：塞巴斯蒂安·馬拉比是美國外交關係委員會的高級研究員，著有《無限機器：德米斯·哈薩比斯、DeepMind 和超級智能的探索》一書。他與他人共同主持了美國外交關係委員會的播客節目“溢出效應”。
2022年，拜登政府試圖通過限制向中國提供尖端半導體來遏制中國在人工智慧領域的發展。川普總統略微放鬆了這項政策，但並未提出明確的替代方案。
但晶片出口管制已經失敗。中國的科技產業過於發達，無法阻止其開發強大的人工智慧。美國在追求一個不可能的目標時，錯失了一個機會，那就是嘗試一個聽起來異想天開，但在我最近一次中國之行後，我認為這個目標更為現實：美國應該與中國談判達成一項全球人工智慧安全協議，對這項技術施加普遍的限制。這項技術可以造福人類，但如果落入不法分子手中，也會造成巨大的危害。
美國人工智慧科學家過去常說，競爭對手能否快速跟進無關緊要。他們認為，“智能爆炸”即將到來。人工智慧系統很快就能將升級寫入自身程式碼：人工智慧會創造出更優秀的人工智慧；更優秀的人工智慧又會創造出更優秀的人工智慧；遞迴式的自我改進將使性能飛速提升。率先達到所謂“奇點”的國家將成為人工智慧競賽的贏家，即便快速跟進者只落後領先者幾個月。在拜登政府實施晶片控制三年半之後，人工智慧已經開始生成程式碼進行自我升級。承諾的反饋循環已經啟動。
但領先模型的加速發展並不能決定人工智慧競賽的最終贏家。人工智慧的部署才是關鍵。要變革經濟和軍隊，人工智慧必須融入業務流程和武器系統。尖端模型的強大功能必須轉化為實際應用。
結論是，中美兩國在人工智慧競賽中大致勢均力敵。中國頂尖的人工智慧模型可能比美國落後幾個月，但在工業應用領域，中國似乎處於領先地位。像華為和海康威視這樣的公司正在推出人工智慧系統，用於對高速列車進行維護檢查、管理採礦作業以及掃描水樣以評估污染情況。最近，我在深圳附近的華為園區體驗了一輛自動駕駛汽車。副駕駛座上的裝置為我按摩背部，方向盤的操控也堪稱完美。
支援晶片管制的人仍然堅持認為，即使只是略微減緩中國人工智慧的發展速度也值得追求。如果中國是一個強大的對手，那麼想像一下，如果取消晶片管制，它會變得多麼強大。但是，這些管制並沒有帶來限制中國人工智慧發展的預期效果，因此值得考慮其代價。我的中國之行讓我確信，代價太高了。
拜登政府做出了一項戰略選擇，優先遏制中國的發展，而不是解決其他擔憂。另一種選擇是對中國說：你們是科技超級大國，我們也是科技超級大國。讓我們攜手合作，確保人工智慧不會落入流氓國家和恐怖分子之手。其目標本應是建立一項類似於1968年《不擴散核武器條約》的人工智慧保障機制，要求所有使用人工智慧的國家簽署保障措施。
拜登團隊原本認為中國不會在這類事情上合作。但與北京、上海、深圳和杭州的十幾位人工智慧領域領軍人物的對話讓我清楚地認識到，中國精英階層確實非常重視人工智慧安全。
我拜訪了一家知名科技公司，該公司建構並分發人工智慧基礎模型。目前，該模型是開放原始碼的，這意味著使用者可以隨意下載和修改。如果使用者指示人工智慧發起網路攻擊，任何人都無能為力。但這家科技公司的首席執行長卻做出了一個驚人的坦白：隨著人工智慧變得越來越強大，繼續將其開源簡直是瘋了。他補充說，你不會開源核武器吧？
在我的訪問期間，圍繞先進人工智慧模型OpenClaw的爭議凸顯了人們對人工智慧安全性的日益關注。大量中國普通民眾下載了這款數字助手，渴望體驗功能強大的AI代理。這種熱情似乎印證了中國對創新的熱愛遠勝於恐懼。但研究人員和行業領袖告訴我，他們對此感到震驚。一位著名的商學院教授告訴我，OpenClaw會讓你的電腦“裸露”。
假設美中對話是可能的。西方不應陷入自我實現的宿命論。冷戰期間，美國曾多次通過從對抗轉向緩和來維護自身利益：《不擴散核武器條約》的簽署距離古巴導彈危機僅六年。現在正是回顧這段歷史的好時機。 (invest wallstreet)