在Mythos之後，放任自流的做法在政治上已難以維繫，在戰略上也不再明智。
是否應當把世界上最強大的新技術託付給少數幾個人？五位科技極客名氣之大，僅憑名字就足以讓人認出他們：達里歐·阿莫戴(Dario Amodei)、德米斯·哈薩比斯(Demis Hassabis)、伊隆·馬斯克(Elon Musk)、馬克·祖克柏(Mark Zuckerberg)和山姆·奧特曼(Sam Altman)。他們對將塑造未來的人工智慧模型擁有近乎神祇般的掌控力。川普政府一直袖手旁觀，即便這些模型已經獲得令人瞠目的能力也依然如此。政府相信，私人企業之間不受束縛的競爭，是確保美國在同中國的AI競賽中取勝的最佳方式。
直到現在。突然之間，美國對AI採取的這种放任式處理方式似乎即將走到盡頭。原因在於，這些模型令人眩目的進步同樣對美國自身國家安全構成威脅，令川普政府中一些原本更擔心監管過度的成員感到不安。與此同時，美國選民日益增長的反感情緒正在使AI變成一個政治爭議焦點。放任自流的做法在政治上已難以維繫，在戰略上也不再明智。
分水嶺是Anthropic於4月7日宣佈推出Claude Mythos。這家模型開發商的最新成果在發現軟體漏洞方面表現驚人，一旦落入不當之手，它將威脅從銀行到醫院等關鍵基礎設施。AI模型也日益帶來其他風險，從生物安全隱患到產業化大規模詐騙，不一而足。
Anthropic負責人達里歐·阿莫戴明智地認為，Mythos過於危險，不適合面向普通使用者發佈。相反，他將其保留給計算、軟體和金融領域約50家大型企業使用，以便這些企業增強自身防禦能力。美國財政部長斯科特·貝森特對此深感不安，以至於召集各大銀行舉行緊急會談。
這並不是政府第一次採取行動。就在幾周前，阿莫戴拒絕允許Anthropic的模型用於完全自主武器或大規模國內監控，隨後五角大樓介入。當時，川普政府同樣感到警覺，原因也是一家單一企業對一項事關國家安全的技術擁有如此強大的支配力。
選民中的反彈將進一步加大政府干預的壓力。民意調查正促使越來越多政界人士認為，AI將成為2028年選舉中的重大議題之一。美國人對AI的懷疑程度遠高於其他國家民眾。十分之七的美國人認為AI將損害就業機會，這一比例較一年前大幅上升，而且他們還遠未掌握充分證據。基層對資料中心的反對聲浪正在高漲，儘管AI與電價上漲幾乎沒有關係，甚至毫無關係。作為一個時代風向標，OpenAI負責人山姆·奧特曼的住宅近日已兩次遭到襲擊。
歷史表明，對於AI這樣足以改變世界的技術而言，一個Mythos時刻不可避免。從約翰·D·洛克菲勒到亨利·福特，美國偉大的工業創新曾由少數男性主導，而這些人隨後獲得了極大權勢。最終，20世紀各國政府出手馴服權力過大的行業，從拆分標準石油公司的反托拉斯行動，到聯準會的創設，再到AT&T的拆分，不一而足。那些年代的政治極化和社會躁動程度至少不亞於今天。而我們的測算表明，如今這些AI諸神的支配地位尚未超過他們那些歷史前輩。
但歷史同樣表明，控制AI將困難重重。部分原因在於，一旦事情出錯，代價極高。另一個原因在於，AI正以極高速度演進。
其中的取捨極為尖銳。經濟增長將受益於AI紅利的快速擴散，但潛在反彈很容易導致監管過度。什麼都不做，可能讓美國容易受到惡意使用AI引發的混亂衝擊；但監管過度則會確保◻️◻️贏得AI競賽。這使當下成為一個危險時刻。
時間已經不多。兩年前，在拜登政府時期，關於監管的討論主要圍繞AI的潛在風險。如今，其能力已經強大到令人警覺，而且每一次發佈都會變得更強。創新速度意味著，過去需要幾年甚至幾十年展開的政府適當角色之爭，如今必須在數月內解決。
而且，採取更強干預路徑所面臨的技術障礙也令人望而生畏。國有化等政府控制工具並不有效，因為優秀工程師可以在企業之間自由流動，算力也已成為一種商品化資源。更糟的是，領先模型開發商只比開源競爭者領先數月，其中也包括◻️◻️的開源競爭者。它們模型的能力遲早會向所有人開放。
即便如此，Mythos時刻仍可能成為控制AI的可行方案開始成形的節點。可信使用者將獲得最強大新模型的早期使用權：OpenAI正效仿Anthropic，把其最新工具推出給一組有限的、經過稽核的網路安全專業人士。在允許這些模型廣泛商業化之前，政府可以要求由行業主導的機構對其不同用途進行測試，並出具認證。
極客獻禮，不可不防
這一設想對大型模型開發商和政府都有好處。它避開了設立新監管機構的漫長過程。通過只允許少數高端使用者使用，它使模型開發商能夠收取更高價格，並限制稀缺算力的使用。與此同時，政府可以限制最強大模型的使用者範圍，從而降低◻️◻️複製這些模型並更快追趕的風險。
但它也存在嚴重問題。有限發佈將削弱競爭，並增強既有AI公司的影響力。它將減緩AI紅利的擴散，並在美國經濟內部製造一種雙層體系，使大量企業處於不利地位，因為它們會反覆被排除在強大新模型的特權性早期訪問之外。如果打造AI防禦能力需要很長時間，甚至根本不可能做到，又該怎麼辦？開源模型又怎麼辦？怎樣才能要求它們也遵守這些規則？
建立在這些基礎上的監管體系可能會被證明是不公正的。圈內人可以保護自己免受前沿威脅；圈外人則只能寄希望於好運。遊說和獲取超額利潤的空間將極為巨大。這將考驗美國現代政治時代最明目張膽腐敗的一屆政府的誠實與能力。而一種把權力和財富進一步集中到少數AI諸神手中的解決方案，可能會加劇正在讓華盛頓感到擔憂的那種政治反彈。
此外，Mythos路徑至多隻能是半套解決方案。AI安全無法僅靠一國之力實現。最終，它將需要國際合作，首先是與◻️◻️合作。如今對網路安全的新關注，也需要同對AI經濟和社會影響的緊迫思考相匹配。如何應對就業衝擊，以及如何設計一套適應AI時代且有利於勞動者的稅制，都是巨大難題，而目前還沒有人給出好的答案。這種狀況必須改變。Mythos時刻是AI安全的一記警鐘。它也要求人們在其他領域進行嚴肅思考。■ (一半杯)