放任自流的做法在政治上不再可行，在戰略上也不再明智。
是否應該將世界上最強大的新技術託付給少數幾位精英？五位極客——達里歐、德米斯、埃隆、馬克和山姆——名氣大到只需名字就能辨認，他們幾乎擁有神一般的權力，掌控著將塑造未來的人工智慧模型。儘管這些模型已經擁有了令人瞠目結舌的能力，川普政府卻袖手旁觀，堅信私營企業之間不受限制的競爭才是確保美國在人工智慧競賽中勝出的最佳途徑。
直到現在。突然間，美國對人工智慧的自由放任態度似乎即將終結。原因在於，這些模型令人眼花繚亂的進步也對美國的國家安全構成了威脅，這令川普政府中那些此前更傾向於過度監管的成員感到不安。與此同時，美國選民日益增長的不滿情緒正使人工智慧成為一個政治焦點。放任自流的做法在政治上不再可行，在戰略上也不再明智。
4月7日，Anthropic公司發佈了Claude Mythos，這成為了一個轉折點。這家模型製造商的最新成果在發現軟體漏洞方面表現出驚人的能力，一旦落入不法分子之手，將對從銀行到醫院等關鍵基礎設施構成威脅。人工智慧模型也日益帶來其他風險，例如生物安全隱患和大規模詐騙。
Anthropic公司的老闆達里歐·阿莫迪明智地認為Mythos過於危險，不宜公開發佈。他將其保留給大約50家大型企業使用，這些企業涵蓋電腦、軟體和金融領域，旨在幫助它們增強自身的防禦能力。美國財政部長斯科特·貝森特對此感到非常不安，以至於他召集了各大銀行進行緊急磋商。
這並非本屆政府首次採取行動。就在幾周前，阿莫迪先生拒絕允許將公司的模型用於全自動武器或大規模國內監控，五角大樓隨即介入。當時，川普政府也感到震驚——因為一家公司竟然能對一項關乎國家安全的核心技術擁有如此巨大的影響力。
選民的強烈反對將加大政府干預的壓力。民意調查顯示，越來越多的政客認為人工智慧將成為2028年大選的重要議題之一。美國人對人工智慧的懷疑程度遠高於其他國家的民眾。十分之七的美國人認為人工智慧會損害就業機會，這一比例較一年前大幅上升（而且他們當時還沒有確鑿的證據）。儘管人工智慧與電價上漲幾乎毫無關係，但民眾對資料中心的反對聲浪卻日益高漲。作為時代變遷的標誌， OpenAI負責人薩姆·奧特曼的住所近日兩次遭到襲擊。
歷史表明，人工智慧這樣一項足以改變世界的技術，其神話般的崛起是不可避免的。從約翰·D·洛克菲勒到亨利·福特，美國偉大的工業創新都由少數幾位權力巨大的人物引領。最終，20世紀各國政府介入，以約束那些權力過大的行業，例如通過反壟斷法拆分標準石油公司，建立聯準會，以及拆分AT & T公司。當時的社會至少與今天一樣兩極分化、動盪不安。而我們的計算表明，人工智慧領域的“神明”們如今的統治力並不比歷史上的那些人更強。
但歷史也表明，控制人工智慧將充滿挑戰。部分原因是一旦出現問題，後果不堪設想。也因為人工智慧正以驚人的速度發展。
權衡取捨十分棘手。人工智慧的快速普及將促進經濟增長，但潛在的負面影響也極易導致過度監管。無所作為可能使美國易受人工智慧引發的惡意混亂的影響，而過度監管則會使東方大國在人工智慧競賽中勝出。這使得我們正處於一個充滿危險的時刻。
時間緊迫。兩年前，在拜登政府時期，關於監管的討論主要集中在人工智慧的潛在風險上。如今，人工智慧的能力已經強大到令人擔憂，並且隨著每次更新迭代而不斷增強。創新的步伐意味著，過去需要數年甚至數十年才能解決的關於政府應扮演何種角色的爭論，現在必須在幾個月內得到解決。
而採取更具干預性的方法所面臨的技術障礙令人望而生畏。政府控制手段，例如國有化，收效甚微，因為優秀工程師可以在公司間自由流動，而且計算能力已成為一種商品。更糟糕的是，領先的模型建構者僅比他們的開源競爭對手（包括東方大國的競爭對手）領先幾個月。他們的模型功能遲早會向所有人開放。
即便如此，Mythos 事件或許標誌著一個可行的AI控制方案開始成形。受信任的使用者將能率先體驗最強大的新模型：OpenAI 效仿Anthropic，將其最新工具推廣給一小部分經過稽核的網路安全專業人士。在允許這些模型廣泛商業化之前，政府可以要求由行業主導的機構對其進行認證，這些機構已針對不同用途對這些模型進行了測試。
這種做法對大型模型開發商和政府都有好處。它避免了建立新監管機構的漫長過程。通過只允許少數高級使用者使用，模型開發商可以收取更高的價格，並限制稀缺計算資源的使用。同時，政府可以限制誰可以使用最強大的模型。
但它也存在嚴重的問題。限制發佈會削弱競爭，增強既有人工智慧公司的影響力。它會減緩人工智慧益處的普及，並在美國經濟中形成雙軌制，使許多屢次被剝奪早期獲取強大新模型特權的公司處於不利地位。如果建構人工智慧防禦機制耗時過長甚至根本無法實現怎麼辦？開源模型又該如何處理？如何才能確保它們也遵守這些規則？
建立在這些基礎上的監管體系可能並不公正。內部人士可以保護自己免受前沿威脅；外部人士則只能聽天由命。遊說和巨額利潤的機會將極其巨大。這將考驗美國現代政治史上最公開腐敗的政府的誠信和能力。而任何進一步將權力和財富集中在少數人工智慧巨頭手中的補救措施，都可能加劇華盛頓已經開始擔憂的政治反彈。
此外，Mythos 的方法只能解決一半的問題。人工智慧安全無法僅靠國家層面保障，最終需要國際合作，首先要從東方大國開始。對網路安全的新關注也需要與對人工智慧經濟和社會影響的迫切思考相匹配。如何應對就業崗位的流失，以及如何設計一個有利於勞動者的、適應人工智慧的稅收體系，都是巨大的難題，目前還沒有人能給出令人滿意的答案。這種情況必須改變。Mythos 事件是對人工智慧安全的一次警醒，也要求我們在其他領域進行深入思考。 (invest wallstreet)