OpenAI最大的謊言, 終於快藏不住了

[編者按] 當OpenAI完成改制、馬斯克訴訟被法院駁回、美國又以“贏得AI競賽”為名推動新一輪算力和政策動員時,一個問題變得越來越尖銳:人工智慧究竟是一項應由公共使命約束的技術,還是一門必須依靠資本快速擴張的生意?從表面看,OpenAI仍反覆強調“造福全人類”,非營利基金會也保留著對營利實體的控制權;但從微軟股權、巨額算力合同、潛在IPO到華盛頓遊說,一個更殘酷的真相已逐漸浮出水面:AI治理的爭議,早已不只是技術安全問題,而是資本、組織形式與政治議程的重新分配。

在本文中,復旦大學學者銀培萩和楊繡禎從OpenAI這個典型案例出發,剖析三個問題:一是“有效利他主義”與“有效加速主義”如何分別代表AI治理中的謹慎派與市場派;二是OpenAI從非營利組織到營利化擴張,如何暴露技術精英與資本力量之間的路線分歧;三是當國家介入AI治理之後,企業內部的戰略爭議如何升級為利益集團圍繞政策、監管和未來技術議程的權力鬥爭。

文章揭示的幾個問題值得深入思考:為什麼強調非營利身份的OpenAI,在ChatGPT爆火後又急欲撕掉這一標籤?為什麼奧爾特曼的回歸不僅是一次公司人事風波,更像是資本方對技術治理路線的一次校準?“非營利”是否等於公共利益?“商業化”是否只以逐利為目標?二者是否都可以成為精英爭奪合法性、控制權和政策話語的工具?讀完這篇文章,再看OpenAI改制、馬斯克訴訟、AI遊說和各國監管競賽,就不會只停留在“矽谷內鬥”的熱鬧表面,而能看到AI時代真正隱蔽、也更關鍵的那條線:誰有資格決定未來技術以什麼速度、按誰的利益、在什麼邊界內向前推進。歐亞系統科學研究會特轉發此文,本文原刊於《當代世界與社會主義》,文章僅代表作者本人立場。

人工智慧的營利與非營利之爭

——OpenAI案例的過程追蹤

▲ 圖源:Gallup

1 OpenAI內鬥:AI該服務資本,還是服務社會?

資本主義的技術進步與高速發展,往往伴隨著巨大的社會轉型成本。卡爾·波蘭尼的“雙向運動”理論指出,新生產力出現後,市場會產生脫離社會關係束縛的動力,與此同時,人類會尋求各種方案,避免市場與社會關係的“脫嵌”。進入數字資本主義時代,人類再次面臨這種局面,演算法的資本權力憑藉其機器優勢、架構優勢、嵌入優勢,實現了對勞動過程的全新重構。生成式人工智慧(以下簡稱“AIGC”)有望帶來生產力的新繁榮,但其不可預測性引發了人們對隱私、安全、公平甚至民主的擔憂。世界各國和國際組織都在研究、制定對人工智慧進行治理的檔案。截至2024年4月,已經有約75個國家公佈了自己的人工智慧戰略。從2023年的七國集團峰會、英國主辦的人工智慧安全峰會,到2024年聯合國通過的第一項關於人工智慧的獨立決議,人工智慧已經成為全球治理的焦點之一。除了國家和多邊主義機構,多元化非國家行為體也參與到了人工智慧的開發、應用以及管理過程中,形成了利益爭奪和權力博弈形態。

少有人注意到,研發出第一個里程碑式的生成式人工智慧產品ChatGPT的OpenAI並非商業機構,而是一家非營利組織。非營利組織是利潤不得用於股東或個人利益分紅的組織。在歷史上,資產階級很會利用非營利組織來解決經濟發展的負外部性問題,以緩和社會矛盾。鑑於人工智慧技術的顛覆性,OpenAI團隊在創業階段就將組織註冊為非營利組織。然而,由於成本的上升這一路線沒有堅持多久,新舊精英的裂痕就暴露出來了。OpenAI團隊分化為新舊兩派精英,薩姆·奧爾特曼的立場向舊精英靠攏,主張走商業化和營利路線,而董事會的其他創始人和技術管理層的新精英堅持非營利取向。2018年,作為創始人之一的埃隆·馬斯克與OpenAI分道揚鑣,理由是他拒絕引入外部投資,反對人工智慧技術商業化。2023年11月,奧爾特曼戲劇性地被董事會解僱,然而短短幾日後便在投資方的支援下重新回歸。目前,微軟作為最大股東仍然在推動OpenAI的營利化。

這一引發OpenAI企業內部鬥爭的事件,集中體現出一個核心問題——人工智慧到底該以營利還是非營利性的路線進行發展。本文試圖透過OpenAI的案例,分析話語爭議背後的本質,以及它所折射的數字資本主義轉型期新舊精英的權力鬥爭。

2   話語之爭:慈善資本主義的嬗變

由於人工智慧技術後果的不確定性,出現了兩種關於人工智慧治理的話語:有效利他主義與有效加速主義。前者擔憂人工智慧技術的後果,主張以非營利原則來約束技術進步的負外部性;後者則對資本與技術的結合持樂觀態度,認為營利性的商業邏輯可以激發人工智慧技術的活力,最終惠及社會。這兩派觀點體現了私營部門精英治理社會問題的慈善資本主義理論的嬗變。

慈善資本主義的概念興起於21世紀初,是指運用私人財富和商業邏輯來經營慈善事業、解決社會問題。慈善參與社會問題的治理並不新鮮,在資本主義國家還受到鼓勵,是一種私人力量緩和社會矛盾的“鎮痛劑”。而馬修·畢曉普指出,慈善資本主義的核心特徵是“用商業的方法做慈善”,也就是考慮投資回報比。慈善資本主義強調慈善事業中公益性願景與市場化策略的結合,為非營利事業中的營利思維提供了理論解釋。它一般使用存量資金,但比傳統的慈善形式更以結果為導向,因此也被稱為“慈善風險投資”。遵循慈善資本主義理論的精英一般採取“先營利,後非營利”的實踐路徑,把營利性活動中得到的財富以商業邏輯投入慈善。然而,人工智慧技術的突破性意味著數字資本主義邁入了一個新的階段。機器的應用從工業生產領域向日常生活領域延伸,擴大了資本主義的負外部性,也使慈善資本主義的理論發生嬗變。

有效加速主義維持了慈善資本主義的框架,加強了對資本與技術結合的信心。有效加速主義者認為,市場推動有效創新,資本主義的力量不應該受到制約,而應該被發揮到極致。該理論的前提是深信技術保留私有制屬性會激勵創造性發揮和技術進步,例如,專利制度為知識進步提供了持續的動力。私人產品是一般生產要素供給者通過市場經濟提供的產品和服務,具有效用上的可分割性、消費上的競爭性和受益上的排他性。雷·庫茲韋爾定義的“加速回報定律”認為:技術進步往往會自我滋養,從而進一步提高進步的加速度,確保技術資本的螺旋式上升永遠持續下去。有效加速主義普遍對技術的發展持樂觀態度,甚至認為“後人類”物種是生命進化的方向,人類應該用科技從根本上改變人類。人類與機器的融合將形成一個“技術資本奇點”,即最大化利用宇宙能量實現“宇宙意志”。有效加速主義實際上是一種技術樂觀論,加強了慈善資本主義的理論邏輯。

有效利他主義挑戰了慈善資本主義的邏輯。作為2010年前後興起的一場哲學和社會運動,有效利他主義體現了技術悲觀論的思想,核心關切是“利用有限資源去幫助他人”。這派觀點認為,世界上需要解決的問題太多,但解決社會問題的資源是有限的。有效利他主義者提倡一種不同於慈善資本主義的方法:不進行大膽的風險投資,而是利用證據和推理確定如何利用有限的資源做最有益的事情,然後根據謹慎的調查與明確的目標採取行動。有效利他主義者的研究領域包括確定世界上最重要的問題及其被忽視的程度、尋找人類面臨的最大威脅及其預防方法、權衡動物或後代的利益與現存人類的利益等。作為一種蓬勃發展的社會運動,有效利他主義者通過向運作有效的慈善機構捐款、推進全球衛生與發展項目、倡導對全球問題有影響的政策等措施發揮影響。有效利他主義概念在提出後得到了迅速的傳播,成為矽谷科技精英圈子的流行意識形態,衍生出長期主義、未來主義、人工智慧風險等分支思想。分支之一的長期主義者認為,人工智慧對當代人類及後代子孫都有巨大的影響,生成式人工智慧的發展方向決定了未來的人類是會遍佈整個宇宙還是被徹底摧毀,因此必須對人工智慧持謹慎態度,在非常確定的前提下進行發展。他們認為應該加強對人工智慧公司的監管、放緩人工智慧實驗,並主動幫助領先的人工智慧實驗室組建“對齊人類價值觀”的研究團隊,致力於降低人工智慧對人類的威脅。

簡而言之,慈善資本主義倡導的“非營利”是一種無限推崇自由放任的市場原教旨主義的理論,認為商業邏輯是解決資本主義造成的社會後果的最佳手段。有效加速主義沿襲慈善資本主義,鼓勵商業邏輯與人工智慧技術的結合,而有效利他主義質疑了慈善資本主義,希望貫徹非營利原則來約束技術的發展。這兩派觀點尚未形成系統的理論,仍主要停留在精英的話語層面。本文將從精英權力鬥爭的視角提出一個新的理論框架。

3   權力之爭:OpenAI案例的過程追蹤

有效利他主義與有效加速主義之間看似是話語之爭,實則體現了新舊精英的權力之爭。爭議的本質是,商業邏輯應該在多大程度上統攝人工智慧技術未來的發展?主導人工智慧技術和資本的新舊精英在這個問題上有很大的分歧。2023年OpenAI管理層發生的衝突,是觀察新舊精英分歧與鬥爭的典型案例。早期,OpenAI研發出的產品ChatGPT展現出了巨大的市場價值。隨著人工智慧對社會生活和國家安全的顛覆性影響一步步顯現,當國家介入人工智慧的治理時,這場鬥爭從一家公司的路線之爭演變為新舊精英及其背後利益集團在政治場域的話語和權力之爭。

(一)新舊精英的分化

精英的關係往往是既團結又鬥爭的。經典馬克思主義認為,統治階層內的精英有相似的利益和思考方式。賴特·米爾斯把精英分為政治精英、經濟精英、軍事精英,研究他們之間如何協作。對於被統治階層而言,精英確實是團結的。可是涉及內部利益和權力分配時,精英之間又充滿了派系分化和鬥爭。理查德·拉克曼認為,精英團體之間的權力競爭是政治的主要劇目。根據拉克曼的標準,精英團體“佔據一類獨特的組織機構”,有能力從非精英的社會群體手中剝削資源。反之,依附於其他精英的組織機構,在剝削下層資源的過程中被其他精英所排斥或邊緣化,則不構成一類精英團體。各級擁有土地的貴族、教會高級神職人員、城市新興貴族和專制君主等,都是在資產階級登上歷史舞台之前的精英團體。資產階級是一種或幾種相當晚近的精英,其內部有各種細分。技術的進步、生產資料的多元化加劇了精英的分化與鬥爭。例如,美國自20世紀80年代以來的製造業精英和金融精英的利益存在差異化。而資產階級要想長久維持其財產的安全,必然要參與政治生活,精英集團鬥爭最終演化為政策話語鬥爭。

本文定義的新精英是從數位化資本主義生產方式中積累資本的精英,即科技公司中憑藉技術而獲得資本的“新富階層”。舊精英是在數字資本主義時代之前控制一類經濟機構的精英。一方面,舊精英充當新精英的贊助者,靠投資新技術來實現資本增殖;另一方面,新精英獲得資本後,利益和立場、思想與行為也會逐漸向舊精英靠攏。然而,這個過程如果發生得過快,新舊精英的權力爭奪還未完成,矛盾就會十分突出,因為雙方都想掌握未來關於技術的主導權。人工智慧就是一種快速帶來新舊精英分化的技術,它被廣泛應用於金融、醫療、教育甚至軍事等各個領域的同時,也帶來了新舊精英的利益衝突。一部分掌握技術的新精英已經成功獲得企業的股權和部分管理權,與主要投資方的舊精英相比,他們在管理層的話語權弱小。舊精英雖然擁有企業管理權,在技術業務上又不得不考慮新精英,雙方形成了大體勢均力敵的局面。

OpenAI的案例展示了新舊精英在人工智慧技術發展處理程序中的鬥爭。在許多人的印象中,OpenAI與其他初創型科技公司沒有什麼不同。實際上,它最初註冊的形式是非營利組織。新精英是這一時期主導人工智慧發展的力量,他們對人工智慧開發的思路是營利和非營利同步進行,這樣可以排除舊精英對業務有過多的控制。從OpenAI的案例來看,新舊精英爭奪人工智慧的主導權的鬥爭分為三個階段。第一階段,新舊精英是合作關係,在市場中推動技術到產品的價值變現。第二階段,雙方在商業戰略上產生分歧,新精英想讓人工智慧保留非營利屬性,這一取向在ChatGPT研發成功之前基本得到了有效執行。但隨著ChatGPT巨大商業價值的顯現,同類競爭更加激烈,舊精英開始要求完全按營利路線來發展人工智慧。第三階段,精英鬥爭上演為政治場域的話語鬥爭——人工智慧作為顛覆性技術,其社會風險與挑戰日益明顯,政府考慮制定治理方案。於是,新舊精英都想在制定治理方案中施加影響。人工智慧領域的權力鬥爭說明,政治影響是慈善活動的一種“副產品”,因為非營利組織的合法性和權威在民主政治和全球治理的議程中越來越受重視。僅僅從社會責任來解釋資本主義精英投身慈善活動的動機是不夠的。

(二)技術主導階段:營利與非營利同步

在第一階段,新舊精英的目標是一致的,新精英甚至擁有較大的話語權。對於舊精英來說,優質技術項目是“稀缺的乙方”,市場中還有許多尋覓投資機遇的“甲方”。對於新精英來說,資本的前期投入有重要影響,與此同時,站在技術前沿的新精英敏銳地意識到人工智慧技術的潛在倫理風險,希望以市場化的方式經營非營利組織,確保技術研發成果有益於全世界或全人類。舊精英與新精英在這一階段形成了相對穩定的資本—技術同盟。

之所以會產生“營利還是非營利”這個問題,始於人工智慧給人類帶來的潛在風險。人工智慧的概念最早於1956年的達特茅斯會議被提出,用於指代能夠模擬人類的機器,並主要被區分為符號性人工智慧和連接性人工智慧。後者通過模仿人類神經網路的連接機制發展人工智慧,是生成式人工智慧的主要技術。由於處理能力的限制和資金支援的減少,連接性人工智慧的發展在20世紀60年代以後一直停滯不前,直到21世紀,它才隨著巨量資料、雲端運算、深度學習、自然語言處理等技術的發展而取得進展。2015年,Transformer模型架構的提出勾畫了生成式人工智慧的未來藍圖。自然語言處理技術的提高,使人工智慧可以嵌入人類的生活與生產,為經濟和社會的各個領域帶來根本性的變革,其價值不亞於一場新工業革命。但是,人工智慧前所未有的連通性、自主性和學習能力以及不透明性,將不可避免地帶來演算法歧視、資訊繭房、隱私侵犯、虛假資訊氾濫、決策不公平等一系列問題。

基於人工智慧這些潛在的威脅,新精英成立OpenAI的初衷是建立一個非營利的人工智慧實驗室。新精英們意識到人工智慧的未來價值,認為擁有最強大的人工智慧技術的一方將掌握難以撼動的權力,同時也警惕人工智慧可能帶來的風險。新精英在生成式人工智慧技術起步時便認為,人工智慧給人類帶來的威脅將在未來超過氣候變化、人口過剩以及核戰爭。2016年,Google收購頂尖的人工智慧研究機構DeepMind之後,馬斯克等新晉科技精英擔憂Google壟斷人工智慧會導致惡劣後果,於是建立了與Google截然不同、不受資本控制的人工智慧實驗室,通過開放的訪問對抗可能存在的惡意人工智慧。以馬斯克和奧爾特曼為代表的技術理想主義者基於“利用人工智慧改善世界”的慈善願景,把OpenAI的使命確定為“開發安全且有益於全人類的通用人工智慧”,在相似的價值觀與願景的指引下,眾多掌握人工智慧技術的科研人員從科技企業離職加入了OpenAI。新精英以非營利取向來發展人工智慧的好處是,它可以不受產生經濟回報的需求約束,從而最大限度地保證它以為全人類創造價值而不是為股東創造價值為主要目標,維護人工智慧技術的普惠性與公平性;它的利潤壓力與競爭壓力也比營利組織小,有助於人工智慧研究更好地關注對人類的積極影響,確保人工智慧的安全性,也能使研究機構保持自由開放,促進人工智慧的共同開發與進步,從而確保生成式人工智慧的研究朝著普惠安全的方向進行。

發展人工智慧的前提是成功的研發與生產,而OpenAI在成立後一直面臨著成本壓力與融資瓶頸。2017年初,OpenAI意識到建構通用人工智慧將需要大量的算力資源和人才成本。這個成本遠遠超過了OpenAI在成立時確立的獲得十億美元捐贈承諾的目標,但是截至2019年,只收到了1.3億美元的捐贈,難以支撐其研發活動。

此後,OpenAI的創始人逐漸分為兩派,技術派負責繼續推進人工智慧技術的研發,以開發安全普惠的人工智慧為目標,致力於其改善世界的慈善願景;而資本派則負責為OpenAI的研發等活動籌集資金,以融資和營利為主要目標,致力於獲得更多資金支援。為了支援進一步研究,OpenAI在2019年成立了一個具有利潤上限的營利性子公司OpenAI LP。這並沒有改變OpenAI的非營利組織性質,它雖然接受了微軟等公司的融資,並對其技術進行商業許可,但投資者只是其有限合夥人而非股東,不具有投票權和OpenAI的控制權,也不具有AGI的智慧財產權許可,OpenAI LP仍需要受到非營利組織董事會的控制,並以促進全人類的安全和廣泛受益為根本原則,服務於OpenAI的最高使命。不過,在研發成功前,OpenAI內部雙方都以技術突破和產出研發成果為目標,儘管存在一定的差異,卻並未產生嚴重的分歧甚至衝突。

(三)資本主導階段:營利最大化

第二階段,新舊精英開始在組織內部博弈,舊精英代表資本的力量逐漸佔據上風。舊精英轉向“先營利,再非營利”,首先考慮在激烈的市場競爭中存活,長期戰略是非營利目標,這一路徑也是舊精英熟悉的慈善資本主義。然而,新精英仍然希望堅持“營利與非營利同步”,在人工智慧發展過程中開闢不同於傳統的慈善路徑。新舊精英產生分歧。在這一階段,國家尚未介入,新精英和舊精英的博弈在管理層發生,表現為在商業戰略、利潤分配、發展理念等問題上的鬥爭。結合OpenAI的案例,ChatGPT推出以後,資本快速地湧入了人工智慧行業。競爭的壓力和營利的需求推動投資方施加更多的控制,動搖了早期OpenAI堅持的非營利取向,此後的OpenAI逐漸向營利最大化目標偏離。

ChatGPT創造了巨大市場價值,並展示出該技術的未來發展空間。2022年11月,OpenAI推出了ChatGPT,把生成式人工智慧技術成功轉化為一個劃時代的產品,它可以根據輸入的內容完成文字生成、機器翻譯、識別錯誤等一系列任務。首先,ChatGPT為OpenAI公司帶來了直接的投資回報。在發佈後的兩個月內,ChatGPT的使用者數量就迅速突破了一億人,創下了消費類應用增長速度最快的紀錄。至2023年末,OpenAI公司的估值已經達到了將近800億美元。其次,同類企業發現,ChatGPT依託的生成式人工智慧技術可以賦能企業原有的產品或商業模式,提升傳統業務的生產和營運效率。例如,微軟推出基於ChatGPT改進的搜尋引擎必應,Google也研發了Gemini人工智慧用於支援其Gmail和其他工作工具,顛覆了原有的行業和產業生態。此外,生成式人工智慧與智慧型手機、智能駕駛、醫療診斷、音樂或圖像創作等領域的結合,產生了豐厚的利潤。2022年,全球已經有35%的公司在營運中使用了人工智慧,42%的企業表示正在探索使用人工智慧,全球人工智慧市場的價值約為1200億美元,且預計到2030年將達到1.6兆美元。

在利潤刺激和競爭壓力下,OpenAI向商業化道路轉變。在ChatGPT成功後,2023年生成式人工智慧領域吸引的全球私人投資超過了252億美元,佔所有人工智慧相關私人投資的1/4以上,是2022年的近九倍。生成式人工智慧成為資本市場炙手可熱的投資標的。早在ChatGPT發佈前,OpenAI已經通過將其應用程式介面(API)的訪問權按使用量出售,從而開啟了商業化的道路。2022年ChatGPT的流行使OpenAI進一步趨向一家營利性的閉源公司,它對ChatGPT的控制更加嚴格,其學習方法的細節也不透明,尤其在ChatGPT-4上。繼ChatGPT後,OpenAI加速開發迭代產品,推出了ChatGPT Plus,後者需要使用者按月付費使用。2024年,ChatGPT進一步推出GPT Store,已經幾乎完全依照商業化的模式運行,追求商業利益而不是成立時的使命。

OpenAI管理層關於是否要商業化開始出現裂痕。以薩姆·奧爾特曼、格雷格·布羅克曼為代表的一派向舊精英靠攏,主張營利;董事會代表的新精英派則堅持非營利的初心。“快速行動,打破常規”的商業精神曾經促進了ChatGPT的成功。舊精英派主張延續這個路子,加快研發和推廣技術的速度,以創造更大的價值。董事會作為非營利組織的主要治理者,依然維護新精英派在創業階段關於人工智慧技術發展的慈善理想,引起了兩派之間的衝突。在經歷被解僱到再次回到OpenAI的風波後,奧爾特曼重組了董事會,OpenAI進一步向營利性轉變。隨著微軟等外部投資者的影響加強,新精英派逐漸落於下風。在2019年OpenAI的首輪融資中,微軟就投資了超過十億美元的金額;2023年1月,ChatGPT的市場價值逐漸顯露後,微軟又進行了100億美元的投資。儘管微軟不能取得OpenAI的控制權,但它獲得了AGI以外所有OpenAI IP的永久許可,包括原始碼和模型權重等,並對OpenAI發揮著重要的影響。在奧爾特曼被解僱的事件中,微軟等投資方的壓力是奧爾特曼最終回歸的重要原因之一。微軟代表的舊精英在奧爾特曼解僱事件之後推動OpenAI向一家徹底的營利性公司轉型。目前,微軟是OpenAI最大的外部股東,其他股東也通過私人交易從員工手中購買股份。

(四)國家介入階段:政治鬥爭

第三階段,新舊精英以利益集團形式在國家政策過程中鬥爭,鬥爭以美國國內政治為主要場域,並外溢到全球治理場域。當技術外溢的社會後果具有了超越國界和世代的影響力,理論上它就不再是一種營利性私人物品,而是一種公共物品——所有人均可以獲得、可以反覆從中受益而不損害他人利益。聯合國秘書處的《數字合作路線圖》已經將人工智慧技術定義為一種數字公共產品。國家不僅介入人工智慧治理,國家間的人工智慧開發與監管競賽也不斷升級。新舊精英的博弈不再是私營部門或慈善部門事務,而是轉移到政治場域的公共事務。與兩種話語相呼應,人工智慧治理在國家層面有兩種政策取向。第一種對應有效利他主義,主張加強管制。它強調顛覆性技術可能侵蝕國家的安全基礎,政府需要履行更多的約束職能。然而,在地緣政治競爭日益激烈的背景下,率先掌握先進技術的國家將獲得更多權力。於是,第二種政策對應有效加速主義,主張削弱管制,激發私營部門的活力,通過恰當的激勵措施加快本國的技術創新。國家必須在兩種技術管理政策路線中進行權衡。

在形式上,新舊精英的鬥爭表現為傳統的利益集團政治。首先,美國從事人工智慧政治遊說的組織數量激增。根據“開放秘密”的資料,2017年與人工智慧相關的遊說組織僅30家左右,到2023年,這類組織增加到了451家,其數量相比於2022年增長了185%。這些組織背景十分多元化,既有大型科技公司和領先的人工智慧初創企業,也有高等院校、智庫、慈善基金會等非營利組織。其次,投入人工智慧政治遊說的商業資金節節攀升。微軟以及在微軟之後加入人工智慧競賽的亞馬遜、Meta、Google、甲骨文等公司,在政治遊說方面的花費均超過了1000萬美元。美國資訊技術產業委員會的遊說及在微軟之後加入人工智慧競賽的亞馬遜、Meta、Google、甲骨文等公司,在政治遊說方面的花費均超Safety Action Fund、Mozilla基金、哈佛大學等非營利機構儘管也進行了政治遊說,但其投入遠不及營利性公司。總體來看,資本力量雄厚的大型科技公司可以通過花費大量的資金在立法機構等建立更廣泛的網路,因此在政治遊說中佔據了更大優勢,能使國家政策向有利於它們的方向傾斜。

新舊精英形成了利益集團,新精英和舊精英競相試圖通過政治遊說、資助研究、媒體輿論等途徑為各自的觀點造勢,“俘獲國家”。在第二階段新舊精英博弈的時候,美國科技界支援新精英和舊精英的力量各抒己見。奧爾特曼作為新精英的一員,“背叛”了最初立場,站在了舊精英一邊,支援有效加速主義和慈善資本主義。馬斯克作為創始人則站在了新精英一方,支援有效利他主義。2023年,馬斯克與蘋果的聯合創始人史蒂夫·沃茲尼亞克,以及超過1000名來自學術界和科技行業的精英簽署了一封聯名信,呼籲暫停開發OpenAI的ChatGPT等先進人工智慧一段時間,對更廣泛的影響進行仔細評估,以防止人工智慧的發展在軍備競賽下走向失控。2024年,馬斯克對OpenAI和奧爾特曼提出了起訴,認為他們違反了合同,違背了OpenAI為全人類利益而發展人工智慧的使命。

鬥爭內容方面,權力之爭被包裹進話語之爭,新舊精英基於利益或價值觀,選擇支援有效加速主義或有效利他主義的治理話語,並且在遊說活動中與一些傳統利益集團結盟,如軍工複合體。

舊精英多數選擇有效加速主義,與軍工複合體結盟,倡導放寬對人工智慧的國家監管。他們宣稱,嚴格的監管將導致美國的人工智慧技術發展落後於中國,要求政府增加對人工智慧技術研發的資金支援、放寬移民限制以吸引高端人才,並制定以自願承諾和自我監管為主的政策。微軟參與了至少12項人工智慧相關法案的遊說。OpenAI在2023年的第四季度才正式開始在國會的遊說活動,但它的遊說正在迅速擴大。受遊說影響,美國參議院人工智慧工作組在“人工智慧政策路線圖”中將優先事項確定為推動人工智慧創新、保持競爭力、增加研發資助等,制定了以寬鬆的監管為主要特徵的立法框架。科技行業不僅與五角大樓進行合作,申請資金來開發和部署人工智慧的軍事產品,而且要求在人工智慧和其他新技術的軍事應用中放鬆監管。矽谷的軍事承包商和幕後投資方主要採用傳統的遊說方法來達到目的,包括僱用大量前軍官和高級政府官員在華盛頓為他們遊說。

新精英多數選擇有效利他主義,與非營利組織結盟,支援更嚴謹的人工智慧監管框架,防止技術濫用。他們主張對開源模型的限制、打擊人工智慧與生物技術的混合,甚至完全暫停後果不明的“巨大”人工智慧實驗。新精英會資助智庫和研究所,向國會、聯邦政府和司法機構輸出有效利他主義的思想。其中,規模較大的上游資金提供者“開放慈善”由臉書的聯合創始人達斯汀·莫斯科維茨夫婦創立。“開放慈善”向喬治城大學提供5500萬美元,成立安全與新興技術中心,領導團隊由前情報界高級官員組成,包括中央情報局前專門負責中國科技分析的威廉·漢納斯和熟悉中國人工智慧系統的海倫·托納。又如麥戈文基金會在2023年底撥款6640萬美元用於研究人工智慧治理,理由是“人工智慧在私營部門快速崛起,其後果可能會被營利性公司忽視”。發起這項資助的帕特里克·麥戈文是國際資料集團的創始人,這是一家黑石集團全資持有的跨國公司,在97個國家開展業務,主營業務是為技術行業提供市場情報。

4   結論

人工智慧治理的營利與非營利之爭既是治理之爭,也是權力之爭。

從治理的邏輯來看,它體現了市場、社會和國家等多元主體為解決資本主義“雙向運動”的觀念分歧,即到底該市場優先還是社會優先。波蘭尼指出,解決“雙向運動”不存在唯一或最優的方案,任何時刻均可能有新形式出現,某些形式能更好地提升生產效能和創新,另一些更有“社會主義”色彩。在人工智慧治理領域,有效加速主義屬於前者,有效利他主義屬於後者。新精英將研發ChatGPT的OpenAI公司註冊為一家非營利組織,體現出社會優先的立場;舊精英代表的資本力量在產品營利後體現出市場優先的立場。隨著人工智慧對社會生活和國家安全的顛覆性影響顯現,國家介入了人工智慧的治理,目標是在更宏大的治理框架內平衡兩種立場。

新舊精英的權力關係鬥爭表明,數位化時代的資本主義仍然不可能“脫嵌”人與人的社會關係。新舊精英將權力之爭包裹進話語之爭,發生於三個階段。在技術主導階段,雙方組成資本—技術同盟進行合作,新精英說服舊精英接受以非營利組織形式開發人工智慧技術;在資本主導階段,雙方在私營部門內部爭奪主導權,兩種話語在企業戰略中競爭;在國家介入階段,鬥爭轉移到政治場域,雙方通過利益集團在公共政策議程中進行辯論。話語之爭的背後是新舊精英的權力鬥爭——人工智慧代表的數字資本主義帶來了新精英的崛起,雖然其中一部分人融入了舊精英,例如奧爾特曼,但還有一部分人堅持比較理想化的價值觀與世界觀,例如OpenAI董事會的部分成員。多數新精英無法撼動舊精英在政治經濟結構中的壟斷地位,非營利事業成了一種新精英“奪權”的突破口,他們在前期階段挑戰舊精英的慈善資本主義價值框架,後期階段在技術和倫理範疇內說服國家壓制市場優先邏輯,事實上都是在阻止舊精英以資本優勢主導人工智慧未來的發展方向。 (胡錫進觀察)