•
AI殘酷棋局：天才與資本狂飆，大眾淪為可計算的社會生物質
關於AI和超級智慧的未來，23歲時便身家10億美元的馬克‧祖克柏，到底看到了什麼別人沒看到的？
大家知道，祖克柏最近揮舞著支票到處挖人，四年3億美元的薪資包，讓見慣了大錢大場面的矽谷精英也目瞪口呆，很多大廠的天才級研究員被他挖至麾下，成立了超級智慧實驗室。
祖克柏這麼肆意燒錢，有人認為，他一定是在AI大模型的訓練中看到了什麼。特別是前不久，祖克柏還發了一篇短文，談論超級智慧。在他看來，AI系統已經開始展現出自我提升的能力，超級智慧「指日可待」。
鑑於這次Openai發佈的gpt5如此拉胯，人們恐怕很難對扎克伯克的這種炒作買單了。但是，祖克柏對AI的未來願景到底是怎麼樣的呢？他策劃中的AI商業模式是怎樣的？他花了這麼多錢，準備怎麼賺回來？
說出來真的是讓人五味雜陳。既可笑又可悲。
不久前，祖克柏接受了著名AI科技部落客德瓦凱什·帕特爾（Dwarkesh Patel）的訪談，非常坦誠地攤牌了他對我們的AI設想。是的，是他的設想，但是關於每個人。
看了這個訪談，有人評價說，這就好像是把那種「祖克柏為什麼邪惡」的梗圖和「AI為什麼邪惡」的梗圖給融合到了一起，完全是一種反烏托邦的黑暗圖景。諷刺的是，祖克柏好像不覺得這有什麼問題。
在被問到要用AI來做什麼時，祖克柏的第一個答案就是廣告，尤其是做成一種「終極黑箱」。你（廣告主）給出想要的商業結果目標，AI 就會為達成目標不擇手段。
他提出的第二個用途是「在使用者介面上擴大參與度和推薦」。換句話說，還是廣告，只是換個名字，用AI 以掠奪性的方式最大化使用者參與、驅動上癮行為。
祖克柏說：
你可以把我們的產品看作到目前為止經歷了兩個主要紀元。
在第一個紀元裡，你有自己的朋友，基本上你是和他們分享，從他們那裡獲得內容。現在，我們進入了另一個紀元，我們在上面疊加了一整個層的創作者內容。
所以來自你朋友、追蹤者和你所關注的所有人的內容並沒有消失，但我們又加上了創作者的一大坨內容，我們在做推薦。
而第三個紀元，我認為會是大量的AI 生成內容…
然後，他覺得每個人都該有一個AI心理諮商師（therapist），人們想要更多朋友，所以 AI 可以頂上。
當人們以為科技巨頭從AI模型中看到了什麼了不得的未來時，他們所想的，就是把你原子化、孤立你，讓你孤獨抑鬱，然後它再租給你一個AI 朋友、AI 心理諮商師、AI 伴侶。
所以，有人說，科技巨頭就是寄生蟲，它們假裝是來幫你的。
在祖克柏們的眼裡，一般大眾不過是可計算的社會生物質，被抽象化成了可被AI黑箱持續採收的三樣東西：資料、注意力、關係。你可以「和演算法對話」，卻不能改它，因為在系統眼裡，你不是使用者，而是燃料。距離《駭客任務》中的電池只有一步之遙。
是只有祖克柏這麼邪惡，還是在先進科技帶來的不對稱的權力和影響力之下，必然產生的「以萬物為芻狗」的殘酷現實？
今天推薦一本剛上市的新書《至高無上》，該書以OpenAI與DeepMind兩大巨頭的競爭為主線，真實還原了這場改變世界的人工智慧技術革命的來龍去脈，揭示了資本力量與倫理困境的複雜博弈，呈現了一場關乎人類未來命運的人工智慧霸主之爭。
從書中我們可以看到，在人工智慧這一棋盤上對弈的棋手們，越是試圖利用資本實現自己的宏偉理想，就越是深陷於利益糾葛的漩渦。他們秉持著面向未來的原則，在救世使命與理性的驅動下，卻和大眾漸行漸遠。
這本書以openai的薩姆·奧爾特曼和Googledeepmind的德米斯·哈薩比斯為線索。用故事串聯起技術競賽背後的動機與張力，提供了一個難得的“總觀視角”，有助於我們理解這個時代最偉大的科技革命背後的真實脈絡。
開發ChatGPT的OpenAI創始人薩姆·奧爾特曼矢志打造超越人類智慧的機器，這讓他不僅成為矽谷新一代精神領袖，而且成功吸引金主的關注，包括相信人工智慧末日論又試圖控制人工智慧的全球首富埃隆·馬斯克，以及為了扭轉公司頹勢而焦頭爛額的微軟執行長薩提亞·納德拉。
這場人工智慧霸主之爭的另一方，則是夢想破解宇宙奧秘的德米斯·哈薩比斯。他創立了全球第一家人工智慧公司DeepMind，因開發打敗了圍棋世界冠軍的AlphaGo而聲名大噪。他致力於破解「智能」的本質，得到了Google創辦人拉里·佩奇的傾囊相助，更憑藉AlphaFold獲得2024年諾貝爾化學獎。
人工智慧技術將帶來深遠的社會變革，有助於解決全球性挑戰，在更多領域實現突破，包括醫療、教育、能源、貧窮、環境等。但同時，在資本與利益的驅動下，人工智慧技術的創造者放任有缺陷與偏見的技術滲透至各行各業。
本書首度曝光了Google、微軟、特斯拉等科技巨頭以巨額投資換取技術控制權，轉而將「造福人類」的承諾轉化為商業版圖的擴張。當人工智慧倫理委員會淪為擺設，當透明性成為犧牲品，人工智慧的烏托邦敘事正被資本邏輯吞噬。
一、棋逢對手
就現有的AI產品而言，它們已經在包括象棋在內的各個領域展現了驚人的潛力。但在為人們帶來種種好處的同時，AI科技也引發了許多關乎社會發展和倫理的爭議。
今天，競爭驅動下高速發展人工智慧正在為社會帶來顛覆性的變革，而並不是所有的轉變都有益於我們的生活。這使得人們開始對現狀感到不安，我們困惑於人類自己發明的這項技術如何以如此可怕的速度走到今天這一步，同時為尚不明朗的未來感到憂心忡忡。
不過，有一點可以明確：AI的快速進步離不開商業競爭與資本邏輯。正如作者帕米·奧爾森在書中所總結的那樣，人工智慧研發的進程已經與Google、微軟等科技巨頭深度綁定，在利益驅動的競賽之下，該產業得以飛速發展。
《至高無上》全景式呈現AI發展史、OpenAI與DeepMind兩大AI 巨頭的崛起與交鋒，真實還原了這場改變世界的AI技術革命，以及人工智慧發展史上的重大創新節點（Transformer架構）、投資事件（Google6.5億美元收購DeepMind）與關鍵人物（如李飛飛、吳恩達）。
本書採用第三人稱視角，用電影蒙太奇式的手法將敘事線索在奧爾特曼和哈薩比斯的人生經歷和創業故事之間不斷切換，向我們生動展示了AI科技背後的真相：在人工智慧的棋盤上，執棋者並非AI本身，亦非心懷宏偉願景的人類精英資本，而是精密的、「至高無上」的邏輯。
如果你表現得雄心勃勃，總會有人憎恨你。解決辦法是，你要與那些權貴顯要站到一起，並在你的周圍建立支援網絡。
——帕米·奧爾森《至高無上》
山姆·奧爾特曼與德米斯·哈薩比斯的早期經歷就體現出了他們與常人的不同之處。奧特曼從小似乎就有著獨特的個性、過人的膽識和幫助他人的強烈使命感。他從“美國在線”網站的線上聊天室裡找到了作為同性戀的群體歸屬感；在學校，他不但“盡可能多地擔任領導角色”，還勇於與大環境作鬥爭，大膽地和教師、校長溝通，舉辦各種各樣的活動，為性少數群體爭取權利。
比起奧特曼，哈薩比斯則更像是大眾刻板印象中的「科技宅」。他曾經痴迷於象棋，但在11歲那年的國際象棋錦標賽上的失敗讓他頓悟：人類應當將他們寶貴的戰略思維用在其他地方。他開始專注於開發策略與模擬經營類的遊戲，認為在遊戲中利用電腦設計出無數鮮活且貼近現實生活的細節，才可以讓玩家更好地「扮演上帝」。
二、理想的價格
而隨著時間的推移，在經歷了最初的創業失敗後，兩個年輕的創業家都不約而同地將目光投向了在當時尚且不被看好的人工智慧技術。
矽谷的打拚生活影響著奧特曼，使得他開始害怕死亡。為了最大限度地阻止意識的消逝，他在籌備諸如槍支和防毒面罩等物資的同時，開始思考如何才能永遠留存人類的意識。他依舊心懷著那種使命感，相信自己將會成為那個集智慧與謹慎於一身的，引導人類走向「人工智慧烏托邦」的旗手。
而哈薩比斯則致力於探索人類大腦的奧秘。他對模擬現實的熱情不減，而這份熱情逐漸轉變為破解人類意識謎題的動力。哈薩克人認為人類可以透過利用人工智慧模擬宇宙來揭示宇宙的運作機制，一旦人工智慧擁有了卓越的力量，那麼關乎人類存在的那些最深奧的問題也將迎刃而解。
著手打造科技公司是實現理想的第一步，因為公司能夠有效聚集人才、物資與資金。心懷共同使命的哈薩比斯與沙恩·萊格、穆斯塔法·蘇萊曼一同構思出了最初的藍圖，成立了研究公司DeepMind，並試圖招攬認同他們的投資人。
但很快地問題接踵而至，他們遠大而高度實驗性的目標使得許多投資人望而卻步。就在此時，哈薩比斯獲得了來自大公司收購者的青睞。但出於對安全的考量，DeepMind最終決定要求收購者必須以建立倫理安全委員會為收購的前提，以防這些逐利的大型企業將人工智慧導向一個失控的未來。最終，DeepMind和Google達成了協議。
然而Google根本不想讓新成立的倫理委員會運作下去；它最關心的只有挽救低迷的股價。哈薩比斯也聽到了更糟糕的消息：一個強有力的競爭對手——由奧爾特曼創立的OpenAI正在迅速崛起。
哈薩比斯對OpenAI瞭解越多，他就越憤怒。
OpenAI在其網站上列出了7位創辦人，而其中5人曾在DeepMind 當過幾個月的顧問或實習生。哈薩比斯一直對DeepMind的員工毫無保留，將實現通用人工智慧所需的各種策略坦白相告，例如建立自主代理，教導人工智慧模型玩國際象棋和圍棋等遊戲。然而，瞭解所有這些細節的五位科學家創立了一家對手公司。
創立初期的OpenAI遇同樣遇到了資金不足的問題，而至關重要的支持者馬斯克的退出使得奧爾特曼陷入了危急關頭。最終，奧爾特曼只得透過對OpenAI的創業原則「進行微調」的方式將他的計畫維持下去。
哈薩比斯秉持學者的態度，希望人工智慧能解開一切奧秘，奧爾特曼則希望人工智慧能幫助世人。但兩人都意識到，為了實現自己的理想，他們必須擊敗其他競爭者，並想辦法獲得儘可能的資源支援。
諸如Transformer等技術越是取得了長足的突破，科技公司就越需要籌集資源。而為了留住那些心懷使命，不願拋棄初心的員工，公司就必須利用諸如通用人工智慧之類的詞彙來點燃他們的熱情。在這種境地下，他們需要適當地放棄原則。
三、現實的帳單
當DeepMind和OpenAI嘗試「推倒部分護欄」時，關乎人工智慧的倫理問題逐漸開始浮現於水面。最首要的便是偏見：人工智慧公司的管理者多半是白人男性，在沒有像樣的倫理審查委員會的情況下，他們的偏見被植入到AI的系統之中，Google照片演算法將黑人識別為大猩猩就是一個典型案例。
宣揚關於人工智慧失控的論調恰好是吸引關注和投資的最好方式，而資金將Google、微軟等逐利的大公司與科技公司深度繫結在一起，使得建立有效的人工智慧倫理管控機制難以實現。提姆尼特·格布魯和瑪格麗特·米切爾發現了人工智慧與刻板印象的問題，並試圖向社會發出呼籲，然而她們的聲音被科技公司強有力地掩蓋起來。
面對AI，人們幾乎要產生了它們擁有智慧的錯覺。科學家們清楚人工智慧所「說的話」其實是大預言模型訓練的結果，但許多人仍然堅信在螢幕背後和自己對話的聊天機器人是有靈魂的。結果就是，人工智慧越來越深刻地影響大眾認知。
一旦開發者利用帶有偏見的素材來訓練沒有自主意識的AI，那麼這些屬於他們（多數情況下是白人男性）的偏見就會更加深入地透過AI這件工具輸出、滲透到人群之中。但如上文所提到的：科技公司缺乏有效的倫理審查委員會。意識到偏見存在的個體想要阻止科技巨頭就如同螳螂車當車。
同時，人工智慧開始收集人們的資料，個人資料被用來當作廣告銷售的分析材料。許多人開始依賴OpenAI研發的ChatGPT工作，這現象同時引發了社會對失業問題的擔憂和對ChatGPT時常胡編亂造的不滿。
從這些方面來看，人工智慧在社會生活中引發的一系列問題，似乎與高中時努力消除社會對性少數群體偏見的奧爾特曼的初衷相去甚遠，但至少，它的確改變了世界，只不過是以好壞參半的方式。
自當代人對於科技和未來的無限憧憬之中，誕生了像奧爾特曼和哈薩比斯這樣滿懷抱負的精英。科技的進步使得對抗人類思維的必然終結成為可能；奧特曼對於永生的渴望，哈薩比斯對於模擬自己的執念，在本質上都是基於這個願景而產生。
他們希望利用科技向生與死這最根本的二元對立發起挑戰，從而徹底改變這個世界。然而，這種宏大的願景與支援其發展的利益需求之間存在根本矛盾。
在人工智慧這一棋盤上對弈的棋手們，越是試圖利用資本實現自己的宏偉理想，就越是深陷於利益糾葛的漩渦。他們秉持著面向未來的原則，在救世使命與理性的驅動下和大眾漸行漸遠。 （不懂經）