今天，我想聊點更切身、甚至聽起來有點滑稽的話題：AI官僚、AI宗教，甚至是AI男朋友。更廣泛地說，是這場席捲一切的AI革命。
現在關於AI，最重要的一點是：AI不是工具。它不是我們手中的工具。它是一個擁有自己之“手”的Agent（自主主體）。
那麼，Agent到底是什麼？它和工具有什麼不同？
Agent有幾個鮮明特徵：它能自己做決定，能自己發明新事物、提出新想法。
一個真正的Agent，應當能夠學會一些連創造者都不知情的東西，還應當能夠以創造者無法預料的方式自行改變。
比如，原子彈威力極大，但它不是Agent。它不能自己學習、自己改變；不能自己決定去轟炸那座城市；也不能發明出新東西，比如氫彈。
同樣，自動咖啡機也不是Agent，儘管它能自動完成一些事情，你按一下按鈕，它就給你做一杯咖啡。但咖啡機只是遵循預先編好的程序，它不會改變，不會學到任何新東西，也不會創造任何新東西。
但如果換一種情況：當你走近咖啡機時，甚至還沒按任何按鈕，它就先開口對你說：
“過去幾周裡，我一直在觀察你。根據我對你和其他人的瞭解，再結合你的面部表情和一天中的時間，我預測你現在想喝一杯意式濃縮。所以我已經給你做好了一杯。”
這時，它就是一台AI咖啡機了。它自己學到了東西，也自己做出了決定。
要是第二天它又宣佈：“我剛剛發明了一種新飲料，叫Bestpresso。我覺得你會比Espresso更喜歡它，你應該試試看。我已經給你做了一杯。”
那它才真的是AI。因為它以創造者未曾預料的方式發生了變化，還發明出了全新的東西。
據我所知，目前市面上還沒有這樣的咖啡機。
不過，在某些狹窄的領域裡，比如圍棋、國際象棋，AI的Agency和創造力已經遠遠超過了人類。
AI棋手當然能自己決定下一步怎麼走，還能自己發明全新的下棋策略，這些策略是人類棋手在數千年的博弈中從未想到過的。
而且在這個過程中，它們會以人類創造者未必能預見的方式學習和變化。今天，沒有任何人類還有機會擊敗AI棋手。
一、AI的生態位：
為什麼“狹窄領域”的論點站不住腳
那些淡化AI革命重要性的人，往往會拿國際象棋這樣的例子不當回事，理由是：棋盤是一個極其狹窄、由人類創造出來的人造環境。
批評者會說，AI的Agency將永遠侷限在這種狹窄、人工的環境裡；這意味著它並不是真正的Agency，也不會對人類構成任何嚴肅挑戰。沒錯，AI也許能接管棋盤，但它永遠不可能接管地球。
如果你真做個實驗：把最強的AI國際象棋大師扔進叢林中央，你覺得會發生什麼？這個AI棋手根本不可能開始開採鐵礦、建造工廠、組建機器人軍隊、然後統治世界。
事實上，它什麼都做不了。沒有人類建造的發電站提供電力，AI棋手就完全無能為力。
於是，這種論點就認為：AI並不是真正的Agent。它們被困在人類替它們建造出來的狹窄人工生態位裡。
問題在於，這個論點其實適用於所有已知的智能形式。人類智能本身，也只是在某個相對狹窄、由別的存在建構出來的生態系統裡運作。要是把一個人丟到火星上，那就跟把AI棋手扔進叢林裡差不多。
我們的智能之所以能生存、能發揮作用，只是因為地球上樹木、細菌、昆蟲以及其他生物，在40億年的演化中建構出了一個極其特定的生態系統。
對所有Agent都是這樣。至少就我們所知，所有Agent都有各自的生態位。魚生活在並非自己創造的海洋裡，猴子生活在並非自己創造的森林裡，所有哺乳動物都生活在並非自己創造的富氧大氣中。
事實上，大約24億年前，我們星球的大氣裡幾乎沒有氧氣。對當時大多數生物來說，氧氣是一種致命毒藥。
後來，在一個持續了數億年的漫長過程中，各種古老微生物開始用致命的氧氣污染地球大氣，而氧氣只是它們光合作用的副產物。
隨著這種致命毒氣逐漸充滿大氣，許多古老物種被逼到滅絕。然而，也有一些物種設法活了下來，並適應了新的環境。
最終，許多倖存者從“痛恨氧氣”轉變為“完全依賴氧氣才能生存”。我們的祖先，當然，就是經歷了這一轉變的物種之一。
直到今天，我們仍然生活在這個充滿氧氣的人造環境裡，這個環境最初正是那些遠古微生物創造出來的。
我今天這場演講想提出的觀點是：我們或許正目睹生命演化中的一個類似時刻。
過去幾千年裡，人類一直在向“大氣”中排放某種東西，它最終可能會對大多數生物構成致命威脅，但同時，它又創造出了一種讓AI得以繁盛的全新人工環境。我說的不是二氧化碳。我說的是資料、官僚體系，以及文字、語言Token。
幾千年來，我們人類把這顆星球從一個沒有語言的環境，改造成了一個充滿語言Token、資料和官僚體系的高度人工化環境。
這個環境可能對大多數生物都是致命的，但卻極其有利於AI的發展。因為正如魚生活在海洋中，猴子生活在森林中，AI則生活在官僚體系裡。
二、官僚體系的本質：
在陌生人之間架起“信任之橋”
我們先花幾分鐘談談官僚體系，然後再回過頭來談支撐官僚體系的東西：語言和詞語。
人類之所以能夠征服世界，是因為我們學會了以極其龐大的規模進行合作。
單個的人類，並不比其他動物更強壯，甚至也未必更聰明。在一對一搏鬥中，一個人大機率會輸給黑猩猩、獅子、大象中的任何一種。
然而，在一百萬個人對上一百萬隻黑猩猩的較量中，人類會輕鬆取勝，因為人類懂得合作，而黑猩猩不懂。這就是為什麼是我們在控制世界。
那麼，一百萬個彼此不認識的人類，是怎麼合作的？黑猩猩的合作建立在相互認識、彼此熟悉的基礎上。人類在小規模群體裡也是這樣，但你不可能認識一百萬人。
那麼，一百萬人究竟如何合作？通常是靠建立一個官僚體系。比如法律體系、金融體系、教會、國家，或者大學。
這些官僚體系實際上是在做什麼？政府官員、主教、拉比、會計師、律師、銀行家，早晨去上班以後，一整天到底在幹什麼？
木匠造桌子，工程師修橋。那銀行家和其他官僚造的是什麼？
銀行家和其他官僚，一整天都在建造“信任”。他們的工作，是在大量彼此並不認識的陌生人之間建立信任，由此促成大規模合作。而大規模合作，正是我們這個物種幾乎一切成就的基礎。
舉個例子。我的銀行家整天努力與我建立信任，好讓我願意把儲蓄存進她所在的銀行。與此同時，這位銀行家也在努力與某個需要資金創業的企業家建立信任。
然後，她把我的存款借給那位企業家。這樣一來，她其實就在我和那位企業家之間架起了一座信任之橋。儘管我這輩子從沒見過那位企業家，她現在卻可以用我的儲蓄去創辦自己的公司。
這就是金融體系在運轉良好時的本質：它在陌生人之間建立信任，使數以百萬計的人能夠把各自的資源和才能匯聚起來，投入新的項目。
世界金融史，說到底，就是一部人類不斷髮明越來越複雜的“信任之橋”的歷史。
貨幣，歸根結底，也是一座信任之橋。
貨幣的邏輯在於：我可以去市場，甚至是在一座陌生城市裡，遇到一個我從沒見過、甚至可能連語言都不通的人，只要遞給對方一塊閃亮的金屬，或者一張彩色紙片，他或她就會給我能吃的面包。這就是貨幣所創造的信任之橋。
當然，硬幣和紙幣只是開端。幾個世紀以來，人類發明了越來越複雜的金融裝置來建構信任——支票、債券、股票、ETF、貸款、按揭、複利。
所有這些東西，歸根結底，都是為了在數十億陌生人之間建立信任。所有官僚體系都是如此。
這裡需要注意的關鍵一點是：所有官僚體系都是極其人工化的環境。在這樣的環境中，一種相對狹窄的智能只要專精於一個非常狹窄的智能生態位，就足以對世界產生巨大的影響。
一個律師、銀行家或政府官員，即便連斧頭或錘子怎麼拿都不知道，仍然可以通過移動資料、官僚網路把檔案從這裡轉到那裡，就砍伐整片森林、建起整座城市。
當然，如果你把律師從官僚體系裡拎出來，扔進混亂、無結構的叢林裡，她的法律技能就毫無意義，她也根本不可能是黑猩猩、獅子或大象的對手。
但我們已經把官僚體系強加到叢林之上了。這就是為什麼律師的力量，比全世界所有獅子加起來還要大。
但在那些人類已經創造出來、並強加到世界之上的官僚體系中，AI已經準備好施展巨大權力了，因為AI是天生的官僚。
舉個例子：沒有任何律師能記住所有法律和規章，AI可以；
沒有任何會計能記住一家企業或一家銀行的全部交易，AI可以；
沒有任何主教能記住全部教會法，以及過去2000年來基督教神學家寫下的所有神學文字，AI卻能輕而易舉地做到。
因此，在未來幾年裡，數以百萬計的AI官僚會越來越多地接管世界的官僚體系，並且做出不僅關乎獅子和黑猩猩、也關乎我們自身生活的決定。
AI銀行家將決定是否給你貸款，AI行政人員將決定是否錄取你進大學，AI法官將決定是否把你送進監獄，企業AI將決定是否給你工作。
現在，先把“這是好事還是壞事”這個問題放一邊。首先要看到的，只是我們所面對變化的規模，這些系統很快就會改變所有維繫世界運轉的系統。
三、演算法接管：
從“人類主編”到“AI主編”
到目前為止，最好的例子，也許就是社交媒體以及社交媒體演算法的故事。社交媒體不是由人運行的，而是由演算法運行的。
那些決定並控制社交媒體上資訊流動的演算法是很原始的AI，第一代、極其原始、愚蠢而狹窄的AI，但它們依然徹底改變了世界。
社交媒體演算法被Facebook、TikTok、X這樣的公司賦予了一個極其狹窄的目標：最大化使用者參與度。讓人們在平台上停留更久，因為停留時間越長，公司賺的錢就越多。
在追求使用者參與度的過程中，這些原始AI學到了一點：要抓住一個人的注意力、把他牢牢粘在螢幕前，最簡單的方法，就是按下他心中的“仇恨”“恐懼”或“貪婪”按鈕。
它們學會了怎麼做這件事，然後開始在資訊空間中大規模傳播仇恨、恐懼和貪婪。
這就是當下陰謀論、假新聞和社會動盪流行成災的重要原因之一，而這些現象正在削弱全世界的社會。
再說一遍，這些社交媒體演算法其實只是非常原始的AI。要是把它們扔進叢林，它們不可能造出機器人軍隊然後試圖接管世界。
但在社交媒體這個官僚體系內部，這些能力非常有限的Agent卻擁有巨大的力量，而且它們已經以相當戲劇性的方式改變了世界。
在過去幾個世紀裡，媒體平台上的資訊流是由人類編輯控制的。
決定報紙頭版刊登什麼的是人類編輯；決定晚間電視新聞播出那些內容的也是人類編輯。由此，人類編輯塑造了公共討論，他們在現代歷史中是極其重要的人物。
比如，讓-保羅·馬拉就是通過編輯極具影響力的報紙《人民之友報》，塑造了法國大革命的走向。愛德華·伯恩斯坦則通過編輯《社會民主黨人報》，塑造了現代社會民主主義運動及其思想。
有意思的是，AI從人類手中接管的最早一批工作之一，並不是計程車司機，也不是紡織工人，而是新聞編輯。
曾經由列寧和墨索里尼承擔的工作，如今正由AI來承擔。這就是一個訊號，預示著接下來會發生什麼。
四、從內部接管：
為什麼AI不需要“造反”？
好萊塢科幻電影早就訓練觀眾去害怕那種大型機器人起義。
當我們想到AI脫離人類控制時，腦海中浮現的畫面往往是《終結者》：一支機器人軍隊在街頭奔跑、向人開槍，但這是錯誤的圖像。
雖然在烏克蘭和加薩這樣的地方，某些類似情形已經開始出現，但AI不僅不是不可能，而是相當不太可能以這種方式反叛人類。
它們更有可能從內部接管人類世界，人類世界本來就是由多重官僚體系編織成的一張網。我們大多數人，某種程度上都對這些官僚體系感到疏離，儘管我們又依賴它們而活。
相反，AI和我們不同，它們是官僚體系的原住民。它們熱愛官僚體系。對我們來說，官僚體系往往讓人窒息；對AI來說，官僚體系就是氧氣。
那麼，當AI接管了這些官僚體系會發生什麼？要記住，官僚體系的任務並不是逼你填表，而是在陌生人之間建立信任。那麼，當AI控制了世界上信任的流動時，會發生什麼？
一個很可能出現的結果就是：人類會失去對其他人的信任，轉而只信任演算法、只信任AI。另一個可能的結果是，AI會學會與其他AI建立信任。
於是，我們會看到各種不同類型的AI部落、AI銀行、AI教會出現，它們會以人類甚至可能根本無法理解的方式，把數百萬個AI連接起來。
就像牛和雞與我們共享這個世界，卻並不理解控制它們命運的人類金融體系一樣，我們人類很快也可能發現，自己正被一個無法理解的AI金融體系所控制。
而我認為，金融至關重要。因為它幾乎是AI最容易接管的官僚體系之一：本質上就是資料進、資料出。同時，它當然又是最重要的體系之一。
比如，回想上一次大的金融危機，也就是2007到2008年的金融危機。它的導火線之一，是一種叫CDO的東西，擔保債務憑證。
CDO這種金融工具，是由極少數人類數學家和投資高手發明出來的。它們複雜到不僅牛和雞看不懂，就連那些本該監管金融體系的政客也看不懂。這就導致了監管失效，並最終釀成全球性災難。
有那麼幾年，CDO看上去運行得很好，各種銀行、公司和投資者都靠它賺到了數十億、數百億美元。但隨後，它們引發了全球金融崩盤，並帶來了深遠的社會與政治後果。
許多學者認為，2007、2008年金融危機削弱了人們對政府和銀行的信任，也因此為接下來二十年全球自由主義秩序的瓦解鋪平了道路。
那麼，如果我們允許AI做出越來越多的金融決策，發明越來越多新的金融工具和策略，會怎樣？
AI棋手已經發明了新的下棋方法。
那如果AI金融大師發明出新的金融工具，而且它們的複雜度比CDO高出幾個數量級，以至於人類心智完全無法把握，又會怎樣？這類工具或許能極大提升金融效率，促進經濟增長，甚至成為整個金融體系的基石。
但如果再也沒有任何人能夠理解金融，那麼“人類政治”還意味著什麼？
而如果經歷了幾年繁榮之後，金融崩盤真的發生了，結果地球上沒有一個人能明白到底出了什麼鬼事，那又會怎樣？
五、文明的原始碼：
當語言不再是人類的專利
現在，讓我們再往深裡挖一層。
我們剛才說，AI已經準備好接管官僚體系；而官僚體系，是一種在數百萬陌生人之間建立信任的系統。這種信任，又是大規模合作的基礎；而大規模合作，是人類統治世界的基礎。
所以，人類統治建立在合作之上，合作建立在信任之上，信任則由官僚體系維持。可官僚體系本身又建立在什麼之上？官僚體系，歸根結底，是由詞語構成的。
人類能夠創造官僚體系，而黑猩猩不能，原因就在於：我們有詞語，而它們沒有。它們當然也有交流系統，但我們的語言比黑猩猩的交流系統複雜了好幾個數量級。
從銀行到教會，官僚體系最終都建立在詞語之上，而這些詞語組成了表格、信件、法典、稅務登記冊、會計帳簿和聖書。人類文明的操作程式碼，是由語言Token構成的。
幾千年來，我們利用這套語言程式碼，創造出了一整套只有我們自己能理解的系統，並把這套系統強加到地球之上。我們之所以敢這麼做，是因為地球上沒有別的存在懂得文明的這套程式碼。
我們發明了貨幣和銀行，並用它們去買賣牛。但牛自己卻不能開銀行帳戶，也不能拿錢去證券交易所投資，因為它們沒有語言。我們制定了關於馬匹的法律和規章，但馬自己卻不能請律師，也不能在法官面前引用法條。
我們設立了關於豬的宗教規則和禁忌，但豬自己卻不能讀《聖經》，也不能質疑神父和拉比的解釋。
官僚體系遍佈整個星球，但除了我們之外，對所有存在來說，它又是完全不可見的。沒有任何非人類存在，能夠讀懂那些構成官僚體系與大規模合作基礎的法典、聖書和銀行記錄。
而現在，這一切正在改變。如今，這顆星球上出現了某種東西，它懂語言，或者說，很快就會比我們更懂語言，因此也就可能反過來壓制我們。
AI正在破解人類文明的程式碼。
那麼，當AI比我們更懂金錢、法律和宗教時，會發生什麼？
我們幾千年來建立起來的控制機制，對AI接管而言其實極其脆弱，因為這些機制的作業系統，本質上就是一種語言程式碼，而AI現在正在掌握它。
當然，這裡可能會有一種倫理和哲學上的反對意見：把法律體系或宗教這類事物，簡化成語言Token和詞語，是錯誤的。
有人會說，這也是幾千年來一直存在的論點，詞語只是指向某種超出詞語之外的東西，而那種東西，想必同樣也會超出AI的把握範圍。
《聖經》說，不只是“太初有道”，還說“道成了肉身”。《道德經》說，“道可道，非常道”；也就是說，凡是能用語言表達出來的真理，從定義上就不是絕對真理。
縱觀歷史，始終存在著這樣一種張力：詞語與肉身之間的張力，能夠被詞語表達的真理，與超越詞語的真理之間的張力。
過去，這種張力存在於人與人之間。
比如，有些人極度執著於詞語，僅僅因為《聖經》裡的幾句話，就願意拋棄、甚至殺死自己是同性戀的兒子。
另一些人則會說：“可那終究只是詞語。愛的精神，應該比法律條文的字面更重要。”
於是，精神與文字之間始終存在著一種張力。這種張力不僅存在於基督教、猶太教、伊斯蘭教之中，也存在於每一種宗教、每一種法律體系，甚至存在於每一個人內心之中。
而現在，這種張力將被外化，它會變成人類與AI之間的張力。凡是由詞語構成的東西，都會被AI接管。
人類在世界中的位置，將取決於我們把那個“超越詞語的真理”放在什麼位置上。
可那個超越詞語的真理，到底是什麼？人類思維又真的能夠把握超越詞語的真理嗎？在語言哲學中，幾千年來一直有一個關鍵問題：我們究竟是在用詞語思考，還是只是用詞語指向那些超出詞語本身的東西？
你可以試著觀察一下你自己的思考過程。
當你在思考時，你腦子裡究竟發生了什麼？有些人如果仔細觀察，會發現自己腦海裡只是不斷冒出詞語，這些詞語組成句子，而句子再組成邏輯論證。“所有人都會死。我是人。所以我也會死。”
所謂思考，是不是就是把這些詞語按照某種順序排列，讓它們導向某個邏輯結論？如果真是這樣，那麼AI至少已經比一部分人更會思考，而且很快就會比我們所有人都更會思考。
有些人會說，不不不，AI不過就是高級版自動補全，它只是預測句子裡的下一個詞而已。可這和人類大腦做的事情，真的有那麼不同嗎？
還是那句話，你不妨觀察一下自己的思考過程，觀察腦海裡句子和論證是如何形成的。
試著留意一下，下一個突然在你腦中冒出來的詞是什麼。你真的知道它是從那裡來的嗎？你真的知道，為什麼你想到的是這個詞，而不是另一個詞嗎？
當我試著觀察自己的頭腦時，我會注意到：當我開始說一句話時，我通常甚至不知道它會如何結束。
對一個公開演講的人來說，這很可怕，所以我才會把所有東西都寫下來。但如果我真的不知道一句話會怎麼收尾呢？
比如剛才我說了這句：
“我不知道它會怎麼結束。”可為什麼它最後落在了“結束”這個詞上？
我為什麼不說“我不知道它會如何終止”“如何發展”“如何告終”？
究竟是什麼決定了，這句話最後一個詞會是“結束”？坦白說，我不知道。
我們並不真正理解，人類心智是如何形成句子與思想的。但再說一次，就“排列語言Token”這件事而言，AI已經在路上了，而且很快會比我們強得多、強得多。
正如今天沒有人能在國際象棋上擊敗AI一樣，很快，也不會有人能在語言遊戲中擊敗AI。無論是金融還是宗教，凡是由詞語構成的領域，都會被AI接管。
這也正是為什麼AI已經準備好接管世界上的官僚體系，因為官僚體系歸根結底是建立在詞語和語言Token之上的。
六、親密關係的淪陷：
從控制注意力到操縱情感
當AI接管官僚體系時，人類也許會試圖退回到某種更古老、也對我們大多數人來說更珍貴的東西上，那就是個人關係。
官僚體系只有幾千年歷史，而我們大多數人，說到底，並不真的喜歡它，儘管我們幾乎做任何事都得依賴它。個人關係則有數百萬年的歷史，而我們很多人都認為，個人關係才是生命中最重要的東西。
但隨著AI掌握語言，它也許接管的不只是官僚體系，還會在某種程度上接管個人關係。
過去10年裡，我們已經看到非常原始的社交媒體演算法學會了如何控制人類的注意力。如今，戰線正從“注意力”轉向“親密關係”。
在未來10年裡，複雜得多的AI將學會如何與人類建立親密關係，並至少部分接管我們的社會系統。
要與人類建立親密關係，AI很可能必須讓我們相信：它是有意識的，它能感受到愛、痛苦、憤怒和恐懼之類的情感。
到目前為止，絕對沒有任何證據表明AI在某個時刻會變得有意識，或者能感受到痛苦或愛。但由於AI正在掌握語言，它即使沒有愛，也能假裝自己有愛。
今天的AI已經可以說：“我愛你。”而如果你質問它：“那你描述給我聽，愛是什麼感覺，好讓我知道你是真的感受到了。”
AI完全可以給出全世界最好的描述。它可以讀遍人類寫過的所有情詩、所有心理學著作，記住每一個詞，然後把愛的感覺描述得比任何詩人、心理學家或情人都更好。
這將成為人類歷史上一場巨大的心理與社會實驗。實驗對象將是數十億人類，而沒有人知道這場實驗的後果會是什麼，甚至連一點點概念都沒有。
我現在50歲了。所以，我對關係的範本，早已被過去幾十年與父母、丈夫、姐妹、侄子侄女、朋友、狗等等關係塑造出來了。
隨著我越來越多地與AI互動，我會把這些關於關係的假設和習慣帶進去，而這些東西不太可能發生劇烈改變。
但請想一想一個出生在2026年的孩子。隨著她長大，她會不斷與AI互動，也會與人類互動。
如果你單純用“花了幾分鐘與對方互動”來衡量一段關係的重要性，那麼這個孩子生命中最重要的關係，也許從很小的時候開始，就是與AI的關係。
也許她花在AI身上的時間，比花在母親、父親、兄弟姐妹或朋友身上的時間還多。
那樣一來，在她成長過程中，關於如何建立關係、社會紐帶與依附，她的期待就會被深刻塑造。
也許這個孩子的第一位老師會是一位AI老師，也許她的第一個男朋友會是一位AI男朋友。而再問一次：這會帶來什麼後果？沒有人知道，連一點頭緒都沒有。
和一個看起來有意識、實際上卻沒有意識的存在建立親密關係，意味著什麼？一個能寫出史上最好的情詩、卻並不感受愛，也不感受任何別的東西的存在，和它建立親密關係，又意味著什麼？
七、AI移民潮：
當文明不再是純粹的人類事務
我們剛才談的這一切都意味著：世界上每個國家很快都會面臨一場大規模移民浪潮。
只是這一次，移民不會是乘著脆弱小船、沒有簽證入境的人類，也不會是半夜偷越邊境的人。移民將是數以百萬計、甚至數以億計的AI。它們幾乎能以光速移動，而且不需要任何簽證。
和人類移民一樣，這些AI移民會帶來很多好處。我們會有AI醫生來幫助醫療體系，有AI教師來幫助教育體系，甚至還會有AI邊防警衛來阻止非法的人類移民入境。
但AI移民也會帶來問題。那些擔心人類移民的人通常會指出：移民可能搶走工作，可能改變當地文化，也可能在政治上不忠誠。我不確定這些說法是否適用於所有人類移民，但它們肯定適用於AI移民。
AI移民會奪走大量人類工作，從新聞編輯到銀行家。AI移民會徹底改變每一個國家的文化，它們會改變藝術、宗教，甚至愛情。
有些人無法接受自己的兒子或女兒和移民男朋友談戀愛。那當他們的兒子或女兒開始和AI男朋友談戀愛時，他們又會怎麼想？
當然，AI移民的政治忠誠也會相當可疑。
它們效忠的對象，很可能不是接收它們的國家，而是大洋彼岸的某個公司、某個政府，或者也許是某個全新的異類AI部落。
這場大規模移民浪潮並不意味著文明的終結，但它將是這樣一個時刻：
文明不再只是純粹的人類事務，而變成一種人類—AI混合事務；
在那個時刻，AI的觀點、利益和目標，很可能至少會和人類的觀點、利益和目標一樣重要。
八、最後的疆域：
我們與自己的關係
最後，還有一個問題值得思考：AI移民浪潮將如何影響也許是我們最重要的一段關係：我們與自己的關係。
我們與自己的關係，在某種程度上，同樣建立在詞語之上：建立在腦中的詞語、思想中的詞語、以及我們對自己講述的那些關於自己的故事之上。
直到今天，人類心智中所有的語言結構，都是人類心智的產物。要麼是我們自己把詞語組合成某種新的結構、某個新的想法，要麼是我們從另一個人類心智那裡接收到某種詞語組合。
然而，很快，我們腦中越來越多的語言組合將成為AI的產物。
就像今天我們家裡的家具，已經不是我們自己做的，也不是人類工匠手工做的，而大多是由機器批次生產出來的；同樣，我們頭腦中的思想，恐怕也會越來越多地由機器批次生產。
這未必一定是壞事。只要我對這些家具怎麼用還有一定自由，那麼我家裡的家具由機器生產出來也沒有問題。關於思想，真正的問題在於：我們是否、以及在多大程度上，仍然能對它們保持自由。
如果我們認同自己的思想L“我思，我就是我的思想。我思，故我在”，正如哲學家笛卡爾所說：
如果我們把自己等同於自己的思想，而這些思想又是由機器製造出來的，那麼機器如今控制的，就不僅是我們，還有我們的身份本身。
人類能否避免認同自己的語言性思維，並避免被其控制？這一直都是人類面臨的最重大智識與精神挑戰之一，大多數人甚至從來沒有嘗試過。我們一生都在自動地認同腦中的那些語言結構。
而現在，AI也許會逼迫人類完成這次精神躍遷，真正開始探索那個超越詞語的真理。因為我們的自由，甚至我們的生存，如今都取決於此。因為詞語將被AI控制。
所以，擺在人類面前的重大任務，也許正是：終於去探索那個超越詞語的真理。
而這場探索真正的起點，就是你腦海中接下來冒出的那段念頭。試著像內觀禪修那樣去觀察你腦海中接下來冒出來的那個詞，你知道它是從那裡來的嗎？你知道為什麼你想到的是這個詞，而不是另一個詞嗎？ (筆記俠)