2024年8月,美國蘭德公司(Rand)發佈報告《展望2045:研究未來20年全球趨勢的影響》。報告的核心目標是識別和評估那些將對未來安全和經濟產生重大影響的全球趨勢,並為國防部等政府部門發出警報,使其能夠更清楚地認識到最突出的問題,以便更好地預見並適應未來幾十年最緊迫問題的威脅。元戰略編譯報告中「技術趨勢」的主要內容,以期為讀者理解未來20年全球技術進步帶來的影響提供參考。
要展望未來,首先必須理解全球現狀,這既是向未來演進的起點,也是理解現實可實現目標的限制因素的媒介。因此,蘭德公司深入研究了當前各種展望未來的文字資料。初步觀察的結果是,自蘭德公司《展望2035年》報告發表以來的十年間,各機構對新興技術、顛覆性技術或突破性技術的預測和分析激增。同樣,圍繞社會、地緣政治、經濟和環境驅動因素進行的情境規劃,如今已成為世界經濟論壇(WEF)、聯合國(UN)和國際貨幣基金組織(IMF)等全球性組織的主要工作,同時還有大量的行業報告和學術報告。
在對不同報告進行的廣泛分析中,蘭德公司注意到,圍繞安全和經濟的全球競爭在深度和廣度上都在不斷增長。隨著社會價值觀與資訊過載的碰撞,公民社會正受到挑戰。社群媒體平台上的意見由於回音室效應自行運作其治理,而不是遵守國際標準。考慮到前沿技術(如人工智慧)可能帶來的生存威脅,人類的生命可能存在危險,然而,仍有機會減輕其中的一些風險。當國防部門決定更多地利用前沿技術的優勢時,蘭德公司認為存在可加以利用的抵消負面影響的機會。
此外,隨著網路犯罪率的持續增長以及國家行為者正在試圖破壞對手的關鍵基礎設施,各國必須考慮新的方式來擊敗這些行為者以及他們在網路領域進行的行動。事實上,人們可能過於信任技術,因此,現在必須將我們重新定位到不信任技術的立場上,以保護寶貴的個人資訊、真相、關鍵基礎設施和國家機構,以維護現有的生活水平。為了協助政府,蘭德公司建議國防部門考慮制定一種與這些不良行為者「持續接觸」的戰略,使他們在惡意活動中越來越受到限制或約束。
蘭德公司在2014年發佈的《展望2035年》報告中提出了一個時間表,展現了九個相互重疊、以各自速度發展的新興技術領域將在2025年左右匯聚在一起,產生一些「很有趣的應用」。世界正在走向數位化,並開始應對所產生的海量資料,為了捕捉這一現像以及其他技術融合所帶來的現象,出現了前沿技術這一概念。正如世界智慧財產權組織所指出的,所有前沿技術都是由加速數位化所推動的,依賴於材料,並經常產生資料。
2017年,經濟合作與發展組織(OECD)堅持認為,處於全球發展前沿的技術應得到重點考慮。此後,聯合國將其擴展至描述那些將「重塑工業和通訊,為全球挑戰提供急需的解決方案,並有可能取代現有流程」的技術。儘管該宣言指出了緊迫性,但直到現在,我們才看到前沿技術出現在重大科學突破和現實世界實施的交匯點上。這些技術正在改變我們的生活,它們是解決我們面臨的一些最緊迫的全球性問題的關鍵之一。
當今的前沿技術包括:數位技術:元宇宙、物聯網、區塊鏈、人工智慧、巨量資料、量子計算;物理技術:自動駕駛、三維印刷、納米技術、機器人和無人機、電動車、風能和太陽能太陽能電池、超材料、精確導航和計時;生物技術:生物印刷、有機體、基因工程、人體增強和腦機介面、沼氣、生物質和生物燃料。
除了對這些前沿技術的直接應用之外,前沿技術改變我們生活最有說服力的方式是對這些技術的普及。多年來,3D印表機在業餘愛好者、小型企業和研究人員中的普及一直支撐並推動著其發展。直到現在,隨著速度、規模、效率、成本降低和可持續性等方面的最新進展,工業應用市場的成長速度才有所加快。 2022年末,ChatGPT在五天內的使用者數量就超過了100萬,這顯示了大眾對人工智慧和其他此類技術的渴望。在那之後,人們對人工智慧所能實現的目標也有了更多的假設。資料、對資料的依賴以及隨後產生的更多資料是確保人工智慧實用性的一個基本面向。更具體地說,就是訓練人工智慧所依據的資料、這些資料的最新程度以及應用這些資料的背景。鑑於這些依賴關係,我們不難理解人們對人工智慧可能加劇現有問題(如不平等、歧視、偏見和種族主義)的擔憂。事實上,已經有許多例子表明,資料中固有的偏見只會在應用人工智慧時才暴露出來。
為了利用人工智慧,越來越需要實現知識民主化(democratise knowledge)。 2024年的一篇期刊文章將這一過程描述為包括“顯性知識表徵的開發和應用”,使這些知識不再是各科學子領域專家的精英領域,而是“多學科團隊、各種生物醫學研究計畫以及現在的機器學習」都可以取得的領域。不過,這樣做也可能推動科學民主化。對於醫學研究人員來說,可能不再需要特定的學術資格來獲取生物或化學方法,但對於那些心懷更邪惡目的的人來說,可能也是如此。正如蘭德公司在2024年的一次小組討論中所描述的那樣、以前精湛的技術知識可能被壞人利用。生物武器是一個相關例子,從歷史上看,其障礙就是資訊和知識。隨著大流行病的爆發,人們不再需要太多的專用工具或昂貴的成套裝置就可能達到毀滅性的效果。人工智慧可以縮小知識差距,同樣的故事也會在人工智慧和化學武器、核武、網路武器中重演。
因此,我們不難看出,人工智慧為獲取專業知識提供了便利,可能會導致新舊大規模殺傷性武器的去中心化。當然,這也預示著人工智慧的發展和應用將繼續不受監管或限制。目前,這一領域前沿技術的開發仍掌握在少數幾家有能力投資開發的公司手中,這些公司和領先的研究機構正在呼籲政府進行監管和干預。這在某種意義上是積極的,但在另一方面也令人擔憂,這些公司最理解人工智慧的力量,但也最理解其風險。
前沿技術的使用概念化是基礎,其他仍有待確定的因素可能會阻礙其被使用。例如,在作戰中採用完全自主的系統仍有待實現,包括那些裝備致命性武器的遙控系統現在已經在作戰中進行了測試。可以理解的是,致命性自主武器系統仍然面臨重大的文化、法律和倫理關切的挑戰。幾乎在所有未來的作戰概念中都提到了自主武器系統的應用,並將其作為抵消兵力規模縮小的一種手段。即使是目前可用的技術已經代表了比傳統能力更便宜的替代方案,但這些技術仍未被主流使用。
理解是什麼阻礙了這些自主武器系統的使用,這不僅僅涉及技術成熟度的考慮,實際上需要進行詳細的檢查,以確定這些障礙可能是什麼,以及如何克服這些障礙。此外,為了發展作戰專業知識,促進軍事組織對前沿技術的信任至關重要,領導支援以及滿足對新的、非傳統技能組合的需求也十分重要。在短期內,這些因素可能有助於軍事組織解決在技能保留和擔心工作被取代方面的問題,但如果要應對超出傳統作戰結構的更大範圍的意外情況,這些因素至關重要。這意味著不僅要更快地將技術交到作戰人員手中,還要確保他們知道如何使用這些技術。現實的作戰演習和實驗有助於經驗學習,這對於任何能力的大規模使用都是必要的,它為作戰必要性提供了一個有用且安全的替代方案。
隨著前沿技術的不斷普及,個人已自願與物聯網連接,社會也普遍融入了數字世界或網絡空間。當個人為了隨時隨地訪問無數應用程序或方便地進行個人管理而輕易放棄個人資訊時,社會可能不僅過於相信技術會給出正確的答案,也過於相信人類會正確對待這些資訊。
不幸的是,越來越多的網路犯罪和惡意活動涉及竊取個人資訊、金錢和知識產權,這表明社會給予技術過多的信任。個人、企業以及政府都成為了各種網路攻擊的目標和受害者,這些攻擊利用了不良的數字習慣或零日漏洞(zero-day vulnerabilities),應用了更複雜的社交網絡釣魚攻擊或用惡意軟件使網路飽和。
鑑於網路犯罪涉及越來越多且不斷演變的各種活動,並且不受邊界和國界限制地進行,網絡犯罪對個人構成的威脅正在累積,心理和社會不安很可能以不同方式威脅國家安全。此外,蘭德公司最近探討了與網路暴力極端主義和惡意行為者(包括國家行為者和代理人以及非國家行為者和網絡犯罪分子)相關的未來網絡操作環境的特徵,兩者之間的聯繫在於它們也會對國家安全造成威脅,並涉及網絡領域,特別是其中對技術的利用,這種利用因人類的易錯性而加劇。
更令人擔憂的是,錯誤資訊在社會中的迅速傳播和接受,其中最常見的是透過社交媒體傳播,這正在國家機構內部製造緊張局勢,可能會削弱一個國家在危機時期的應對能力。正如蘭德公司應對真相衰退計畫中的幾份報告所述,這種真相衰退在氣候變遷、國際移民和流行病應對措施等各種問題上都有體現。如果不是由網上的錯誤資訊或虛假資訊或資料本身固有的上述偏見所導致,那麼日益加劇的社會兩極分化可能更是有意為之的外國勢力影響,並且同樣會破壞國內穩定和韌性,產生進一步的社會、心理和認知影響。
惡意行為者越來越尋求利用社會紐帶,這種紐帶使人們和社區能夠跨越文化、種族、宗教或意識形態差異進行合作和相互信任。儘管使用涉及安全和情報機構的高級技術的更複雜攻擊(尤其是作為戰爭前兆的攻擊)可能是最令人擔憂的,但這類有針對性的攻擊目前數量相對較少。此外,攻擊者相對容易在社群媒體平台上使用簡單、現成的技術來進行類似的攻擊行動。從長遠來看,這類攻擊行動對國家的累積影響可能與更有針對性的攻擊一樣具有破壞性。
當人工智慧成為不良行為者工具箱中的常用工具時,相關威脅將呈指數級增長。利用人工智慧跨越多個不同平台和儲存庫連接資料的能力將有可能在全球範圍內實現並且能夠追蹤和監控個人。有些人已經擔心,如果這些不良行為者將人工智慧與元宇宙結合時,可能會開啟一個新的心理和情緒操縱時代。
最終,「真相之戰」不僅將包括辨別虛假資訊或錯誤資訊,還將包括識別誰和什麼是真實的。在此背景下,隨著人們越來越依賴虛擬系統來為自己做更多的事情、做決定和思考,社會可能正進入一個智慧黑暗時代。隨著技術的發展和人們與之互動的增加,人們可能會從虛擬遊客轉變為終身虛擬世界的原住民。社會孤立和對機器人或機器的依賴不僅會影響智力和情緒智商,還可能同樣影響社交能力和實踐能力。
毫無疑問,機器和技術的使用確實將繼續提高安全性和生產力,同時將對人類和環境的危害降至最低。長期以來,機器人和自主系統一直因其在承擔枯燥或危險工作中的作用而受到推崇,以替代人類從事地下礦井、石油鑽井平台的海上基礎設施維護或醫療保健等領域的工作,在戰場上也是如此。然而,越來越依賴機器來進行各種日常實際活動(如自動駕駛)可能會降低並削弱人類廣泛的認知技能、多感官感知和運動能力。再加上批判性思維能力的喪失(鑑於錯誤資訊和虛假資訊的氾濫),從長遠來看,這可能從根本上削弱心理、情緒、心理和身體的韌性。隨著人工智慧的引入,這種情況只會更加嚴重。 Google、ChatGPT之類的工具可以讓人們隨時獲取大量資訊,但過度依賴此類應用程序可能會削弱人類連接想法、分析論點和解決複雜問題的能力。事實上,這些人工智慧助理還不具備任何智慧的最關鍵能力:描述和預測的能力(講清楚現狀、過去和未來的情況),以及解釋的能力(講清楚非現狀以及可能和不可能的情況)。 (元戰略)