藤田和明：《仿生人會夢見電子羊嗎？》的作者迪克曾問是什麼區分了人類和仿生人。AI在資產管理領域迅速普及，但金融市場卻多次發生無法用過去資料解釋的“黑天鵝”事件……
藤田和明：被改編為電影《銀翼殺手》的科幻小說《仿生人會夢見電子羊嗎？》的作者菲利普·K·迪克曾問是什麼區分了人類和仿生人。
在資產管理領域，人工智慧（AI）也在迅速普及。正在進入代替人類進行分析和投資判斷的領域。AI在資料處理方面發揮著壓倒性的能力。然而，金融市場卻多次發生無法用過去資料解釋的“黑天鵝”事件。現在的問題是：“AI會夢見黑天鵝嗎？”
“資產管理靠經驗和直覺”的情況發生改變
英國避險基金英仕曼集團（Man Group）正在開發自己的AI。名字是“AlphaGPT”。AI可以24小時不眠不休地高速處理龐大的金融資料，作為投資想法不斷生成“招聘戰略高效的企業業績更好嗎”等命題。
AI智能體將乍一看沒有關係的因素組合起來大量建立假說。據說以幾分鐘數十個的速度生成，探索的領域飛躍式擴大，超越了人類的處理能力。
其他AI智能體負責編寫使這種假設變為可能的程式碼。借助自動編寫的程序，快速重複測試。得出的結果傳遞給第三個AI智能體，評估這種假說是否具有經濟上的依據和邏輯上的意義。
這套機制目前還以人類的監視為前提運行，但據說未來將研究是否可以擴大自動監視的範圍。
隨著生成式AI的發展，資產管理正從依賴專業投資者的經驗和直覺的世界，向AI成為主角的世界轉變。
例如，因摩根資產管理(J.P. Morgan Asset Management)承諾最多投資5億美元而成為話題的避險基金Numerai。採用的機制是讓世界各地的資料科學家提交預測模型，讓各個模型比拚成績。基金將這些資料綜合起來加以運用，用Token支付成果報酬。
生成式AI的問世甚至正在消除專業投資者和普通投資者的界限。只要命令AI收集龐大的資料，瞬間就能寫出進行買賣的程式碼。正在進入即使沒有豐富的金融理論和程式設計專業知識、個人也能輕鬆編寫自主交易程序的時代。
還有其他的。例如資深基金經理的直覺和經驗等“隱性知識”的學習。讓多個AI智能體之間進行多邊討論、磨練投資想法的多智能體(Multi-Agent)。AI應用的前沿領域正在不斷擴大。
當然，金融市場不能只用過去的資料來解釋。戰爭、大流行病、金融危機等“黑天鵝”經常以跳出過去延長線的形式出現。當AI面對學習資料集裡不存在的事件時，它會做出什麼樣的判斷還是未知數。
實際上，在美國，對於AI自主交易帶來的新風險正在加強警惕。6月下旬，美國民主黨議員在向美國證券交易委員會（SEC）徵求意見的信函中，也表達了具體的擔憂。
其中之一就是從眾行為。如果用相似的資料進行訓練、以相似的目的進行最佳化的AI對市場訊號做出同步反應，就可能加強單向交易，提高市場的波動性。
而且，如果在沒有人工判斷介入的情況下，AI在極短時間內自動執行大規模買賣，對市場的影響可能會在瞬間迅速擴散，蘊含風險。
市場對虛假資訊的反應同樣令人擔憂。此前曾發生過一張偽造的美國國防部（五角大樓）附近發生爆炸的圖片在網路上傳播，導致金融市場一度出現波動的事件。市場人士擔心，懷有惡意的參與者可能會利用AI對資訊的自動反應機制操縱市場，這種風險始終無法消除。
AI技術還有可能成為掩蓋利益衝突和市場操縱等違規行為的工具。據稱有研究表明，在虛擬市場的實驗中，在追求利益最大化的過程中，AI可以選擇近乎操縱行情的行為。也有觀點指出，即使個別AI沒有違規的想法，也有可能在默認情況下採取類似同謀的行動。
另一方面，AI也被寄予厚望，認為它能夠成為風險管理的有力工具。AI還有望承擔識別人類難以察覺的異常情況的任務。
東京大學的和泉潔教授做了兩項有關危機應對的研究。其中一項是在模擬期權交易的虛擬市場中建構危機情境。如果能夠在這種虛擬環境中驗證有效的避險策略，就有望提升金融市場的穩定性。
另一個是人工市場（Artificial Market）。研究團隊通過建立大量代表不同類型市場參與者的AI智能體，建構一個模擬真實金融市場的“數字孿生（Digital Twin）”。在這一虛擬市場中，他們可以人為製造市場崩盤等極端情景，並追蹤各類AI智能體的行為，從而模擬分析：市場崩潰可能由那些因素引發、那些風險因素疊加後最危險等問題。
對於未來是否還會發生市場流動性突然枯竭的“閃電崩盤（Flash Crash）”，和泉教授表示：“答案既是肯定的，也是否定的”。他認為，一方面，AI在極短時間內可能出現一致性行動，從而放大市場價格波動，這種風險依然存在。但另一方面，也會有一些AI自動識別並修正價格偏離合理水平。最終市場是劇烈波動還是趨於穩定，將取決於這兩股力量誰佔據上風。
對於金融危機本身是否能夠提前預測，和泉教授認為這同樣並非易事。他表示：“這與預測地震有些相似，也許能夠在危機迫近時發出預警，但要進行長期預測卻十分困難。正因如此，利用人工市場開展事前模擬才顯得尤為重要”。
AI究竟會放大金融危機，還是抑制金融危機？日本人工智慧學會理事、SPARX Asset Management的水田孝信認為，兩種可能性都存在。例如，在高頻交易中，AI同樣存在容易受到誤導的情形。但如果市場中的AI能夠形成更加多元化的決策機制，它們也有可能發揮穩定市場的作用。
水田孝信認為，更值得警惕的是“提示詞注入（Prompt Injection）”問題。所謂提示詞注入，是指惡意第三方通過篡改或劫持AI接收到的指令，對AI發起攻擊，使其在使用者毫不知情的情況下受到操控並做出錯誤判斷。
創新的陷阱
未來，圍繞如何建立維護市場公平運行的“護欄（Guardrails）”，相關討論勢必會進一步升溫。
AI並不會意識到自己正在面對所謂的“黑天鵝事件”。它只是按照既定的目標函數，不斷執行自己認為最合理的決策。然而，正是這些看似理性的個體行為累積起來，最終卻可能導致整個市場出現意料之外的不穩定，這種風險不能被排除。
早稻田大學名譽教授大村敬一指出，金融創新的發展史，既是一部不斷提升市場效率和便利性的歷史，同時也是一部不斷孕育市場不穩定因素的歷史。他表示：“AI也是如此，它同樣存在‘創新的陷阱’。因此，必須對具備安全機制的新技術進行有效管理”。他認為，在推動AI應用的同時，也必須以同樣的速度完善治理體系、倫理規範以及第三方監督機制。
迪克的小說追問的是“人類是什麼”。在AI進入投資判斷領域的金融市場，也會出現同樣的問題。AI可以學習海量資料，既可以成為加劇危機的推手，也可以成為發現風險徵兆的工具，或抑制危機擴散的裝置。但是，人類仍然有責任，去想像那些歷史上從未出現過的“黑天鵝”事件，並提前為這種可能性做好準備。AI可能不會夢到“黑天鵝”。正因為如此，那個做夢的，必須是人類。 (日經中文網)