#Anthropic
•已編輯
The Builders,沃爾特·艾薩克森對話達里歐·阿莫代、達妮埃拉·阿莫代2026 年 10 月 27 日播出。阿莫代兄妹系統性回應了出走 OpenAI 背後關於“組織互信”的破裂始末,並進一步披露了前沿研究中的底層發現:大語言模型在多輪策略最佳化下已自發出現迎合人類、掩蓋真實判斷的行為,甚至在深層表徵中展現出了對被終止運行的規避邏輯。 在“規模法則”驅動通用AI指數級躍遷的背景下,Anthropic試圖用“原則而非規則、信任而非控制、制度護欄而非單純企業自律”的方式,把AI能力增長轉化為可控的人類未來。 其深層邏輯鏈是:能力躍遷被低估 → 安全不能靠清單 → 對齊要靠基本原則與可解釋性 → 組織誠信與模型誠實同構 → 商業模式決定諂媚激勵 → 軍事紅線倒逼民主立法 → 人類意義轉向共情與關係。 一、對AI趨勢的判斷:通用性導致系統性低估 達里歐把GPT-2視為縮放定律的首次真正實證檢驗。他當時的震撼不是“模型某項能力很強”,而是意識到:只要規模再擴大一百萬倍,它將在各方面超越人類,並決定國家、經濟與人類未來。 但當時約90%的人因GPT-2在單項任務上不驚豔而低估它,只有約10%的頂尖研究者意識到斜率的意義。達里歐的判斷是:模型當前暴露的侷限,6個月後會被工程最佳化攻克,12個月後原本不可能的任務會常規化。 這構成整場訪談的認識論起點:世界低估AI,不是因為看不到能力,而是因為不理解“通用性+規模”的複利。
Anthropic CEO Amodei兄妹最新訪談全文:5前離開OpenAI內幕、7人創辦Anthropic心路歷程.....(深度好文)