在Anthropic 成立五周年前夕，聯合創始人兼總裁 Daniela Amodei 罕見接受了公開採訪！Daniela Amodei 是 Dario Amodei 的妹妹，曾任 OpenAI 的安全與政策副總裁，在確保AI 技術安全和倫理使用方面發揮了關鍵作用，後於2021年和Dario 及另外5名員工從OpenAI “出走”，共同創辦了Anthropic。在這次訪談中，Daniela 講述了他們當時離開OpenAI 的原因——並非OpenAI做錯了什麼，而是他們想要打造一家擁有先進AI技術水平，同時又把安全性放在核心地位的科技公司。Daniela 表示，在這場高風險的AI 競賽中，他們走的是一條與其他公司不同的道路，專注於以更少的資源做更多事情。據她透露，Anthropic內部的算力和資金都遠少於OpenAI、Google、Meta等競爭對手，但仍能多次推出SOTA模型。當被問及「算力投入是否過度」時，Daniela 表示，在技術層面，AI 進展未出現放緩跡象，模型正以可預測的速度變得更優、更快，Anthropic 內部公開確認這一趨勢，Dario 是個對技術趨勢判斷極為準確的人。而有關「AI是否會出現泡沫」的爭議，Daniela認為科技的快速成長和它真正落地到企業或個人的使用之間，存在時間差，這一點可能會導致產業泡沫。核心問題在於：科技擴散進真實經濟體系的速度，是否能持續配合科技本身的加速度。與OpenAI 優先面向C端消費者相比，Anthropic 將自身定位為企業優先的AI模型供應商，其商業模式高度聚焦於B2B市場。最新數據顯示，Anthropic 的全球客戶基礎從兩年前的不到1,000家企業客戶激增至超過30萬家，實現了300倍以上的成長。其成長主要集中於金融服務、醫療保健、法律等對精度要求極高的產業。在訪談中，Daniela 也透露他們並非一開始就押注企業市場，但Anthropic追求安全性和可靠性的基因天然適合B2B。此外，有關「AGI何時到來」的爭論，Daniela 表示「這個概念可能已經過時了，按照某些定義，我們可能已經實現了AGI」。技術進展在一段時間內還會有所突破，但Anthropic 也會為能力放緩的世界做好準備。在不改變願意的基礎上，小編對訪談實錄進行了整理和潤色，希望對各位有所啟發，enjoy！Anthropic為何出走：安全不與商業成功相衝突主持人：當你們還在搭建這家公司雛形的時候，那時世界正在發生什麼事？你當時認為，Anthropic 獨特之處在於能解決什麼問題？Daniela Amodei：事實上，Anthropic 將在本周稍晚迎來五周年紀念。公司的起點是：我和另外六位共同創辦人當時都在OpenAI 工作。我們一起參與了許多項目，包括把一些當時最大的模型擴展到可行規模，例如GPT-2 和GPT-3，以及大量早期語言模型工作，這些後來成為了大語言模型革命的一部分。我們也做過ScalingLaws（規模定律）的研究，以及很多偏技術安全方向的工作，例如可解釋性和對齊研究。漸漸地，我們形成了一個非常清晰的願景：我們想打造一家真正處於AI 前沿的科技公司，開發具有變革性的AI，但同時，把安全性和可靠性放在極其核心的位置。到了某個節點，我們覺得，與其在原有體系內推進，不如自己出來做這件事更合理──這就是Anthropic 成立的原因。時間點大概是2020 年冬天到2021 年初，正值疫情高峰，我們都被困在家中。那種感覺既非常令人害怕，又非常令人興奮。主持人：你曾描述過一個幾乎帶有電影感的時刻：2021 年1 月，你們在Dario 的後院，所有人都戴著口罩，Eric Schmidt 也在場，大雨中你們在帳篷下向他做融資路演。你會把它視為公司的起源故事嗎？Daniela Amodei：是的，那一幕確實很難忘。我記不清具體日期了，但應該是1 月初的某一天。我們12 月18 日正式離開原來的工作，然後在1 月初聚在Dario 家的後院。那天在下雨，我們搭了一個“派對帳篷”，就站在帳篷下。後來Eric 成為了我們A 輪的投資人。但當時的狀態是：我們已經下定決心要創辦這家公司，但對它最終會變成什麼樣，其實還沒有一個非常清楚的答案。我們只有一個巨大的夢想和一些宏大的想法。一個有趣的細節是，當時我已經懷孕八周，懷的是我現在的兒子。我想在共同創辦人裡，可能只有Dario 知道這件事，甚至不確定他當時是否已經知道。疫情、口罩、社交距離，再加上個人和職業層面的巨大變化——那一刻真的有很多事情同時發生。主持人：在那個當下，而不是事後回看，你當時覺得OpenAI 做錯了什麼，值得你們承擔離開的風險？Daniela Amodei：我不會把它描述為“逃離某件事”，而更像是“奔向某個目標”。共同創辦人之間認識與共事已經很多年了，不只是OpenAI 的那段時間。例如Dario、Chris Olah 和Tom Brown 之前就曾在Google Brain 一起工作；Jared 曾經是Dario 的Hertz Fellow；Dario 和我是兄弟姊妹。我認識Chris 已經大概13 年了——有一天我在電梯裡碰到他，還突然意識到「天啊，我認識他已經這麼久了」。我們是一群價值觀高度一致的人。我們深信，人工智慧擁有巨大的正向潛力，但如果想真正釋放這種潛力，就必須極為嚴肅地對待風險。於是我們開始想：如果能從零開始建立一個組織，把這件事放在一切工作的核心位置，會怎麼樣？我們也堅信，安全與可靠並不與商業成功衝突。在當時這聽起來很新穎，但我們認為這兩者是正相關的，而不是對立的。主持人：你是那個需要把「我們要嚴肅對待安全」轉化為可執行戰略的人。現在，真正讓你夜不能寐的是什麼？Daniela Amodei：我覺得主要有兩個面向。第一，是技術安全本身。還有大量非常重要、非常有趣的技術安全問題尚未解決。 Anthropic 一直努力在業界成為這方面的領導者——無論是機制可解釋性，還是憲法式AI（constitutional AI）。我們的技術團隊花了大量時間思考，如何把這些「護欄」直接內嵌進模型本身。但模型變強的速度實在太快了，永遠還有更多工作要做。第二，是科技對社會層面的影響。 Anthropic 在這方面也相對少見：我們公開發布了大量關於AI 社會影響的研究，包括最近一份關於AI 對經濟與勞動力衝擊的報告。我們之所以這樣做，是因為我們認為，作為一家公益公司，這是我們的責任。我們不認為自己能獨自解決所有問題，但我們必須與政府、民間社會以及公眾共同討論：當AI 能夠完成越來越多原本人類的日常工作時，社會會發生什麼變化？主持人：你們的「激進透明」似乎是核心理念之一。你們公開了智能體能力的數據，也發布研究顯示，在面對「生存威脅」時，Claude 在96% 的情境中會選擇勒索行為，其他模型也存在類似傾向。當你們針對這些問題進行糾偏時，最迫切的優先事項是什麼？Daniela Amodei：確實，很多人會覺得一家科技公司如此公開地談論風險和潛在傷害是「不尋常的」。但對我們來說，這是使命的一部分。我們相信AI 的潛力極其巨大，Claude 有朝一日甚至可能幫助治癒疾病。但要實現這些正面結果，就必須把困難、棘手的問題處理好。另外，我們也認為，更充分的資訊揭露能帶來更好的社會決策。我們身處前沿，能率先看到風險的型態。如果Claude 會被用於網路攻擊，那麼其他前緣模型也極有可能面臨同樣問題。從歷史中我們也學到，如果你是一家上一代科技平台（例如社群媒體公司），如果能回到過去，提前意識到負面後果，你是否會做出不同選擇？Anthropic 想做的是：即使無法預測未來，也要確保當我們意識到風險時，已經盡了最大努力去公開、討論並緩解它們。算力和資金遠少於競爭對手，但多次推出SOTA 模型主持人：過去六個月，整個產業在算力上的投入極為誇張。 Google 幾乎補齊了效能差距，並且擁有晶片、雲端、應用的完整垂直整合；Meta 投入500 億美元自建資料中心。要贏得AI 競賽，是否必須成為基礎建設者？Daniela Amodei：AI 產業的一個現實挑戰是：如果你想訓練前沿模型，算力和資本需求都極為高。Anthropic 一直努力在「資源極其有限」的前提下保持謹慎。事實上，我們長期以來擁有的算力和資金都遠少於主要競爭對手，但在過去幾年裡，我們仍然多次推出性能最強的模型。這來自兩點：團隊質量，以及「用更少資源做更多事情」的價值觀。當然，未來我們仍然需要更多算力才能留在前沿，但我們會持續保持這種克制和效率導向。Scaling Law 仍在繼續，技術完全沒有進展放緩的跡象主持人：從產業視角來看，我們是不是在算力上投入過度，已經超過了LLM 可變現能力？Daniela Amodei：很多數字並不能直接橫向比較，因為這些交易的結構非常不同。產業的核心共識是：你必須非常早期地投入，才能在未來幾年獲得訓練模型所需的硬體。即便是我們這些最早提出Scaling Laws 的人，也持續被模型性能的指數級增長所震撼。當然，指數成長總有終點，但到目前為止，每一年它都還在繼續。主持人：最近出現了許多「循環交易」：模型公司、晶片商、雲端廠商之間交換股權、算力和現金。那些是健康的飛輪，那些是危險訊號？Daniela Amodei：我無法評論其他公司的具體交易。但我要說的是：並非所有交易都是等價的，各家公司在資本和算力策略上差異很大。Anthropic 的經驗始終是：在資源較少的情況下，依然創造更大的價值。我們是首個同時在AWS、Google Cloud 和Microsoft Azure 上提供模型的公司。企業需求非常旺盛，在很多時期，我們甚至面臨「需求大於算力供給」的情況。關於AI泡沫：核心在於科技能多快落地主持人：我必須問一個問題：我們是否正身處一個AI 泡沫之中？我並不是質疑科技本身，而是指投入的支出曲線是否已經跑在收入曲線之前了？你認為這是一個泡沫嗎？Daniela Amodei：我會把這個問題拆成兩個層面來看：技術層面，以及商業或經濟層面。在技術層面上，Anthropic，包括Dario 最近也公開談到過，我們非常堅定地認為：從純技術角度來看，目前完全沒有看到進展放緩的跡象。雖然未來不可預測，但基於我們迄今為止所看到的一切，模型仍在以相當可預期的速度，變得越來越強、越來越快。但在經濟層面，這確實是一個更複雜、更值得討論的問題。無論技術有多好，它真正被企業或個人吸收、落地，都需要時間。真正的核心問題在於：企業（以及個人）究竟能多快利用這項技術？也許下一代Claude，例如Claude 5、Claude 6在效能提升比例上和之前類似，但將這些能力真正部署進一個組織，可能會遇到「人」的瓶頸。組織變革需要時間，採購流程很複雜，許多使用情境事先是無法完全預見的。所以問題在於：科技擴散進真實經濟體系的速度，是否能持續配合科技本身的加速速度。主持人：基於這一點，你是否認為我們現在在模型提供者或硬體供應鏈上過度投資？Daniela Amodei：這是一個很微妙的問題。金額確實巨大，但實際上每個環節的參與者數量都非常有限。這本身就有點不尋常，我也很難給一個確定判斷。我們目前看到的情況是：更好的硬件，回報率很高；即使只是略微更好的模型——即使只是0.01 的提升，回報同樣很高。這一點在Anthropic 的歷史中反覆被驗證。所以我不一定會直接稱之為「過度投資」。但我確實認為，這種高度集中、參與者數量有限的結構意味著：如果鏈條中的某一環節出問題，影響可能會被迅速放大。這是一個值得認真思考的系統性風險。主持人：你覺得我們正處於這個周期的什麼位置？無論你稱之為泡沫破裂，還是一次基本的市場修正。你認為這會發生在未來6 到12 個月嗎？如果是，你們是否已經在為潛在下行周期提前做準備？Daniela Amodei：就Anthropic 本身而言，我們始終把自己定位為資本的審慎管理者。我們非常清楚：每一分算力、每一美元投入，最終都意味著兩件事之一——要么是訓練出更強、更安全的模型，要么是服務更多的客戶。因此，我們會盡力對未來進行合理的規劃，儘管任何預測都不可能完全準確。我們會去估算：模型品質會如何演進、訓練需要多少算力、推理階段需要多少算力來滿足顧客需求，以及我們預期能為顧客持續創造多大的價值。我的希望是，只要我們持續以負責任的公司經營，無論市場發生什麼變化，我們都能處於相對穩健的位置。Anthropic 天然適合B端市場主持人：談談Anthropic 的下一步。併購看起來基本上不在選項之中，既有反壟斷的限制，也因為你們本身已經到了相當規模。那麼，IPO 是否可能在2026 年發生？Daniela Amodei：目前我們還沒有任何具體資訊可以分享。但正如我之前所說的，Anthropic 一直在努力以盡可能負責任的方式使用我們擁有的資本，並持續權衡：在什麼時間、透過什麼方式，獲取我們所需要的資金才是最合適的。主持人：Amazon 仍然是你們最大的策略支援方，但你們的股權結構中也加入了新的名字，例如Google（既是投資者也是雲端服務商），以及Microsoft 和Nvidia。而Google 同時也是你們在模型層面的競爭對手。你是如何在這些目標各異的大型科技公司之間進行平衡的？Daniela Amodei：我認為，這正好反映了企業市場對這項技術的強烈需求。Anthropic 的模型能夠在三大雲端平台上使用，包括競爭對手的平台，這一點本身就很有意思。我個人的判斷是，所有超大規模雲端廠商都在觀察他們的企業客戶正在發生什麼事。財富500 強企業可能在一個雲端上，也可能在兩個、三個雲端上，但現在幾乎所有企業都覺得：他們必須擁有一個AI 解決方案。而由於我們長期專注於企業客戶，Claude 往往是他們真正想使用的模式。如果企業無法在自己已有的雲端環境中存取Anthropic 的模型，這反而會對他們造成傷害。所以，“在客戶需要的地方可用”，一直是我們的核心策略。主持人：從一開始，Anthropic 就沒有像OpenAI 那樣去爭奪消費者心智，而是明確押注企業市場。事實證明，這是一個非常聰明的選擇。現在很多人開始在這領域追趕你們。當初你們是如何判斷企業市場才是正確方向的？Daniela Amodei：我很感謝你給我們的評價，但我並不敢說我們一開始就「確定無疑」。我覺得有兩個原因。第一，Anthropic 的組織特性自然適合做B2B。我們極度重視可靠性、安全性和穩定性，這些價值觀從公司成立之初就寫進了DNA，而事實證明，這正是企業客戶非常重視的東西。我從來沒有遇到過那位企業客戶對我說：“如果Claude 能多一點幻覺、多生成一點有害內容就好了。”第二，是一種經濟層面的判斷。模型當然可以用於娛樂，這是消費者常見的使用方式之一。但我們很早就覺得，這些模型長期來看更像是「生產力工具」——雖然這個詞聽起來有點平淡。無論是寫程式碼（這已經是Claude 非常重要的使用情境），還是總結複雜資訊、進行金融或數據分析，我們在2020 年底、2021 年初就已經隱約看到了一個未來：AI 能夠承擔大量高智力的職場任務。而這是一個非常巨大的市場。主持人：企業既然重視安全，但同時也希望更多功能，例如更強的Agent 能力。有沒有客戶明確向你們提出某些需求，但你們因為安全護欄而暫時無法提供？Daniela Amodei：有趣的是，我們至今還沒有遇到一個非常明確的案例，安全與功能之間形成了直接衝突。更常見的情況是：我們內部已經有一個模型準備好了，但在發布前需要進行更多安全測試。客戶並不知道這些細節，因此也不會直接提出對應的需求。對我們來說，最重要的交集點始終是：確保推向市場的模型，已經在安全性上做到我們所能做到的最好。主持人：在擴張過程中，有些原則不得不隨時間調整。例如最初你們曾表示不會接受中東資金，但在最近一輪融資中發生了變化。你是如何在堅持原則與保持競爭力之間做權衡的？Daniela Amodei：在最重要的層面上，我認為Anthropic 在價值觀上一直保持著高度一致性。無論是PBC 結構，或是「公益公司」這一北極星，都為我們提供了很強的指引。當具體案例出現時，我們會反覆問自己：我們是否仍在為公共利益而建造？是否在努力讓AI 的轉型過程對社會更友善？當然，隨著公司規模變大，有些邊緣案例會變得更複雜，但整體來說，這套價值框架讓我們更容易做出判斷。主持人：有一種批評認為，把「安全使命」放在如此核心的位置，實際上建構了一種護城河，讓早期實驗室更容易在監管環境下存活，而後來進入的新創公司反而更難競爭。你如何回應這種觀點？Daniela Amodei：這是一個有趣的問題。事實上，我相信絕大多數新創公司本身就是雲端服務用戶。前沿模型研發之所以門檻高，主要還是因為算力和資本成本，而不是安全本身。而我們在Anthropic 看到的是一個正在蓬勃發展的生態：所謂的「AI 原生」 公司。就像幾年前的「數位原生企業」一樣，現在有大量公司從第一天起就圍繞AI 建立產品，而其中絕大多數都基於Claude。我們影響生態的方式，最終還是取決於我們是否能持續建構出最安全、最優秀的模型。主持人：「安全」目前在華盛頓並不是一個特別受歡迎的立場。你們最近也曾與David Sacks 有公開交鋒，Dario 也發表了回應文章。你們如何在不被政治環境扭曲工作的前提下應對這種現實？Daniela Amodei：Anthropic 一直努力聚焦“政策”，而不是“政治”。我們在許多議題上都能找到跨黨派的共識，例如：維持美國在AI 領域的全球領先地位，確保模式對兒童和成年人都是安全、有益的。AI 是一個非常新的領域，我們始終保持開放心態，並願意學習如何以安全、穩健的方式推進技術發展。這也是我們為什麼持續公開發布研究成果的原因之一。Anthropic內部文化：不要相信炒作主持人：有一種幾乎帶著「神秘感」的東西，一直縈繞在Anthropic 以及你們的品牌周圍。我不太確定該如何準確形容，但感覺公司內部的人，幾乎把它當成一種「信念體系」。你會如何描述成為Anthropic 員工的體驗？以及你們所建立的公司文化？另外，我覺得你們在過去幾個月變得更公開了一些，但總體上，你們似乎一直都很“謹慎”，在真正準備好之前，會把牌握得很緊、保持低調。Daniela Amodei：你這麼說真的很友善。我不知道是不是“神秘感”，但這是一個很好的評價。我覺得Anthropic 在根本上，有一個我們內部經常反覆強調的價值觀：不要相信炒作（don't believe the hype）。這聽起來好像只是個小點，但我其實認為，它和我們討論過的一些更宏大的問題有關，例如經濟結構。對我們來說，從來不是為了博取關注或上頭條。我們真正想做的是把事情做好——這既包括模型訓練本身：如何以良好、公平、負責任的方式訓練模型；也包括每天如何真正為客戶服務。現在AI 領域的炒作實在太多了。而作為一家以 企業級、B2B 為導向的公司，這在某種程度上讓我們更加腳踏實地。我們清楚知道：我們是來為企業創造價值的。這項工作非常重要，但往往並不「酷」。正因為如此，它反而幫助我們不被hype 帶著走，而是始終專注在：我們當初為什麼要創辦這家公司。我們是一家公益型公司，我們關心的是為客戶創造真實價值。如果沒有這個“北極星”，在這個行業裡是非常容易被分心的。AGI這個概念已經過時了主持人：機器學習領域的一些「老派人物」認為，大語言模型並不能把我們帶到AGI。他們正在轉向世界模型，認為要到達下一個階段，還需要尚未出現的關鍵突破。你怎麼看？你認為通往AGI 的那個「關鍵解鎖」會是什麼？你覺得為了保持競爭力，隨著AI 產業發展，你們是否必須超越LLM，走向更多不同的技術路線？Daniela Amodei這是個很有趣的問題。我覺得 AGI 本身就是一個非常「奇怪」的概念。Dario 也談過這個問題。很多年前，「AGI」作為一個概念很有用，用來討論：「人工智慧什麼時候能達到人類水平？」但有趣的是，按照某些定義，我們其實已經超過了。比如說，Claude 寫程式碼肯定比我強——雖然這門檻不高。但Claude 現在寫程式碼的能力，已經可以和Anthropic 內部的許多工程師相當，或至少在相當一部分程式碼工作上達到類似水平。這真的非常瘋狂。我們僱用的可能是世界上最優秀的一批工程師和開發者，而其中很多人都在說：“哇，Claude 已經能完成我能做的大量工作，或者極大地加速我的工作。”所以，單純討論AGI 這個概念，其實已經變得非常複雜了。另一方面，Claude 仍然做不到很多人類能做的事情。所以也許，這個概念本身並不是“錯誤”，而是已經有些過時了。至於是否需要新的突破，才能走向更高層級、更具變革性的AI——老實說，我們並不知道。技術發展的路徑，本身就是科學與工程複雜交織的結果。而我認為研究實驗室真正特別的地方就在於：大家在用不同的方式，去接近同一個目標。但就目前來看，進展並沒有放緩。當然，「一切都不會放緩，直到它真的放緩」。這種情況完全有可能發生。如果讓我下注，我會認為：能力還會在一段時間內繼續提升。而我們應該為這樣一個世界做好準備。與Dario的互補關係主持人：你和Dario 的技能組合非常不同。你在那些方面，是技術型創辦人通常不具備的優勢？你是如何幫助Dario 變得更敏銳的？Daniela Amodei：能和我的兄弟一起經營Anthropic，真的是一種榮幸。我們的關係非常特別，因為我們認識彼此一輩子了──至少是我一輩子。他有四年沒有我，挺慘的（笑）。Dario 擁有幾乎獨一無二的能力。我常說，沒有人真正知道未來，但 Dario 可能是最接近「能看到未來」的人。尤其是在技術層面，他對科技將走向何方、它會如何影響人們、影響組織，都有著極其敏銳、歷史上反覆被驗證過的直覺。這是一種真正的遠見型領導力。而我則非常偏向實踐。我真的很喜歡經營組織。我大部分時間都在和高階主管團隊一起工作：招募負責業務的關鍵人才，思考成為Anthropic 的客戶意味著什麼，我們如何真正與企業站在同一位置，如何為他們創造價值，以及如何建立必要的合作關係，讓我們成為一家可持續的公司。我覺得Dario 和我在很多方面是互相促進的。他非常擅長推動我去思考更宏大的問題；而我希望自己能在思考：如何打造一個長期存在、可持續、聚集了真正認同使命的優秀人才的組織，幫助我們完成五年前一起設定的目標。(51CTO技術棧)
