亞馬遜CEO訪談實錄|資本支出超50%用於生成式AI


2月28日,亞馬遜執行長Andy Jassy接受彭博科技的採訪,介紹了亞馬遜下一代個人助理AlexaPlus,新的AI晶片Trainium2的相關資訊,並討論了公司在AI領域的投資計畫。

Andy Jassy表示,AlexaPlus是下一代個人助理,不僅能聰明回答問題,還能執行實際作,代表了生成式AI的首個大規模消費級應用。他認為,AlexaPlus將增強Amazon各項消費者體驗,同時透過新裝置、廣告和訂閱服務創造永續的商業模式。

Jassy表示,Amazon在AI領域的投資規模領先,資本支出中超過50%用於生成式AI。他強調Amazon獨特的AI飛輪效應:開發大量AI應用以取得使用者回饋,改進基礎模組,進而促進更多應用開發。

關於算力限制,Jassy承認晶片供應仍無法滿足需求,預計今年下半年會有所緩解。他提到Trainium2晶片的性價比比GPU高30%-40%,將在推理方面帶來巨大優勢,並透露與Anthropic的ProjectRainier合作將使用超過40萬個Trainium2晶片。

此外,Jassy表示,AWS擔憂《AI擴散法案》對美國盟友的晶片限制將影響全球業務,認為美國應與這些國家合作而非限制。 Jassy認為量子運算雖有巨大潛力但實際應用仍需數年。他強調生成式AI需要持續投資,遲緩行動的公司可能落後數年。

以下是對話實錄,經翻譯編輯:

.....

主持人:這將如何真正讓您的客戶群感到興奮?您最期待的是什麼?

Andy Jassy: Alexa已經問世10年了。在客戶的家和辦公室裡,我們有6億台裝置。 AlexaPlus是我們的下一代Alexa個人助理。她比之前的版本更聰明、更有能力、更有用。您可以使用所有先前的功能,而且每一個功能都得到了改進。我可以給您舉個例子,例子很多。比方說,如果您透過Alexa控制智慧家居,現在您可以說:“Alexa,今晚7點有客人來訪。請拉開窗簾,將溫度升高5度,打開門廊燈和車道燈,並在餐廳播放柔和的晚餐音樂。”

主持人:柔和的音樂,您似乎不是會聽這種音樂的人。

Andy Jassy:大多數人會選擇柔和的晚餐音樂。但您完全可以透過語音、使用類似的對話語言來完成這些操作。您不需要使用應用程式,一切都會自動發生。因此,AlexaPlus,憑藉我們剛剛發佈和即將推出的功能,雖然市面上已經有很多擅長回答問題的聊天機器人,但它們並不能執行操作。而AlexaPlus,或者說Alexa,將成為第一個不僅能高度聰明地回答各種問題,還能為您做很多事情的個人助理。她可以播放音樂和視訊,控制您的智慧家居,為您預訂服務,甚至僱用人員來修理您的烤箱。我的意思是,這真的是生成式AI的第一個大規模實際應用,消費者將能夠自然地看到和使用它。

主持人:我可以想像您會有多喜歡它,例如在紐約這裡訂購最新的雞翅,看看那裡有最好的餐廳。但是,您的股東們又會如何看待這項技術呢?

Andy Jassy:關於生成式AI和AlexaPlus?這對他們有什麼價值?

Andy Jassy:我認為,如果您考慮一下Alexa能為客戶做什麼,它讓購物變得更簡單,因為現在購買產品更加直觀。它讓欣賞音樂更便捷,欣賞影片和串流媒體也更出色。它讓您能夠以不同的方式控制您的智慧家庭。因此,我們的每項消費者客戶體驗都會隨著AlexaPlus而變得更好。當然,Alexa也有自己的商業模式。我們將在秋季推出全新的裝置系列,我認為這些裝置非常漂亮,大家會非常喜歡。我們有機會透過Alexa提供新的產品和廣告,例如在我們的行動和桌面介面上。此外,我們還有訂閱服務。因此,我認為這裡存在著一個可持續的商業模式。

主持人:談談訂閱服務吧。因為如果您是Prime會員,就可以免費使用它。我現在透過Prime獲得了很多權益。您認為未來Prime會員的價格會上漲嗎?

Andy Jassy: Prime的價格嗎? Prime本身就具有令人難以置信的價值。想想看,您可以享受超過3億件商品的免費配送服務。當初我們推出Prime時,只有大約100萬件商品可以免費配送。而現在,這個數字是3億,而且大多數情況下,您都可以在一天內收到商品。因此,除了免費外送,您還可以享受PrimeVideo、PrimeMusic、生鮮食品雜貨的會員折扣,以及我們Prime專屬的促銷活動,Prime的價值確實非常高。因此,在Prime的基礎上增加AlexaPlus,只會帶來更大的價值。所以,我們目前沒有任何(漲價)計畫,但我確實認為Prime提供了非同尋常的價值,這也是為什麼它被如此廣泛地使用。

主持人:為了促進Prime的使用,我們推出了這項發明,也就是生成式AI的創新,而這是需要投入資金的。您昨天在台上也提到,在所有公司中,Amazon在AI方面的投入是最大的。您在AI上到底投入了多少?

Andy Jassy:我們沒有揭露確切的數字,但是,我們的資本支出相當可觀,其中很大一部分都用於生成式AI 。我們曾經在AWS業務中提到過,儘管生成式AI對我們來說已經是一項年收入數十億美元、且年同比增長率達到三位數的業務,但如果我們有更多的計算能力,就可以加以利用並實現商業變現。我們在Amazon內部有一個非常有趣且非常有利的AI飛輪效應。也就是說,如果您的使命是讓客戶的生活每天都更輕鬆、更美好,並且您相信我們目前所知的所有客戶體驗都將被生成式AI重塑(我們也相信這一點)。如果您相信這兩點,您就會開發大量的生成式AI應用程式。

如果您開發了大量的生成式AI應用程序,順便說一句,其他公司也在AWS之上進行開發。因此,如果有大量的生成式AI應用程式建立在您的平台之上,您必然會收到大量用戶回饋,瞭解他們希望如何改進建立生成式AI的基礎模組。如果您願意投資於這些基礎模組(我們確實在這樣做,如您所知,我們有自己的晶片Trainium,我們自己的前沿模型AmazonNova,以及模型構建服務SageMakerAI和Bedrock),並且您獲得了大量反饋,那麼這些基礎模組的改進速度就會快得多,這無疑會讓人們更容易、更快速地構建生成式AI應用程式。因此,這種良性循環的飛輪效應對Amazon來說非常獨特。

主持人:您說的“絕大部分”,指的是資本支出的運行率約為1000億美元。您能否提供一個更詳細的百分比細分,說明其中有多少用於分銷物流,又有多少用於AI?

Andy Jassy:「絕大部分」已經說明了情況。 「絕大部分」是指超過50% 。是的。

主持人:超過80%嗎?

Andy Jassy:我們在玩「猜數字」遊戲呢。

主持人:是的,沒錯。我喜歡遊戲。但請談談你提到的算力問題。如果AWS擁有所需的全部晶片、所需的全部電力、所需的主機板,AWS的成長速度可能會更快。 AWS的成長速度能有多快?

Andy Jassy:很難給出一個確切的百分比,但我確信它可以成長得更快。在很長一段時間裡,晶片的供應量仍然無法滿足我們的需求。我們很幸運,因為我們是NVIDIA非常重要的合作夥伴,但我們也有我們自己的定製AI晶片Trainium2,我們剛剛在re:Invent大會上發布,它的性價比比GPU驅動的實例高30%到40%,如果你在推理方面進行生成式AI,這在規模化應用上將帶來巨大優勢。所以,我們可能比其他一些公司擁有更多的晶片,但我們仍然沒有足夠的晶片。而且現在世界上還沒有足夠的電力,我們都在為此努力。我預計今年下半年會有所緩解,但目前來看,我們面臨著無法滿足的需求。

主持人:我們昨天從JensenHuang那裡聽到了驚人的需求,他公佈了NVIDIA的表現。是NVIDIA晶片的限制特別影響了產能?你認為什麼時候可以更依賴你自己的內部建構的晶片來抵消這些影響?

Andy Jassy:是的,現在對生成式AI需求量很大。人們對此感到非常興奮。我認為所有不同的晶片供應商都在一定程度上受到了限制。一些新一代產品可能經歷了不同的演變,它們的發佈時間可能比人們想像的要晚一些。有一些組件,像是主機板之類的,我們都在使用,特定的組件比其他的組件更短缺。所以,我認為確實存在一些供應鏈問題,我預期會好轉。

人們對Trainium2非常興奮,關於你的問題,以及我們是否可以在那裡看到更多的需求,我們至少有幾次回去製造比我們預期更多的Trainium2,因為我們的需求量非常大。所以,我預計,在可預見的未來,客戶將希望在具有NVIDIA晶片的實例上運行計算,但我認為許多需求也將由Trainium來滿足。

主持人:由於算力有限而無法服務的客戶,是不是你只是必須從所有客戶那裡更普遍地減少一點供應?還是你認為誰在這方面受到了影響?

Andy Jassy:這往往是各種情況的綜合。對於只需要少量加速器的客戶來說,他們通常沒有問題。我們有一個叫做容量塊的東西,它有點像是按需使用加速器和生成式AI晶片的方式,這種情況還在繼續。實際上是那些已經有了一個新應用程式的想法,但他們需要大量的晶片的客戶,如果我們沒有足夠的算力,我們只能提供我們能給他們的,並儘快給他們,同時推動我們的合作夥伴加快供應速度,如果算力不存在,他們就無法像他們希望的那樣快速完成他們的專案。

主持人: Anthropic擁有了它所需要的所有算力。你們有著密切的關係。

Andy Jassy:是的,我們與Anthropic有著非常密切的合作關係。我們與他們有一個名為ProjectRainier的計畫。他們正在基於Trainium2和我們的客製化AI晶片來建立他們的下一個模型,即他們的下一個版本的frontier模型。他們將使用超過40萬個Trainium2晶片。所以,是的,他們有算力,他們正在擴大規模,我們對這種夥伴關係以及他們正在建立的東西感到興奮。

主持人:你提到了電力方面。你在多大程度上與政府談論這件事?政府在多大程度上支援你需要做的建設?

Andy Jassy:我們多年來一直與這個國家的多個政府以及其他國家的政府進行對話。我認為電力短缺真的讓人措手不及,就在疫情之後。本屆政府非常重視這個問題。他們瞭解它現在對經濟造成的限制,並且他們決心解決它。

主持人:對於晶片的限制呢?有趣的是,Microsoft今天剛剛呼籲政府說,對我們世界各地的一些親密盟友的晶片訪問限制將限制我們的全球業務。你是一個全球性的企業。你擔心這個嗎?

Andy Jassy:我們擔心。你實際上是在談論那個《AI擴散法案》,我想。我很好奇它會走向何方。它是在上屆政府的最後時刻非常迅速地頒布的。我不知道本屆政府對此有何看法,但我們同樣擔心,它對某些國家有限制,這些國家是美國的天然盟友,他們只是為了能夠開展業務,這些公司為了能夠在像AWS這樣的技術基礎設施平台上完成他們想要完成的工作,他們將需要更多的晶片。如果我們不這樣做,我們基本上將這項業務和這些關係讓給其他可以提供這些晶片的國家,我認為我們最好與他們合作。

主持人:這對AWS來說是個風險嗎?

Andy Jassy:這與其說是個風險。在整個市場格局中,它不是一個大的影響因素,但我也認為,有很多國家正處於經濟發展的早期階段,他們既需要獲得最前沿、最先進的技術來構建正確的客戶體驗,這可能是像我們這樣的公司和許多其他技術公司的巨大地理市場,我認為限制他們和限制這些公司將是一種遺憾。

主持人:拜登政府迅速推出的AI擴散規則?所有這些都是在美國與中國的競爭背景下進行的,並且不希望讓最先進的設備、晶片和技術進入中國。能否請您評估本屆政府的這些政策,對於您的在華業務而言,整體而言是利大於弊還是弊大於利?再比如,關於「最低限度規則」?

Andy Jassy:我想說,關於“最低限度規則”,我們也有一定數量的商品通過這種方式運輸,比如我們的新低價產品線Hall。我們在這方面的佔比可能沒有您提到的那些公司那麼多。現在還處於本屆政府執政初期,但我想說,令我們感到鼓舞的是,本屆政府願意聽取企業的意見。我想說的是,我們已經經歷了六屆政府。對每一屆政府而言,我們的首要任務都是服務客戶,但我們也會努力與政府建立富有成效的合作關係,因為我們希望能夠幫助國家發展。我想說,有些政府比其他政府更願意聽取企業的意見,但本屆政府確實關心企業的想法。我一直感到驚訝的是,大家似乎沒有意識到,一個國家要達到最好的經濟成果,往往需要政府和企業之間的合作。我不指望政府會完全聽從於企業的意願,但政府應該聽取企業的回饋和意見,因為合作才能製訂出更好的政策。

主持人:您會親自接聽政府方面的電話嗎?

Andy Jassy:我會接電話。我們與本屆政府以及歷屆政府的人員都有溝通,會向他們回饋那些政策對我們有效,那些無效,以及我們所關心的問題。正如我之前所說,有些政府會比其他政府更重視我們的回饋。

主持人:看來他們很重視AI基礎建設。以Stargate計畫為例,我們是否可以期待您分享更多關於亞馬遜在美國AI基礎建設的投資計畫?

Andy Jassy:正如我們之前討論過的,我們在資本支出方面的投入,總體方向是正確的。我們在AI基礎設施上的投入非常大,其中很大一部分不僅用於AI,而且主要集中在美國。當然,我們也在其他國家和地區進行投資,因為我們的業務遍佈全球,客戶遍佈全球各地,大約有數百個國家和地區。但我們在美國的投資規模相當大,而且我預期短期內不會減少。

主持人:如果能透露具體的投資數字就好了。接下來我想談一個可能比較敏感的話題,這涉及到亞馬遜年度報告中今年沒有出現的一些詞語,例如「多元化」和「包容性」。我想知道,您的員工對這些字詞的缺失有何反應,以及公司的相關項目是否可能因此被迫做出調整?

Andy Jassy:從整體來說,如果你要服務像我們一樣多的客戶,並且這些客戶群像我們一樣多元化,而且我們未來也打算繼續這樣做,那麼你就必須擁有一支多元化的團隊,這樣才能開發出適合所有人的產品。這一直是我們的目標,未來也不會改變。在疫情期間,我們和其他公司都推出了許多項目。在過去三年裡,我們對每一個業務領域以及所有專案都進行了非常徹底的整理。對於我們有信心的項目,我們會加大投入;對於沒有信心的項目,我們會進行精簡,甚至停止。在評估關於「多元化」的項目時,我們也採取了同樣的做法。我們對一些項目加大了投入,例如我們在物流網絡中推出的「職業選擇」項目,我們的物流中心員工可以免費獲得高等教育,以提升他們的職業技能和個人發展。這個專案非常成功,也很有意義,所以我們加大了投入。但也有其他一些項目,效果並不理想,沒有帶來實質的改變,我們就選擇放棄了。我們擁有一個多元化的團隊,並且會繼續致力於打造一個多元化的團隊,這一點是不會改變的。

主持人:也就是說,您仍然可以使用「多元化」這個詞,不必刻意迴避或換一種說法,對嗎?

Andy Jassy:是的。大家對此有很多說法,但我們的客戶群非常龐大,涵蓋了各種各樣的人群,我們希望有能夠為所有客戶服務的建設者。

主持人:企業文化至關重要。您剛才提到,亞馬遜正在努力“以更少的資源做更多的事情”,並始終注重“節儉”,這是亞馬遜的核心原則之一。在員工層面,亞馬遜也正在實踐這項原則。您曾明確表示,公司將會精簡層級。目前進展如何?

Andy Jassy:是的,進展順利。你看,如果一家公司的文化是其成功的重要因素——亞馬遜無疑就是如此——那麼,持續擁有強大的企業文化並非理所當然。尤其是在員工數量、業務範圍以及業務覆蓋的區域不斷擴大的情況下,更需要持續的努力。對我們而言,去年領導團隊在檢視公司文化時,發現有兩個面向需要加強。首先,我們一直以來都聘用非常優秀的、具有主人翁意識的員工,他們聰明、有抱負,並且能夠主導絕大部分的決策,比如說,90%以上。隨著員工數量的增加,中階管理人員的數量也會隨之增多,這些中階管理者,儘管出發點是好的,但總想在每件事情上都留下自己的印記。結果導致員工們為了一個決策會議,需要參加層層預備會議,而他們的建議和對事務的主導,並不總是符合我們對主人翁意識的要求。因此,我們共同設定了一個目標:在本季末之前,將個人貢獻者與管理者的比例提高15%以上。

我們在這方面取得了顯著進展,並且已經超額完成了目標。這將讓實際執行工作的員工擁有更多自主權,進而加快行動速度。此外,我們也發現,如果一種企業文化像我們一樣,鼓勵大量創新和協作,那麼如果員工不能在辦公室裡一起進行創新,效果會大打折扣。大家無法以同樣的方式創新、協作、建立聯繫,也無法以同樣的方式學習企業文化。因此,我們堅信,讓員工更頻繁地回到辦公室,對客戶和業務發展都更有利。

主持人:讓我們來談談創新與協作。亞馬遜推出了一款新的量子晶片,擁有這款更有效率的晶片,對你們來說意味著什麼?我們很快就能看到它的實際應用?

Andy Jassy:量子運算具有巨大的潛力。它有望解決一些計算密集型難題。不過,我認為,實際上,它距離真正解決這些問題還需要數年時間。但在這個過程中,需要解決一系列與量子運算相關的挑戰,其中之一就是量子位元的糾錯問題。 Ocelot晶片的作用就在於此。它採用了一種非常獨特且創新的方法來進行量子位元糾錯,帶來了顯著的改進。我們對這項里程碑式的進展感到非常興奮。只有不斷攻克這些難關,不斷創新,才能取得真正有影響力的成果,而這正是另一個創新的例子。

主持人:我注意到,生成式AI的發展不僅出現在商業領域,而是突然之間成為了一個熱門話題。我想人們也意識到量子計算可能會帶來同樣的影響。當人們在討論量子計算的成熟期是二十年還是五年時,您認為更可能的時間範圍是什麼?

Andy Jassy:我也不確定。我更希望是五年左右,而不是二十年。所有這些成功,往往經歷了七年、十年甚至二十年的積累,才看似一夜成名。就像生成式AI,它只是AI發展歷程中的另一個演進,但我們在AI領域已經耕耘了五十多年。它突然之間就變得觸手可及,並且切實有效,這確實讓我們感到驚訝。我認為同樣的情況也可能發生在量子計算領域。它可能需要很長時間的積累,然後突然變得實用,能夠解決以前無法輕易或以低成本解決的問題,讓人感覺像是瞬間發生的一樣。但實際上,我們在量子計算領域已經投入了十多年的時間。

主持人:隨之而來的便是市場的狂熱。然後,人們會試圖預測這種狂熱會持續多久。回到亞馬遜的投資,特別是對生成式AI的投入,您認為今年會是亞馬遜在生成式AI投資的巔峰年嗎?

Andy Jassy:我不確定。很有趣。最終可能會有一些人對生成式AI感到幻滅,因為他們在衡量投入產出比時,會發現目前還處於非常早期的階段。許多公司目前仍在使用生成式AI應用進行試驗,這種情況已經有所體現。但我認為,明智的公司會找出那些能夠真正改變其客戶體驗和業務的舉措,並持續投資於生成式AI。而行動遲緩的公司會觀望,等待「安全」時機再行動,他們可能會因此落後兩到三年,甚至更久。因為現實情況是,生成式AI比軟體開發更具迭代性。在軟體開發中,你可以和一群架構師在會議室設計方案,最終成果可能與設計方案不完全一致,但在很大程度上是可控的。然而,在生成式AI中,模型改進的速度往往是不成比例的。有時候,我們甚至看到了新的縮放法則。

Andy Jassy:當你在建立模型時,模型會變得越來越好,當你和團隊中的科學家交流時,他們會難以置信模型竟然進步如此之大,因為模型正在進行自學習。所以,我認為,如果你不積極投資生成式AI,那麼你落後的時間甚至會超過你觀望的時間,因為在迭代和建立應用的過程中,可以獲得很多寶貴的經驗教訓。

主持人:聽起來亞馬遜想成為AI領域的“超市”,對各種模型持開放態度,就像Amazon Alexa Plus一樣?

Andy Jassy:實際上,在我們所有的業務中,尤其是在AWS和AI領域,我們最關心的是希望客戶能夠改變他們的客戶體驗,改進他們的業務,從而實現長期可持續的成功。如果我們以客戶為中心,著眼長遠,幫助他們在我們的技術基礎設施服務上成功運行應用程式,那麼他們就會取得成功,我們也會隨之受益。因此,在所有這些領域,我們都有自己建構的服務。在模型方面,我們推出了Amazon Nova,它備受關注,因為它具備與世界領先車型相媲美的智慧水平,但成本更低,延遲也更低。但如果客戶傾向於使用其他模型,我們與Anthropic、Llama、Deep Mind、Mistral以及DeepSeek都有廣泛的合作。我們擁有全球最廣泛的領先基礎模型集合。如果客戶在使用這些模型時獲得了成功,我們也會感到高興。實際上,如果你要建立大量的生成式AI應用程式,你會發現,通常會在同一個應用程式中使用多種類型的模型。正如我們所討論的,即使是Alexa Plus也使用了多個基礎模型。因此,我們希望客戶能夠根據自己的應用選擇合適的模型,並為他們提供在不同模型之間輕鬆切換、在AWS上順利運行的便利性。 (數位開物)