美東時間1月5日周一，輝達在CES展會推出新一代Rubin AI平台，標誌著其在人工智慧（AI）晶片領域保持年度更新節奏。黃仁勳在展會上宣佈Vera Rubin已全面投產，該平台重量近2噸，通過六款新晶片的整合設計，在推理成本和訓練效率上實現大幅躍升，實現每秒千億等級的 AI 運算，堪稱一座真正的人工智慧工廠。輝達還宣佈開源其首個推理 VLA (視覺-語言-動作) 模型Alpamayo 1。該模型旨在打造能在意外情況下"思考"解決方案的車輛，採用 100 億參數架構，使用視訊輸入生成軌跡和推理過程。黃仁勳稱，首款搭載輝達技術的汽車將第一季度在美上路，第二季度在歐洲上路，下半年在亞洲上路。輝達還發佈了多個開源模型、資料和工具，如用於代理AI的輝達Nemotron家族、用於物理AI的Cosmos平台、用於機器人的輝達Isaac GR00T以及用於生物醫學的輝達Clara。01 輝達發佈新一代Rubin平台，性能提升5倍，已全面投產擬下半年發貨美東時間5日周一，輝達CEO黃仁勳在拉斯維加斯表示，六款Rubin晶片已從合作製造方處回廠，並已通過部分關鍵測試，正按計畫推進。他指出"AI競賽已經開始，所有人都在努力達到下一個水平"。輝達強調，基於Rubin的系統運行成本將低於Blackwell版本，因為它們用更少元件即可實現相同結果。微軟和其他大型雲端運算提供商將成為下半年首批部署新硬體的客戶。微軟的下一代Fairwater AI超級工廠將配備輝達Vera Rubin NVL72機架級系統，規模可擴展至數十萬顆輝達Vera Rubin超級晶片。CoreWeave也將是首批提供Rubin系統的供應商之一。該平台的推出正值華爾街部分人士擔憂輝達面臨競爭加劇，並懷疑AI領域的支出能否維持當前速度。但輝達保持長期看漲預測，認為總市場規模可達數兆美元。性能提升5倍，推理token生成成本降低至多10倍據輝達公告，Rubin平台的訓練性能是前代Blackwell的3.5倍，運行AI軟體的性能則提升5倍。與Blackwell平台相比，Rubin可將推理token生成成本降低至多10倍，訓練混合專家模型（MoE）所需GPU數量減少4倍。新平台配備的Vera CPU擁有88個核心，性能是其替代產品的兩倍。這款CPU專為代理推理設計，是大規模AI工廠中能效最高的處理器，採用88個定製Olympus核心、完整Armv9.2相容性和超快NVLink-C2C連接。Rubin GPU配備第三代Transformer引擎，具備硬體加速自適應壓縮功能，可提供50 petaflops的NVFP4計算能力用於AI推理。每個GPU提供3.6TB/s的頻寬，而Vera Rubin NVL72機架則提供260TB/s頻寬。晶片測試進展順利，廣泛生態系統支援黃仁勳披露，全部六款Rubin晶片已從製造合作夥伴處返回，並已通過顯示其可按計畫部署的關鍵測試。這一表態表明輝達正維持其作為AI加速器領先製造商的優勢地位。該平台包含五大創新技術：第六代NVLink互連技術、Transformer引擎、機密計算、RAS引擎以及Vera CPU。其中第三代機密計算技術使Vera Rubin NVL72成為首個提供跨CPU、GPU和NVLink域資料安全保護的機架級平台。第二代RAS引擎橫跨GPU、CPU和NVLink，具備即時健康檢查、容錯和主動維護功能，以最大化系統生產力。機架採用模組化、無線纜托盤設計，組裝和維護速度比Blackwell快18倍。輝達表示，包括亞馬遜的AWS、Google雲、微軟和甲骨文雲在2026年將率先部署基於Vera Rubin的實例，雲合作夥伴CoreWeave、Lambda、Nebius和Nscale也將跟進。OpenAI CEO Sam Altman表示：“智能隨計算擴展。當我們增加更多計算時，模型變得更強大，能解決更難的問題，為人們帶來更大影響。輝達Rubin平台幫助我們持續擴展這一進展。”Anthropic聯合創始人兼CEO Dario Amodei稱，輝達“Rubin平台的效率提升代表了能夠實現更長記憶、更好推理和更可靠輸出的基礎設施進步”。Meta CEO祖克柏表示，輝達的“Rubin平台有望帶來性能和效率的階躍式變化，這是將最先進模型部署給數十億人所需要的”。輝達還稱，思科、戴爾、惠普企業、聯想和超微預計將推出基於Rubin產品的各類伺服器。包括Anthropic、Cohere、Meta、Mistral AI、OpenAI和xAI等AI實驗室正期待利用Rubin平台訓練更大型、更強大的模型。評論稱，輝達今年比往年更早披露新產品的細節，這是該司保持行業依賴其硬體的舉措之一。因為輝達通常在每年春季加州聖何塞舉行的GTC活動上深入介紹產品細節。02 物理AI的ChatGPT時刻！輝達“內驅”無人駕駛汽車將至，將於一季度在美國上路黃仁勳還宣佈開源其首個推理 VLA (視覺-語言-動作) 模型Alpamayo 1，使汽車能夠在真實世界中進行"推理"，這標誌著輝達在無人駕駛領域邁出關鍵一步。這一舉措旨在加速安全的自動駕駛技術開發。該模型通過類人思維方式處理複雜駕駛場景，為解決自動駕駛長尾問題提供新路徑。黃仁勳表示，首款搭載輝達技術的汽車將於第一季度在美國上路，第二季度在歐洲上路，下半年在亞洲上路。輝達免費開放Alpamayo模型，允許潛在使用者自行對模型進行重新訓練。該模型旨在打造能在意外情況下"思考"解決方案的車輛，例如交通訊號燈故障等場景。車載電腦將分析來自攝影機和其他感測器的輸入，將其分解為步驟並提出解決方案。這一開源舉措獲得了行業廣泛支援。包括捷豹路虎（JLR）、Lucid、Uber以及加州大學伯克利分校DeepDrive深度學習自動駕駛產業聯盟（BDD）在內，多家移動出行領軍企業和研究機構表示，將利用Alpamayo開發基於推理的自動駕駛技術堆疊，推動L4級自動駕駛部署。首個開源推理VLA模型發佈輝達此次發佈的Alpamayo家族整合了三大基礎支柱：開源模型、模擬框架和資料集，建構了一個完整的開放生態系統供任何汽車開發者或研究團隊使用。Alpamayo 1是業界首個為自動駕駛研究社區設計的思維鏈推理VLA模型，現已在Hugging Face平台發佈。該模型採用100億參數架構，使用視訊輸入生成軌跡及推理軌跡，展示每個決策背後的邏輯。開發者可以將Alpamayo 1改編為更小的執行階段模型用於車輛開發，或將其作為自動駕駛開發工具的基礎，例如基於推理的評估器和自動標註系統。黃仁勳表示：“物理AI的ChatGPT時刻已到來——機器開始理解、推理並在真實世界中行動。無人計程車是首批受益者。Alpamayo為自動駕駛汽車帶來推理能力，使其能夠思考罕見場景，在複雜環境中安全駕駛，並解釋其駕駛決策——這是安全、可擴展自動駕駛的基礎。”輝達強調，Alpamayo模型並非直接在車內運行，而是作為大規模教師模型，供開發者微調並提取到其完整自動駕駛技術堆疊的骨幹中。未來該家族的模型將具有更大的參數規模、更詳細的推理能力、更多的輸入輸出靈活性以及商業使用選項。推理VLA技術原理解析推理VLA是一種統一的AI模型，將視覺感知、語言理解和動作生成與逐步推理整合在一起。這類模型整合了明確的AI推理功能，在傳統視覺-語言-動作模型的基礎上建構。AI推理是AI逐步解決複雜問題並生成類似於人類思維過程推理痕跡的能力。這些系統對一系列網際網路規模的任務進行預訓練，包括語言生成和視覺連接，以發展通用知識和感知基礎。與將視覺輸入直接對應到動作的標準VLA模型不同，推理VLA模型將複雜的任務分解成可管理的子問題，並以可解釋的形式闡明其推理過程。這使模型能夠更準確地解決問題或執行任務，還能對模型正在進行的操作提供一定程度的反思。建構推理VLA模型需要三種基本AI功能：視覺感知、語言理解以及動作和決策制定。視覺感知處理來自攝影機、毫米波雷達或雷射雷達等感知感測器的即時資料；語言理解通過自然語言處理解釋命令、上下文提示和對話輸入；動作和決策制定則使用融合的感官和語言資訊來計畫、選擇和安全地執行任務，同時生成可解釋的推理痕跡。在自動駕駛場景中，推理VLA可以對交通狀況進行逐步推理。例如，接近一個十字路口時，系統可能會進行如此推理："我看到一個停止標誌，左邊有車輛駛來，還有行人正在過馬路。我應該減速，完全停下來，等待行人通過人行橫道，安全時再繼續前進。"完整開放生態系統支援開發除Alpamayo 1模型外，輝達還發佈了配套的模擬工具和資料集，建構完整的開發生態系統。AlpaSim是一個完全開放原始碼的端到端模擬框架，用於高保真自動駕駛開發，現已在GitHub平台發佈。它提供真實的感測器建模、可配置的交通動態和可擴展的閉環測試環境，實現快速驗證和策略最佳化。輝達還提供了面向自動駕駛最多樣化的大規模開放資料集，包含超過1700小時的駕駛資料，涵蓋最廣泛的地理位置和條件範圍，覆蓋罕見且複雜的真實世界邊緣案例，這對於推進推理架構至關重要。這些資料集可在Hugging Face平台獲取。這些工具共同為基於推理的自動駕駛技術堆疊建立了一個自我強化的開發循環。開發者可以利用這些資源在專有車隊資料上微調模型，將其整合到基於輝達DRIVE AGX Thor加速計算建構的輝達DRIVE Hyperion架構中，並在商業部署前通過模擬驗證性能。03 跨行業AI模型全面開放本周一，輝達還發佈了推動各行業AI發展的多個新開源模型、資料和工具。這些模型涵蓋用於代理AI的輝達Nemotron家族、用於物理AI的輝達Cosmos平台、用於機器人的輝達Isaac GR00T以及用於生物醫學的輝達Clara。輝達還提供了開源訓練框架和全球最大的開放多模態資料集合之一，包括10兆語言訓練標記、50萬個機器人軌跡、45.5萬個蛋白質結構和100TB的車輛感測器資料。輝達代理式AI基礎模型Nemotron發佈了語音、多模態檢索增強生成（RAG）和安全相關的新模型。Nemotron Speech包含業界領先的開源模型，為即時字幕和語音AI應用提供即時、低延遲語音識別。Nemotron RAG包含新的嵌入和重排序視覺語言模型，提供高度精準的多語言和多模態資料洞察。在物理AI和機器人領域，輝達發佈了Cosmos開放世界基礎模型，為加速物理AI開發和驗證帶來類人推理和世界生成能力。Isaac GR00T N1.6是一個開放推理VLA模型，專為人形機器人打造，實現全身控制，並使用輝達Cosmos Reason實現更好的推理和上下文理解。輝達稱，博世（Bosch）、CodeRabbit、CrowdStrike、Cohesity、Fortinet、Franka Robotics、Humanoid、Palantir、Salesforce、ServiceNow、日立和Uber等科技業的領頭羊正在採用並基於輝達的開源模型技術進行開發。輝達的開源模型、資料和框架現已在GitHub和Hugging Face平台發佈，並可通過一系列雲、推理和AI基礎設施平台以及build.nvidia.com獲取。這些模型中的許多還以輝達NIM微服務的形式提供，可在從邊緣到雲端的任何輝達加速基礎設施上進行安全、可擴展的部署。 (華爾街見聞)

就在昨日,一則爆炸性新聞悄悄傳開:晶片巨頭輝達竟然在萬眾不備之際,發佈了一款堪稱"顛覆性"的AI大語言模型!這款名為Llama-3.1-Nemotron-70B- Instruct的模型不僅完全開源,更是在多個關鍵指標上力壓行業巨頭GPT-4和Claude 3.5 Sonnet! 這到底是怎麼回事?輝達憑什麼能夠做到這一點?這對AI行業又意味著什麼?讓我們一起來一探究竟! 驚人之處一:小巧但強大 Nemotron最令人瞠目結舌的地方在於,它只有70B參數,體量遠小於其他頂級模型。然而,就是這個"小個子",卻在Arena Hard、AlpacaEval 2 LC和GPT-4-Turbo MT-Bench等多項權威測試中摘得桂冠。這無疑給業界敲響了警鐘:原來AI並非越大越好,精益求精才是王道!

【新智元導讀】許久未更新大模型的輝達推出了150億參數的Nemotron-4，目標是打造一個能在單一A100/H100可跑的通用大模型。 最近，輝達團隊推出了全新的模型Nemotron-4，150億參數，在8T token上完成了訓練。 值得一提的是，Nemotron-4在英語、多語言和編碼任務方面令人印象深刻。 論文網址：https://arxiv.org/abs/2402.16819