【DeepSeek】捲起來了！輝達搶先上線DeepSeek R1

1月31日訊息，根據輝達官網資訊顯示，推理開放模式DeepSeek R1現已在NVIDIA NIM（NVIDIA Inference Microservice）平台上提供預覽版。

DeepSeek R1是一個具備領先推理能力的開放模型，專為需要複雜邏輯推理、數學計算、編碼及語言理解任務設計。該模型採用了一系列高級方法，如思路鏈、共識和搜尋等，以確保能夠產生最優質的答案。不同於直接響應查詢的傳統模型，DeepSeek R1透過多次推理來最佳化結果，這種測試時間擴展的方法對於實現即時推理和更高品質的響應至關重要。

據輝達官方公告，6710億參數的DeepSeek R1模型現可通過build.nvidia.com上的NIM微服務進行訪問，這為開發人員提供了安全試驗這些功能的機會，並支援他們建構自己的專用代理。此外，DeepSeek R1 NIM微服務能夠在單一NVIDIA HGX H200系統上每秒處理多達3,872個令牌，極大地提升了效率和響應速度。

為了簡化部署流程，DeepSeek R1 NIM微服務相容於行業標準API，並作為NVIDIA AI Enterprise軟體平台的一部分提供給使用者。企業可以透過在其選擇的加速計算基礎設施上運行NIM微服務，最大化保障資料隱私和安全性。同時，利用NVIDIA AI Foundry和NVIDIA NeMo軟體，企業還能訂製開發專門的AI代理服務。 （環球Tech）