Claude深夜重磅發佈新模型——
Claude 3.7 Sonnet,首個混合推理模型問世,在編碼和前端Web開發方面顯著提升,實現了全面領先。
與o3-mini實際對比,相同的提示詞下,Claude 3.7 Sonnet的表現。
o3-mini:
(提示詞:編寫一個 p5.js 指令碼,模擬 100 個綵球在球體內彈跳。每個球都應留下一條逐漸消失的軌跡,顯示其最近的運動軌跡。容器球體應緩慢旋轉。確保實現適當的碰撞檢測,使球保持在球體內。)
還有用它來做視訊遊戲。
作為混合推理模型,它有兩種思考模式:
近乎即時地反應&擴展地、循序漸進(step-by-step)地思考。
擴展思維模式下,它在數學、物理、指令遵循、編碼等多個任務中有額外的提升。
API使用者甚至還可以精準控制模型的思考時間。目前已經在全平台上線,包括亞馬遜雲服務Bedrock平台、Google雲,而要想要擴展思考模式,除免費版外其他都可以用。
模型升級,價格不變——
與前代產品相同,每百萬輸入token 3 美元,每百萬輸出token 15 美元(其中包括思考代幣)。
除此之外,他們還發佈了他們首個編碼工具Claude Code:
它能夠一次性完成原本需要45分鐘以上手動才能完成的工作。
網友們紛紛表示,已經迫不及待地想用上了。
不過,為什麼是3.7版本呢?
官方此次首先表示,他們開發Claude 3.7 Sonnet這個的理念與市場上其他推理模型不同。
類比於人類大腦有快速反應和深度思考兩種一樣,他們認為推理應該是前沿模型的綜合能力,而不是完全獨立的模型。
由此,Claude 3.7 Sonnet在多個方面都有體現這個理念。
首先,Claude 3.7 Sonnet 既是普通的 LLM 模型,又是推理模型:
您可以選擇何時讓模型正常回答,何時讓模型在回答前思考更長時間。
在標準模式下,Claude 3.7 Sonnet 是 Claude 3.5 Sonnet 的升級版。在擴展思維模式下,它會在回答前進行自我反思,從而提高其在數學、物理、遵循指令、編碼和許多其他任務上的表現。
在兩種模式下,對模型的提示方式類似。
這是程式碼生成任務下,兩種思維模式回答之間的區別。
其次,控制思考預算,用速度和成本來換取答案的質量。
API使用者可以告訴Claude思考的數量不超過 N 個token,N 的值可以是任何值,但輸出上限不能超過 128K個token。
模型能力的表現,也就取決於允許思考的token數量。例如以下在AIME 2024的成績圖。
第三,最佳化重點轉向更能反映使用者需求的現實世界任務,對數學和電腦競賽問題最佳化較少。
編碼任務,網友們對它這種「vibe coding」(面對非開發人員的AI輔助編碼)印象深刻。
有網友實測發現,確實能解決其他模型無法解決的問題。>你能用 p5js 編寫最複雜的布料模擬嗎?
結果Grok 3 和o1 pro沒有可用的結果。而Claude 3.7 Sonnet的表現是:
在代理工具使用上面,實現了SOTA。
Claude 3.7 Sonnet 在指令遵循、一般推理、多模態能力和代理編碼方面表現出色,擴展思維在數學和科學方面提供了顯著的提升。
除了傳統的基準測試之外,它甚至在寶可夢遊戲測試中超越了所有以前的模型——
團隊為Claude配備了基本記憶體、螢幕像素輸入以及按鍵和螢幕導航的功能呼叫,使其能夠超越通常的上下文限制,持續玩遊戲,並通過數以萬計的互動進行遊戲。
最終實驗表明,它是迄今所有Sonnet模型中表現最好的,它成功與三個寶可夢道館館主(遊戲的 Boss)戰鬥並贏得他們的徽章。相比之下,Claude 3.0 Sonnet 甚至無法離開故事開始的地方Pallet Town 的房子。
x 軸表示 Claude 在玩遊戲時完成的互動次數;y 軸表示遊戲中的重要里程碑,包括收集某些物品、導航到某些區域以及擊敗某些Boss。
此次,研究人員使用了平行測試時間計算來提高模型的性能。
他們的方法是對多個獨立思考過程進行採樣,並在事先不知道真實答案的情況下選出最佳答案。其中一種方法是使用多數投票;選擇最常見的答案作為 “最佳 ”答案。另一種方法是使用另一個語言模型(比如Claude的第二個副本),要求它檢查自己的工作或學習的評分函數,然後選出它認為最好的答案。
結果在GPQA評估中,這一方法讓模型取得了驚人的改進。
GPQA是一組常用的具有挑戰性的生物、化學和物理問題。 Claude 3.7 Sonnet 使用 256 個獨立樣本的等效計算、學習的評分模型和最大64 token的思維成本之下,取得了 84.8% 的 GPQA 分數(包括 96.5% 的物理子分數)。
此外,Claude 3.7 Sonnet 還對有害請求和良性請求進行了更細緻的區分,與前代版本相比,不必要的拒絕次數減少了 45% 。
Claude Code,從官方透露的功能看,它可以搜尋和讀取程式碼、編輯檔案、編寫和運行測試、提交和推送程式碼到 GitHub以及使用命令列工具。
目前還只是早期的預覽版,可直接在終端運行。
早期測試中,Claude Code可以一次性完成了通常需要 45 分鐘以上手動操作才能完成的任務,從而減少了開發時間和開銷。
在接下來的幾周內,他們計畫結合他們使用情況不斷改進它——
比如增強工具呼叫的可靠性,增加對長時間運行的命令的支援,改進應用內渲染,並擴展 Claude 對其功能的理解。
除此之外,他們還改進了 Claude.ai 上的編碼體驗。GitHub 整合現已在所有Claude使用平台中提供,開發人員可以將其程式碼儲存庫直接連接到 Claude。 (量子位)