“遞迴式自我提升”既誘人又令人擔憂 圖片來源：Getty Images 人工智慧實驗室Anthropic將於今年晚些時候上市，屆時很可能成為史上規模最大的首次公開募股之一。這是因為該公司開發的聊天機器人 Claude 深受程式設計師喜愛，他們願意為此支付高額費用。自 2025 年 2 月推出軟體工程代理 Claude Code 以來，它已成為全球眾多開發者的必備工具。這其中也包括 Anthropic 自身的程式碼：該公司表示，其 5 月份發佈的程式碼中，超過五分之四是由 Claude 編寫的。而在 Claude Code 推出之前，這一比例僅為“個位數”。 這些系統在輸出質量和數量上都得到了提升。智庫METR的一項權威基準測試顯示，到2025年初，Anthropic公司的模型就能完成人類工程師需要不到一個小時才能完成的任務。該公司最新的系統甚至可以完成需要超過一個工作日才能完成的任務。

大概是在一周前，正在籌備上市的Anthropic在官方部落格更新了一篇文章，文章標題是《When AI build itself》。 這篇文章發佈當天，關於AI安全問題再次被拉回到輿論漩渦中心。 Anthropic在這篇文章中討論的是一個名為“AI自進化”的問題，並指出，“AI已經能夠參與到為自己建構更強大的模型的工作中，這遠比我們預想的要更快。” 說起來，AI自進化並不是什麼新鮮的技術，甚至可以說，自從AI技術出現的第一天，人們就已經在思考，如何讓AI參與到自我進化的過程中。

沒人重訓模型，沒人重寫程式碼，OpenAI的AI系統六周內自己把精準率從25%拉到86%。Codex自己定位bug、寫修復、跑測試，AI自我進化已在生產環境跑起來了。 最近，OpenAI悄悄幹了一件細思極恐的事。 一個AI系統，沒人重新訓練模型，沒人重寫程式碼，六周內自己把精準率從25%拉到了86%。 在官方部落格中，OpenAI把「怎麼讓AI自己變強」的完整方法論，白紙黑字全寫出來了。