Anthropic把Claude智能體的整套管理系統打包,允許企業直接搬進自己的機房了。
這項功能叫自託管版Claude託管智能體,目前已經開啟私有內測。
過去企業想用AI智能體幹活,面臨一個非常尷尬的死結。
現在的AI早已不再只是陪人聊天。
它們要在無人值守的情況下,深入企業內部網路去修程式碼。
去自動化跑發佈測試。
去分流監控報警。
甚至去清理堆積如山的系統缺陷。
這意味著,AI必須擁有訪問公司核心程式碼和內部伺服器的極高權限。
如果控制這只AI的系統架在別人的公有雲上,幾乎所有公司的技術負責人和法務合規部門都會當場說不。
誰也不敢把自家的核心生產系統,交給外部雲端指揮。
Anthropic以前的折中方案,是讓企業在本地跑一個虛擬沙箱。
程式碼在本地沙箱裡跑,但調度大腦依然在Anthropic的雲端伺服器裡。
現在的自託管模式,徹底砍斷了這根風箏線。
從現在起,企業可以把整套智能體系統的調度伺服器、會話資料庫、執行沙箱全部裝在自己的私有雲或者物理機房裡。
整套系統在企業內部跑起來,就像一個分工明確的技術小組。
第一個角色是調度伺服器。
它負責接收業務請求,維持AI的思考循環,調度各項任務。
這台伺服器只動腦子,絕對不會親自去敲程式碼,也不會直接在系統裡運行任何危險的終端命令。
第二個角色是執行沙箱和工人程序。
調度伺服器下發任務後,工人程序會在獨立的沙箱裡接單幹活。
沙箱就是一個個臨時隔離的虛擬房間。
AI在這裡真正運行各種終端指令,讀取檔案,修改程式碼。
第三個角色是資料倉儲。
系統強制要求搭配企業自己的PostgreSQL資料庫。
所有智能體的配置、每一次會話的來龍去脈、歷史記錄,全部保存在企業自己的硬碟裡。
調度伺服器如果重啟,所有歷史狀態也絕不會丟失。
那麼,究竟有什麼東西會流出企業內部網路。
只有向大模型發起詢問的那一瞬間。
當調度伺服器需要大模型思考時,會把當前的對話上下文和工具返回結果傳送出去。
即便在模型選擇上,Anthropic也徹底放開了限制。
企業可以根據自己的合規需求,自由選擇把請求發給誰。
可以直接連Anthropic官方。
可以通過亞馬遜AWS Bedrock呼叫。
可以通過Google雲呼叫。
可以通過微軟Foundry呼叫。
甚至可以接入企業自己搭建的模型閘道器。
為了防止權限失控,系統在底層設計了三把不同的鑰匙。
第一把是本地伺服器介面金鑰,給企業內部的應用和管理工具使用,用來向自己的調度伺服器下發指令。
第二把是模型呼叫憑據,只保存在調度伺服器內部,專門用來呼叫遠端的大模型,沙箱裡的工人程序完全接觸不到。
第三把是環境專屬金鑰,發給各個沙箱裡的工人程序,用來從本地調度伺服器拉取屬於該環境的任務。
這種設計確保了就算沙箱被人攻破,攻擊者也拿不到底層大模型的呼叫憑據。
不過Anthropic也發出了極其嚴肅的安全警告。
系統自帶的命令列工具是具有真實權限的真實終端。
工人程序本身並不提供天然的防護罩。
隔離的安全性完全取決於運行沙箱的環境。
企業必須把工人程式執行在一次性的容器或虛擬機器裡。
用完即毀。
如果企業隨便在生產伺服器上裸跑工人程序,智能體一旦產生誤操作,就會對真實系統造成破壞。
在這個方案裡,企業真正拿到了自主權,同時也必須承擔起自身的安全審計責任。
目前該系統支援Linux和蘋果晶片的macOS環境部署,企業使用者可以通過Anthropic的銷售團隊申請安裝包和技術文件。 (AI寒武紀)

