最近，一款叫“龍蝦”的智能體引發很多人的安裝熱潮。由於它的圖示是一隻紅色龍蝦而得此名。大家還把訓練、使用這款智能體的過程形象地叫作“養龍蝦”。“龍蝦熱”的同時，也暴露出了一些風險，包括工信部在內的一些主管部門連發風險預警。那麼，這只“龍蝦”它能幫我們幹什麼，又藏著什麼風險？記者進行了調查。一場“龍蝦”應用交流活動正在舉行。這個“龍蝦”，不是我們吃的美食，而是一種名叫OpenClaw的人工智慧體。這場活動，就是要看看誰能讓“龍蝦”發揮出更大的作用。“龍蝦”本名OpenClaw。它並非某個公司的商業產品，而是一個由全球開發者共同參與的開源人工智慧體項目，因為其紅色的龍蝦圖示，被戲稱為“龍蝦”。它與過去只能聊天的人工智慧大模型不同，除了擁有聰明的大腦、能思考，還多出了“手腳”，能夠直接操作電腦。它到底長什麼樣？究竟如何幹活？帶著好奇，記者決定找技術工程師親身體驗一次，而工程師的第一個建議就讓記者感到了不尋常：要帶一個格式化的、幾乎全新的電腦過來安裝。北京中關村學院工程師 吳衍標：“安裝了‘龍蝦’之後，它可以查看到電腦裡面的所有檔案，一旦有不法分子想利用這些漏洞，你的這些機密都可能外傳。”為什麼“龍蝦”可以查看電腦所有的檔案？在安裝的時候我們有沒有可能手動限制它的權限呢？記者發現，開放原始碼的原始版“龍蝦”並非能夠一鍵安裝完成，而是需要通過命令列輸入程式碼，技術門檻不低。“小龍蝦”在電腦上自主運行，默認的權限等級很高，這意味著運行它有一定的風險。工程師告訴記者，只有有了這個權限，這個“龍蝦”才具備了幹活的基礎。此外，它還需要有兩部分核心元件：一是需要一個人工智慧大模型，這就像給它安了個大腦，能讓它理解複雜的指令，這在安裝時就會讓使用者進行選擇；二是需要各種各樣的“技能”，賦予它操作具體軟體的能力，也就相當於給它裝上了“手腳”，比如，在告訴了它相關帳戶密碼的情況下，它能自主完成制定旅行計畫並預訂機票、回覆郵件等複雜任務。一隻剛出生的“小龍蝦”，自帶一些基本技能，它能做些什麼呢？記者決定對它進行三項測試。測試一：分類整理電腦桌面檔案記者通過即時通訊軟體向“龍蝦”發出整理電腦桌面的指令，等了幾分鐘後，它告訴記者，已經將電腦桌面檔案分類整理成功。測試二：遠端傳輸檔案並指定路徑儲存記者在手機上傳了一張圖，要求龍蝦將圖保存在電腦桌面的媒體圖片資料夾中。幾分鐘後，資料夾中真的出現了圖片。測試三：修改圖片大小並儲存記者要求“龍蝦”將電腦桌面資料夾中的一張圖片縮小並放入該資料夾，原圖片不動，幾分鐘後，“龍蝦”說新圖片已經存入了資料夾中。任務看似完成了，但“龍蝦”聲稱保留的原圖卻不翼而飛。如此看來，“龍蝦”就像一個還不是特別靠譜的助手，它基於人工智慧大模型，也有和大模型一樣的幻覺犯錯的可能。工程師告訴記者，要想讓“龍蝦”越來越強大，就需要“養蝦”。吳衍標：“第一個方法就是給它越來越多技能、越來越多記憶，讓它更懂你，讓它越來越擁有你的技能，這樣的話，它就能夠做你的事情；二來隨著大模型的發展，它的腦子也會變得越來越聰明。”儘管“龍蝦”還不太靠譜，但也獲得了不少擁躉。在讀博士呂丁陽就花了一個多星期時間養了一隻“科研龍蝦”，賦予了它很多科研技能，專門做材料領域的計算。而從事人工智慧領域研究的何紀言，則花了半個多月時間養了好幾隻非常瞭解自己的“龍蝦助手”，有的做科研，有的幫助管理日常資訊，有的負責整理材料、製作檔案等等。何紀言讓“龍蝦”根據應聘總台員工的特點做一份簡歷。幾分鐘後，這只“龍蝦”就完成了一份製作排版精良的簡歷，還突出了個人的應聘優勢。何紀言坦言，要讓“龍蝦”越來越智能，也需要花錢購買大模型的使用量，也就是所謂的Token，對於頻繁或複雜的任務，這筆消耗確實不小。但這種效率的提升，也讓“龍蝦”迅速出圈，不少地方出現了免費安裝“龍蝦”的熱潮。廣東深圳、安徽合肥、江蘇無錫和常熟等地相繼發佈政策支援“龍蝦”智能體和一人公司的發展，一些政府也部署應用上了“政務龍蝦”，用於公文寫作、民生問答等場景，希望能把基層幹部從繁瑣的事務中解放出來。不過，就在這股熱潮湧向各行各業時，也暴露出了風險，一些高校對“龍蝦”拉響了警報，下了“封殺令”。工業和資訊化部等多個主管部門接連發佈預警，直指OpenClaw存在高危安全風險，明確防範要求與使用者使用提醒，為AI智能體使用劃出安全紅線。一面是熱火朝天的應用，一面又是接連預警，這小小的“龍蝦”裡，到底藏著什麼玄機？中國資訊通訊研究院安全研究所副所長 孟楠：“龍蝦智能體的優勢在於高權限的自主執行能力，它讓人工智慧從能說進化到會做，同時也帶來了一些新的安全風險。”風險一：權限失控帶來的系統被接管的風險專家告訴記者，一旦被駭客利用或者使用者指令不當，“龍蝦”就有可能不加辨別地去執行破壞性操作。比如，刪除我們的核心檔案，把敏感的資料發到網路上，或者在使用者不知情的情況下悄悄安裝惡意的軟體。風險二：網路暴露帶來的攻擊入口風險為了方便，很多使用者會將“龍蝦”智能體管理連接埠暴露在網際網路上，這無異於給駭客開了後門。孟楠：“更危險的是，如果這個智能體還連接到單位內部的網路，就可能成為駭客進行攻擊的跳板，一旦被攻陷，整個企業內部網路都將面臨威脅。”風險三：產品漏洞帶來的可能被利用的風險任何軟體都有漏洞，但在“龍蝦”的高權限加持下，漏洞的危害被進一步放大。而為了讓“龍蝦”具有更多技能，使用者往往會安裝第三方外掛，還會帶來供應鏈風險。孟楠：“我們發現了不少技能外掛被植入了惡意程式碼，使用者在使用這些有毒的技能外掛時，就等於把惡意程序請進了家門，輕則造成資料洩露，重則整個系統被駭客控制。”對於這些隱患，深度“養蝦人”及科技行業人士也坦言，儘管AI智能體是發展趨勢，但普通使用者絕對不能掉以輕心。那麼，普通使用者使用“龍蝦”如何保障安全呢？專家認為，普通使用者屬於安全風險的高發群體，應該審慎安裝“龍蝦”。工信部日前發佈了關於“龍蝦”的“六要六不要”安全指引，涵蓋了權限控制、網路隔離、技能外掛使用等關鍵環節。3月22日，國家網際網路應急中心、中國網路空間安全協會聯合發佈了“龍蝦”OpenClaw的安全使用指南，面向普通使用者、企業使用者、雲服務商以及技術開發者等，提出安全防護建議。其中，對於普通使用者的建議包括：使用專用裝置、虛擬機器或容器安裝OpenClaw，並做好環境隔離，不宜在日常辦公電腦上安裝；不將OpenClaw默認連接埠（18789\19890）暴露到公網；不使用管理員或超級使用者權限運行OpenClaw；安裝可信技能外掛；不在OpenClaw環境中儲存、處理隱私資料；及時更新OpenClaw最新版本等。儘管現在各主管部門不斷在提示“龍蝦”安全風險問題，但從長遠來看，專家認為，要解決“龍蝦”的安全問題，更需要從標準、技術、生態多方面著手。孟楠：“建議始終堅持統籌發展和安全，在鼓勵和促進創新的同時，針對不同場景做精準分類施策，確保安全可控。需要盡快制定相關標準規範來引導各類主體規範應用新技術，引導鼓勵網路安全企業研製相關的環境隔離、智能攔截、行為審計等安全產品和服務。建立包括智能體提供者、安全企業等主體在內的相關主體來協同治理生態。”我們看到，有不少人都希望盡快掌握和利用智能體提升效率、滿足需求，一些企業也開始嘗試使用。對於像“龍蝦”這樣的新事物，我們需要鼓勵，需要為技術創新留足試錯的空間，避免束縛產業發展的活力；但同時，面對爆火的“龍蝦”，我們也需要有一些冷思考，守住安全底線，防範風險擴散失控。也就是說，技術創新和安全監管協同推進、良性互動，我們才能更好地和AI共舞，推動人工智慧高品質發展。 (中國信通院CAICT)