太反差了。
明明給機器人裝上了觸覺,它咋就變得更笨了呢……
事情是這樣的。
最近有個團隊做了個實驗,他們在Sharpa Wave靈巧手的五個手指上都裝上了觸覺感測器,任務是讓它把一個袋子的拉鏈拉上。
他們選用的動作模型是π0.5,在只靠攝影機的情況下,成功率來到了39%。
然後團隊再把指尖感測器的讀數原封不動地喂給它,按理來說,機器人多了一種感官,應當是拉拉鏈會更得心應手一些。
但您猜怎麼著。
AUV(哎呦喂)……成功率直接掉到了15%!
而且這還不是個例。
同樣是Sharpa Wave靈巧手和π0.5這個組合,接上原始觸覺後去做交接盒子的任務,成功率從57%掉到48%。
即便是把靈巧手換成XHand,6項任務平均下來,成功率也從49.71%降到了48%。
那麼機器人多了一種感官,反倒變得笨手笨腳的原因到底是什麼?
答案是,問題出在了讀數這件事兒上。
因為觸覺資料和其它資料還不太一樣,機器人的手指大部分時間是不接觸物體的,所以讀數差不多就是一大片“0”;即使開始接觸物體,訊號也是稀疏且帶噪聲的那種。
加上不同的感測器還各司其職,視觸覺負責拍指尖軟膠的形變,磁觸覺負責測磁場,壓阻式觸覺負責記電阻……資料,不盡相同。
例如對於捏住一個瓶蓋這個任務來說,三種感測器能給出的是三種完全不一樣的數字,動作模型看不懂不說,還得硬用……可以說在幫倒忙了。
那此局又該怎麼破呢?
螞蟻靈波給出了一種解法——在感測器和動作模型中間加一個“翻譯”。
(註:上面的實驗便是螞蟻靈波做的。)
簡單來說,就是先把各種感測器讀到的資料,翻譯成動作模型能看懂的那種,例如手指碰在那兒、用了多大勁、力往那邊偏、有沒有打滑,然後再交給它。
還是那個π0.5,還是那個拉拉鏈的任務,如此操作下來,成功率便直接飆升到了59%,甚至比完全不用觸覺還高20個百分點;交接盒子這個任務的成功率,也從48%回到了63%。
而這個“翻譯”,便是螞蟻靈波今天最新開源的觸覺預訓練基礎模型LingBot-Touch。
在它的加持之下,剛才我們提到的擰瓶蓋的動作,就變得非常絲滑了:
要知道,擰瓶蓋很容易翻車的地方,恰恰在指腹和瓶蓋貼在一起的那一小塊:捏得稍微鬆一點,指腹就會在蓋面上打滑,手腕轉了半圈,蓋子卻紋絲不動。而這一幕,正是攝影機看不清的。
那麼,LingBot-Touch這個“翻譯”,究竟是怎麼做到的?
01. 靈巧手需要一個翻譯
我們先來把LingBot-Touch干的活兒給講清楚。
簡單來說,它負責接收磁觸覺、視觸覺、壓阻式觸覺這三類感測器的訊號,再把它們統一編碼成一種觸覺Token,從中讀出接觸位置、受力大小,以及力的方向是怎麼隨時間變化的。
它的位置剛好卡在中間,往下能接上不同的感測器和靈巧手,往上則把這些Token交給不同的動作模型。
如此一來,不管各家感測器的訊號如何五花八門,到了動作模型這裡,都能被統一理解,可謂殊途同歸。
而且LingBot-Touch的輕量版LingBot-Touch-Tiny只有約532萬參數,目前技術報告、程式碼和模型權重也都已經開源。
那麼,LingBot-Touch又是怎麼練成的呢?
整體來看,螞蟻靈波團隊主要分了三步走。
第一步是統一坐標。
團隊遇到的第一個難題,是不同感測器的觸點數量和排布差別實在太大。比如有的靈巧手光是拇指上就鋪了116個觸點,有的布料手套卻只有一個3×3的小陣列。
如果按編號硬對,那肯定是對不上的。
為此,團隊先把所有感測器的觸點都對應到同一個標準化的指尖空間裡,再給每個Token發一個“地址”,這個地址由時間、手指和三維位置共同組成。
地址會通過旋轉位置編碼(RoPE)進入模型。這樣一來,模型就不再要求固定的觸點數量,即便換一種佈局,也照樣能讀。
在此基礎上,三類感測器各自有一個輕量的入口,負責把原始讀數轉成Token;入口後面,則共用同一個觸覺Transformer主幹。
也就是說,感測器之間的差異交給各自的入口去消化,接觸本身的規律,則放到主幹裡一起學。
第二步是在特徵空間裡做預測。
坐標統一之後,團隊又碰上了第二個坑,也就是開頭我們提到的那一大片“0”。
如果讓模型去還原原始讀數,它很快就會找到一條捷徑,只要把“沒碰到”的背景學好,損失就能降得很低。可這樣一來,分數雖然好看,真正有用的接觸資訊卻沒學到多少。
所以LingBot-Touch選擇了JEPA路線。
具體來說,訓練時模型會隨機遮住90%的觸點,而且整段時間都遮著;然後,模型要根據剩下10%的變化,在特徵空間裡預測被遮住部分的表徵,無需逐點還原讀數。
如此操作之下,效果可謂是立竿見影,同樣用1000小時資料訓練,LingBot-Touch判斷接觸中心的誤差是0.90毫米,而VAE和MAE都在3毫米以上。
再比如,用一段觸覺去找對應的視訊畫面,LingBot-Touch的前5召回率是32.07%,另外兩種方法則都不到6%。
第三步是擴充資料,防止模型死記硬背。
LingBot-Touch的預訓練資料一共有4983小時、約13.3億幀。其中三分之二來自人戴著觸覺手套幹活,剩下三分之一來自遙操作Sharpa Wave雙臂機器人。
之所以大量用手套,是因為它不需要機器人,一個人一天就能在普通環境裡錄上好幾個小時。而且這些資料只標註了開、關、裝配、倒水這類任務類別,沒有一幀標過力的大小。
不過,資料攢夠了,團隊還得防著模型“偷懶”。
因為預訓練裡只有三種感測器佈局,模型很可能直接把這三套觸點位置背下來,等碰到第四種佈局就抓瞎了。
所以在訓練時,團隊會隨機改變觸點的採樣密度,再把每個觸點的位置小幅挪一挪,逼著模型去學接觸本身的規律。
在這三步走完之後,就該上真機檢驗了。
測試覆蓋了兩款靈巧手,其中高自由度的Sharpa Wave做20項任務,低自由度的XHand做6項,一共26項。
參與測試的動作模型有四種,分別是Diffusion Policy、π0.5、LingBot-VLA和T-Rex。每種模型都要在不用觸覺、直接喂原始訊號、接入LingBot-Touch這三種設定下分別測試。
結果,在兩款手上,四種模型都是接入LingBot-Touch的那一組平均成功率最高。
和不用觸覺相比,T-Rex、π0.5、LingBot-VLA的成功率分別提升了23.18、21.81、24.81個百分點,而付出的代價,只是參數量多了0.13%到0.16%。
就拿單手插吸管來說,這個任務的難點在於刺破封膜的那一下。吸管抵住透明封膜往下壓,阻力越來越大,膜一破,手上會突然鬆掉。
攝影機很難分清膜是被壓凹了還是已經被扎穿,但指尖可以。要是收力慢上一步,吸管就會直接衝到杯底。
當然,最能說明問題的,還得是XHand這組實驗。
XHand用的磁觸覺感測器,型號從來沒出現在預訓練資料裡;而且預訓練中的磁觸覺資料,全部來自人戴的手套。接入XHand時,LingBot-Touch更是一個參數都沒改。
即便如此,π0.5在6項任務上的平均成功率,還是從直接喂原始訊號時的48.00%升到了74.17%。
其中分離疊杯這一項,成功率更是從32.5%翻了一倍多,達到了72.5%。
這個任務要求靈巧手只取走最上面的那一個杯子,它得用一隻手扶住整摞杯子,另一隻手捏著杯沿往外抽。如果阻力突然變小、指腹還穩穩貼著杯沿,說明杯子已經鬆脫,得馬上收力;如果是指腹自己在杯沿上打滑,那就該重新抓。
這兩種情況,手感截然不同。
換句話說,人手攢下的經驗,幫機器人讀懂了一隻它從沒摸過的手。
除此之外,團隊還拿LingBot-Touch和此前的觸覺基礎模型FTP-1做了對比。
在Sharpa Wave上判斷接觸中心時,FTP-1的誤差是2.19毫米,LingBot-Touch則是0.12毫米;在XHand上,誤差也從5.89毫米降到了0.16毫米。
要知道,FTP-1在這兩隻手上還各自配了專門的介面卡,而LingBot-Touch用的是同一個凍結的編碼器。
另外,LingBot-Touch的Scaling Law也已經初步顯現出來了。
Tiny版在4000小時左右開始飽和,換成容量更大的Small版,到5000小時效果還在往上漲;真機任務的成功率,同樣隨著預訓練資料的增加而穩定提升。
02. 補齊了觸覺的拼圖
看完技術細節,我們再把LingBot-Touch放回螞蟻靈波整條技術路線裡,就能更清楚地看到它的位置。
在此之前,靈波的通用大腦已經鋪開了三塊能力,空間感知有LingBot-Vision和LingBot-Depth 2.0,環境互動有LingBot-Video和LingBot-World 2.0,靈巧操作則有LingBot-VLA 2.0和LingBot-VA 2.0。
可以看到,這幾塊能力大多在解決碰到之前的事,比如東西在那、手該伸到那、下一步該幹什麼。
不過一旦手指碰上物體,視覺能提供的資訊就少了,比如指腹貼著瓶蓋的地方會被手擋住,鑰匙插進鎖孔之後更是什麼都看不見。
LingBot-Touch補上的,正是這一塊。用一句話概括,就是視覺管接觸之前,觸覺管接觸之後。
雙手開鎖就是一個典型的例子。
一隻手握著掛鎖,另一隻手捏著鑰匙對準鎖孔,這一步主要靠眼睛;可鑰匙往裡一推,就有可能把鎖頂歪,推到一半卡住了,還得退一點、換個角度再試。
等鑰匙進了鎖孔,攝影機基本就幫不上忙了,靈巧手只能靠鑰匙傳回指尖的阻力來判斷。
看到這裡,或許有小夥伴要問了,靈波為什麼要把觸覺單獨做成一個基礎模型?
原因在於,每隻手的控制方式都不一樣,但它們都得理解接觸。
如果把“理解接觸”這件事單獨拎出來,做成可以復用的一層,那麼一款硬體攢下的經驗,就能成為下一款機器人的起點。
這個思路,其實和靈波之前做LingBot-VLA是一脈相承的。
VLA研究的是同一個大腦怎麼驅動不同構型的機器人,也就是“一腦多機”;到了Touch這裡,問題又往前推了一步,變成了不同的手、不同的感測器攢下的接觸經驗,能不能放在一起學,再用到新機器人身上。
而前面XHand那組結果,算是給出了一個初步的答案。
LingBot-Touch的幾個設計選擇,也正是從這個目標倒推出來的。用手套采資料,是因為手套不依賴機器人本體,資料規模才擴得上去;入口按感測原理設計、不按產品型號設計,是為了給以後的新感測器留出位置。
這也是靈波一直強調的具身原生,即從機器人在物理世界裡怎麼感知、怎麼動手出發,來決定模型應該怎麼設計、用什麼資料訓練。
目前,LingBot-Touch已經和LingBot-VLA、LingBot-Depth完成融合,用來提升通用大腦手眼協同、完成精細操作的能力。
在落地方面,靈波也正和樂聚、鈦虎等本體夥伴,以及國大藥房、隆盛等場景夥伴,在零售分揀、物流分揀和工業場景裡開展商業化測試。
03. 大模型越強,具身原生越不能缺席
聊完LingBot-Touch本身,我們再把視角拉遠一點。
今年9月GPT-6 Astra發佈之後,RoboDojo團隊讓它在零樣本的條件下跑了42項模擬操作任務,結果它的綜合得分在43個參評條目裡排到了第一。
說實話,這件事讓具身圈一度挺慌的。
但在同一份報告裡,還有另一組數字。GPT-6 Astra在精度維度的成功率只有4%,而表現最好的公開策略是20.42%;插管、搭塔這類需要精確接觸的任務,它幾乎全軍覆沒,真機測試也因為安全問題被叫停。
報告把這個差距歸結為缺少物理常識,也就是對接觸、力和碰撞的理解。
而就在今天,Anthropic又發佈了Claude Fable 5.2,大模型控制機器人的進度條又往前推了一步。
據Anthropic官方部落格公佈的內部測試結果,Fable 5.2在RoboDojo模擬測試中的平均成功率達到64.9%,是同一套測試框架下GPT-6 Astra(29.8%)的兩倍還多,也超過了大多數專門為控制機器人打造的AI系統。
官方放出的演示裡,由Fable 5.2控制的機器人還能解魔方、擰瓶蓋、畫畫。不過,RoboDojo考的,是看著攝影機畫面去控制一台模擬的雙臂機器人。
從Fable 5.1到Fable 5.2,前後兩個多月,同一套測試裡的成功率就從27.6%漲到了64.9%。通用大模型理解任務、推理規劃,乃至直接上手操作的本事,都在肉眼可見地變強。
但在我們看來,這並不意味著具身模型就該退到一邊,只管“動手”。
模擬裡的高分,和在真實世界裡穩穩地把活幹完,中間還隔著物理世界的泛化性。換一隻手、換一種材質、換一個從沒見過的場景,機器人還能不能幹好?這個問題繞不過去,得由從物理世界裡原生長出來的大腦自己去啃。
螞蟻靈波CEO朱興的判斷也是如此。
他認為,GPT-6 Astra、Claude Fable 5.2這些數字世界大語言模型的進展,確實讓機器人的複雜任務推理和物理操作能力更強,靈波也在積極吸收;但要真正跑通操作閉環,“物理操作泛化性這塊硬骨頭還是繞不開”,很大程度上仍要靠具身基礎模型自身的突破。
在他看來,通用大模型和具身基礎模型更接近1+1>2的關係,兩者各自突破、相互促進,共同加速具身智能產業的成熟。
LingBot-Touch,就是靈波啃這塊硬骨頭的一次嘗試。
觸覺是一種物理世界原生的模態。網際網路上有海量的文字、圖片和視訊,卻幾乎沒有那個網頁記錄過,拇指捏瓶蓋時到底用了幾牛的力。這類經驗,只能在真實互動裡一點點攢,而它恰恰是物理世界泛化性的根基之一。
例如靈巧手摸麻將,靠的就是這種經驗。
二筒和三筒摸上去都是圓圈,想分清楚,得摸出一共有幾個圓、各自排在那兒,而這些線索全藏在指腹下淺淺的刻紋裡。
過去,觸覺一直是零零散散的,每家感測器一套資料、一套模型,換一隻手就得從頭再來。而LingBot-Touch證明了,觸覺也可以有統一的表徵。
如果再往前推一步,LingBot-Touch這套辦法,即統一坐標、入口分開、主幹共享、在特徵空間裡做預測,其實沒有那一環是只屬於觸覺的。
這套思路,也貫穿在螞蟻靈波整條具身原生路線裡。按照規劃,靈波會持續探索物理操作泛化性的上限,打造跨構型的機器人行業通用大腦,推動視覺、深度、觸覺乃至溫度等更多物理模態在統一模型中對齊。至於機器人以後還會多出那些感知方式,現在誰也說不準,但至少,已經有了一條可以參照的路。
這也正是螞蟻靈波想做的事情,在硬體和場景之間做一層智能,把不同本體、不同感測器積累下來的物理經驗,轉化成可以共享的通用能力。
而且,螞蟻靈波是以開源、可拆分的方式把這層能力給出去的,並且會在推進商業化的同時,持續向社區開源開放。
LingBot-Touch可以單獨拿去用,接在π0.5、Diffusion Policy這些別家的動作模型上,一樣有效;感測器廠商可以繼續走自己的技術路線,整機廠也不用為了某個模型去換感測器。
奧迪今年初披露過一個數字,全行業線束生產與裝配的自動化比例,還不到10%。這類邊接觸、邊調整的活兒,正是靈巧手遲遲接不住的地方。
再看國內,中國的靈巧手和觸覺感測器種類很多,過去這是資料互不相通的麻煩;可一旦經驗能夠共享,這份多樣性反倒會變成資料上的優勢。
總而言之,機器人手上有了訊號,也未必會用。
正如朱興所說,“模態輸入的質量很大程度上決定了動作輸出的質量”,沒有好的輸入,就沒有好的輸出。
通用大模型跑得越快,具身原生的大腦就越不能掉隊。讓機器人在物理世界裡把活幹穩、幹好的那份能力,終究要靠具身原生的大腦,在真實世界裡一點一點練出來。
項目首頁:
https://technology.robbyant.com/lingbot-touch
技術報告:
https://github.com/Robbyant/lingbot-touch/tree/main/paper
GitHub:
https://github.com/Robbyant/lingbot-touch
Hugging Face:
https://huggingface.co/collections/robbyant/lingbot-touch
魔搭社區:
https://www.modelscope.cn/collections/Robbyant/LingBot-Touch (量子位)

