推廣活動

剛剛,百度開源再拿全球第一!1000萬下載神作殺回來了

RexAA
•
AI速讀
百度推出開源模型 Unlimited OCR 2,突破長文件解析瓶頸。該模型以極小啟動參數奪得兩大權威基準榜首,可一次性解析數千頁PDF而無需切分,且精準度極高,能完美處理跨頁表格與複雜排版。技術上透過 SR-SWA 稀疏注意力與無限解碼機制,將視訊記憶體需求降低 96.2%,使普通顯卡即可運行,標誌著文件解析進入 OCR 3.0 時代。

曾獲LeCun轉發推薦、狂攬1,000萬下載的百度開源神作,又殺回來了!

時隔4個月,百度今天正式開源新一代文件解析模型——文心Unlimited OCR 2。

它的體量依然輕巧,總參數3B,每次推理實際啟動僅500M(5億)。

但就是這個5億啟動的輕量級模型,直接拿下了兩大權威基準的全線第一:

  • 百頁級長文件基準MarathonDocBench(103–300頁),拿到77.06分,位列第一;
  • 多頁跨頁基準MPDocBench,拿下84.59分,位居榜首。

光看分數不過癮,直接上demo感受下。

把《哈利·波特》七部曲,從「魔法石」到「死亡聖器」,一共3600多頁PDF,全部塞給Unlimited OCR 2。

點下開始,右上角的頁碼直接開始狂飆。

整套全部啃完,掐表一看,1小時30分,平均翻一頁只要1.5秒左右。整整3623頁,翻了3000多次頁,它一次也沒「斷片」。

要知道,上一代模型的極限還卡在40多頁;短短120天,百度直接把頁數上限給干沒了!

這意味著不管是上千頁的《三體》全集,還是五千多頁的《四大名著》合訂本,統統不用切分章節,一次上傳就能從第1頁死磕到最後一頁。

那怕一路讀到第5,000頁,它的翻頁速度也和讀第3頁幾乎一樣快。

同時單序列KV視訊記憶體更是直接砍掉96.2%,一張普通遊戲顯示卡就能跑滿全場。

目前,模型與相關權重已在GitHub和HuggingFace全面開源。

GitHub:https://github.com/baidu/Unlimited-OCR
HuggingFace:https://huggingface.co/baidu/Unlimited-OCR-2

捅破「無限頁」禁區

三道魔鬼關卡,最後一頁驗貨

既然連3600多頁的《哈利·波特》都沒探到它的底,Unlimited OCR 2的實力到底有多深?

我們干脆挑了三個最容易讓大模型翻車的極限場景,一頁頁驗貨。

第一關,5026頁《四大名著》一鏡到底,扒出「跨頁腦回路」

第一關先測它的耐力極限,看它到底能一口氣扛住多長的書。

我們把《三國演義》《水滸傳》《西遊記》《紅樓夢》焊成一份5026頁的巨無霸PDF,不分冊、不切章,整本直接塞進去。

五千多頁一路狂飆到底,全程既不卡殼、也不復讀。

為了看它翻到後半程有沒有糊弄事,我們直接把進度條拽到最後一頁第5026頁驗貨。

翻開最後一頁,右側輸出穩穩停在《紅樓夢》第一百二十回全書收尾的偈語——

「說到辛酸處,荒唐愈可悲。由來同一夢,休笑世人痴!」

但測到這兒,懂行的人肯定會問,《四大名著》大模型早背熟了,它該不會是看著前文靠記憶「背書腦補」吧?

為了驗證它到底是在「真看圖」還是「瞎背書」,我們專門搓了一份240頁、17.3萬字的小說長卷。

在這份長卷的第2頁到第237頁之間,我們分8個深度區間,悄悄埋進了32個陷阱。

比如在第2頁,把「葉文潔」偷偷改成一筆之差的「葉文清」,同頁還保留正常的「葉文潔」混淆視聽。而在第237頁深處,我們又把《魔法史》的第742頁暗中改成了第724頁。

換作平時愛「自作聰明」的通用大模型,看到這種形近字和熟書頁碼,早順手按原著給你「糾正」回去了。

結果Unlimited OCR 2跑完一查,第2頁真假混排的「葉文清」與「葉文潔」,連同第237頁深處的「第724頁」,全按紙面原樣精準揪出,一字未改!

既然排除了背書腦補,那它跨頁接句到底憑什麼這麼準?

為了試探它的跨頁判斷邏輯,我們在《三體》紅岸基地「不要回答!」的跨頁處攔腰塞進一整張1200MHz脈衝波形圖,並在文段裡埋入6串隨機防偽校驗碼。

結果6串隨機校驗碼全部一字不差命中,第1頁末尾的半截話也直接越過脈衝波形圖,和第2頁圖下方的文字嚴絲合縫拼回了同一段。

更意外的是,通過對比不同排版,我們還順勢扒出了它跨頁接句的「隱藏腦回路」——

當上一頁最後一行右側留有空白時,模型會嚴格尊重版式,將其判為段落結束。

反之,只有當最後一行像真實印刷書籍那樣兩端對齊撐滿右邊界,且語義尚未完結時,它才會果斷觸發跨頁縫合!

第二關,專治「財報與合同刺客」,300頁帳本925萬精確到分

五千頁純文字沒難住它,第二關我們直接捅向財務、法務和審計最崩潰的雷區——跨頁大表與數字刺客。

審過招股書或合同的人都懂,表格一翻頁極易序列錯列,每頁重複表頭還得人工刪到眼瞎;要是幾百頁流水裡暗藏幾筆正負號沖銷,盯十分鐘就看花了。

針對這個痛點,我們直接生成一份300頁、3000筆流水的酒店經營總帳,並在裡面暗摻176筆負數沖銷,整本塞進去對帳!


300頁大帳本一氣呵成全部吐完,各頁重複表頭被自動剝除合攏。

緊接著我們寫指令碼逐條拉網核對,3000條記錄0漏項、0重複,9,000個數字欄位與176筆負數沖銷沒有一格串列!

再把識別出的3000筆金額全部拉出來重新求和,算出的總淨額是9,258,968.05元,跟原始帳本核對精確到分,一分不差!

第三關,15頁英文報告「自己讀自己」,三欄折頁全通關

長文不腦補、帳表不序列,最後一關再來測測版面最刁鑽的學術論文、豎排古籍與多欄折頁。

第一份樣本,我們干脆拿百度今天剛放出的15頁單欄英文技術報告,讓它「自己讀自己」!

整篇報告裡最難的一處排版,藏在第7頁翻到第8頁的交界處。

這裡第7頁右下角一句英文剛說半截,第8頁頭頂卻直接杵著佔滿半頁的Figure 4架構圖和6行圖注,真正的後半句被擠到了大圖正下方。

面對這種圖文攔腰截斷,Unlimited OCR 2先把半頁大圖和圖注單獨拎出,緊接著視線直接越過整張大圖,把上下半截英文嚴絲合縫接回了同一句話!

同時,論文裡滿屏的門控注意力公式與演算法偽程式碼,也當場轉成了可直接編譯的LaTeX原始碼。

最後再上一道版面極其複雜的雙頁非對稱三欄折頁,兩頁紙裡把深色反白側欄、多張圖表、跨頁續表,外加底部6.8磅的蠅頭小字腳註全塞在了一塊。

即便版面如此雜亂,輸出的左欄、中欄、側欄閱讀順序依然清清爽爽,60個表格記憶體格、行內公式和4條小字腳註,跟原件逐一對應!

為什麼百萬上下文的大模型

一讀百頁PDF就集體「失憶」?

看完上面三關實測,一個扎心的問題隨之浮現——如今通用大模型動輒1M上下文,為什麼一讀百頁級PDF反而集體拉胯?

百頁基準MarathonDocBench的成績單就是最直觀的印證,文心Unlimited OCR 2用5億啟動參數砍下77.06分,直接甩開第二名(33.74分)2.3倍以上。

相比之下,同台競技的Gemini-3.1-Pro掉到26.97分,更有通用旗艦在讀到第223頁時直接崩盤中斷。

為什麼窗口這麼大還會崩?病根就出在海量的「視覺token」上。

因為PDF每翻一頁都會炸出上千個視覺token,而在標準全注意力下,模型每往下寫一個字,都得把前面所有頁面的視覺token重算一遍!

這就像抄書到第200頁時,每寫一字都要把前199頁原書從頭翻一遍。

隨之而來的代價是,文件從2頁加到100頁,單步解碼延遲就會從3毫秒暴漲至27毫秒;幾百頁無關像素湧入,更讓模型在後半程徹底「走神」。


把人類「抄書匠」的直覺

寫進SR-SWA稀疏注意力

既然「全頁重算」是一條死胡同,那人類抄書匠平時是怎麼幹活的?

人抄幾千頁的大部頭時,95%以上的時間只盯手頭這一頁;只有抄到翻頁處或需要核對前文圖表人名時,才會精準往回翻一眼。

說穿了,單頁內資訊高度聚合,跨頁視覺關聯極其稀疏。

順著這個最樸素的直覺,百度團隊掏出了第二代殺手鐧——稀疏參考滑動窗口注意力(SR-SWA)。

先圈範圍,再挑重點

拿3623頁《哈利·波特》第七部「哈利與伏地魔最終決戰」來說,SR-SWA只用兩步就把計算量按住。

第一步,當模型讀到決戰某一行時,Page Gate(頁面門控)先出手「圈範圍」,把視野從幾千頁收縮到少數候選頁。

第二步,Token Sieve(Token篩子)在候選頁中即時打分「挑重點」,只抓出「閃電形傷疤」或「魂器」等最相關的幾個視覺塊參與計算,其餘無關像素統統略過。

不同於靠「蒸餾模仿」的稀疏方案,這套篩選器的路由打分直接參與前向計算,OCR轉錄梯度可以端到端回傳。

也就是說,該翻那一頁、抓那一塊,全是模型在抄書實戰中練出來的本能——不管喂10頁還是5000頁,每步計算的視覺資訊量都被限制在固定常數上。

無限解碼機制

把單步算力鎖死在常數後,團隊又配套端出「無限解碼機制」(Unlimited-Horizon Decoding),順手拆掉了視訊記憶體牆。

它的運作方式就像一場無縫交接的接力跑,超長文件按窗口依序推進,相鄰窗口之間只留一頁「交接頁(Boundary Page)」直接復用KV快取,確保翻頁處斷句與續表不斷流。

一旦當前窗口轉錄完畢,歷史窗口的快取立即從視訊記憶體中物理釋放,真正做到「邊讀邊扔,輕裝上陣」。

這兩項設計把長文件推理的硬體門檻打穿了地板,在百頁級測試集上帶來三項核心躍升——

  • 單序列峰值KV視訊記憶體暴降96.2%,從標準解碼的47.00GB直接壓至1.77GB,普通顯示卡即可跑通;
  • 16路並行吞吐狂飆3.65倍,每秒吞吐量從360 TPS飆升至1,315 TPS;
  • 百頁單步解碼提速7.0倍,比標準全注意力快7.0倍,比一代R-SWA快5.6倍。

隨著文件一路拉長到300頁,通用旗艦精準率跳水、延遲陡峭沖頂;唯有文心Unlimited OCR 2精準率穩如水平線,解碼延遲貼地飛行。

此身為OCR所成

「無限劍制」撞開OCR 3.0大門

翻開這份硬核技術報告的第一頁,引言最開頭印著一段讓極客會心一笑的「詠唱」——

Pixels are my body, and tokens are my blood. (像素為身,而Token為血。)
I have parsed over a thousand pages. (我已閱盡千余頁文件。)
Unknown to KV  cache , Nor known to context limits. (不為KV Cache所限,不為上下文長度所縛。)
So, as I pray: Unlimited OCR Works. (故而,我在此祈願:Unlimited OCR Works。)

老二次元和極客一眼就能認出來,這正是致敬《Fate/stay night》經典的固有結界詠唱——「無限劍制(Unlimited Blade Works)」。

早在第一代模型開源時,一位名叫Snarcy的開發者就在HuggingFace評論區看穿了這個命名巧思,隨手把台詞改寫成了OCR版本。

沒想到百度團隊看到後如獲至寶,一直珍藏至今,今天發佈2.0技術報告時直接印在引言第一行,並鄭重署上了這位網友的ID。

這句「Unlimited」,也正是文件解析邁入OCR 3.0時代的標誌。

當AI圈還在為閉源大模型動輒幾百萬Token的PDF解析帳單肉疼時,百度用這枚5億啟動的小模型,把長文件解析的上限直接推向了「不設上限」。

還記得初代論文結尾曾留下一句展望——如果讓模型學會自動翻頁,OCR就不再是識別一頁文字,而是讀懂一整本書。

今天,無論是幾百頁的招股書、上千頁的工程標書,還是五千頁的傳世長卷,都不再需要切碎後喂給機器——這句展望,終於照進了現實。 (新智元)