這份報告探討了深度學習(DL)領域專利格局的演變,特別聚焦於大型語言模型(LLMs),並回答了關於領先國家、主導玩家和新興應用的關鍵問題。報告旨在為導航這一快速發展的創新領域提供可操作的見解。發佈機構Questel是一家世界著名端到端智慧財產權解決方案提供商,為超過20,000家客戶和150萬使用者提供服務,覆蓋30個國家。主要提供軟體套件,用於發明和智慧財產權資產的搜尋、分析和管理。
深度學習:基於實例學習而非規則學習,人工智慧正在以驚人的速度變革,推動了一場前所未有的創新浪潮,這將在本報告中詳細闡述。在AI的表面之下,是由機器學習、神經網路和深度學習(DL)等技術交織而成的複雜體系。這些層次相互結合,推動了突破性的進步,為該領域的快速演變作出了貢獻。
LLM的崛起:革新資訊處理和生成方式,LLMs是生成式AI熱潮的核心。這些模型由深度學習驅動,旨在處理、理解並生成類人文字。但其能力遠不止於此——它們可以分析資料、解讀複雜模式並以一種類似人類的方式提供見解。這些模型基於包含數十億甚至數兆參數的海量資料集進行訓練,正在重新定義資料處理的可能性。
通過回答這些問題,我們旨在提供對LLM專利格局的全面理解,挖掘新的機會和視角,以指導利益相關者在這一前所未有的創新時代做出明智的戰略決策。
本研究使用的主要資料來源是 FamPat 全球專利資料庫,通過 Orbit Intelligence 檢索工具進行檢索。FamPat 是一個全球專利申請和授權專利的集合,基於簡單專利族進行組織,涵蓋全球 100 多個專利機構,并包括來自 22 個專利局的可檢索全文,由 Questel 提供。由於每條 FamPat 記錄可能包含許多具有不同日期的單獨發佈事件,本報告採用每個專利族的 最早已知首次提交專利局的日期 作為參考。這一日期被視為專利族的代表性成員日期,用於標識專利族。
首次提交專利局(Office of First Filing, OFF) 指的是某項發明的第一份申請,當這份申請在某專利局提交時,它會成為“優先權申請”,而事件發生的日期則定義為 優先權日期。優先權國家是指首次提交的國家。
報告中的表格和圖表均使用優先權日期(除非另有說明),因為它可以最準確地反映發明活動。專利來源的定義(即專利族的發源地)基於首次提交專利局(OFF)。需要注意的是,這一定義並非百分之百精準,但仍然提供了一種有用且公平的方法來識別實體的通常優先權國家,這通常與其本土專利局一致。
每個專利族與一個或多個實體相關聯,這些實體統稱為專利權人。如果同一專利族中的專利由多個所有者持有,則將該專利族歸屬於所有相關實體。為了提升可讀性並提供清晰的概覽,本報告對提及的申請人進行了系統性整理,並將其歸屬於各自的母公司。子公司和關聯實體被歸入其母公司,以反映統一的所有權結構。這一歸類過程結合了自動化(通過 Orbit Intelligence 資料庫)和人工方法完成,並基於報告建立時公開的最佳資訊進行操作。
本專利分析以深度學習(DL)為中心,特別關注 大型語言模型(LLMs)。檢索方法結合了多種策略,包括深度學習相關的關鍵詞和技術,以及相關的專利分類,例如 G06N3/02(使用神經網路模型的電腦系統)。
為了確保結果在全面性和精準性之間達到平衡,檢索中採用了布林邏輯運算子以及迭代最佳化過程。這種系統化的方法確保了分析資料集的穩健性和可靠性。
雖然專利未必總是明確提及具體的應用,但對這些專利中描述的應用進行探索可以提供有價值的見解。與企業通訊或行銷材料相比,這種方法為當前熱門應用提供了一個獨特而互補的視角。
為了提供更深入的理解,我們參考了領域特定的文獻,彙編了一個全面的 LLMs 應用清單。該清單突出了LLMs在各個領域的潛力,提供了新鮮的視角和可操作的見解,以幫助解讀這一快速發展的技術。應用清單及其描述見報告末尾的附錄。
爆炸性增長:深度學習的熱潮仍在繼續!
我們對2011-2023年這12年的專利活動進行了分析,幾乎完整地呈現了深度學習專利活動的顯著演化。現代意義上的深度學習概念約在2011年形成,自那時以來,該領域已出現了 311,000個專利族。
在我們之前的研究中(圖中淺藍色曲線所示),深度學習專利活動的快速增長已經令人印象深刻,尤其是在技術浪潮初期,年增長率接近 50%。
最新趨勢: 截至2023年,儘管增長速度略有放緩,但仍然保持了顯著的增長態勢:2019-2023年的年均複合增長率(CAGR)為16%。在快速變化的IT領域,這種超過十年的持續創新動能極為罕見。這表明,深度學習不僅僅是一項獨立的技術,而是推動一系列創新和應用的基礎性技術。
其中,大型語言模型(LLM) 是這一技術革命的突出成果。得益於深度學習的進步,LLMs迅速嶄露頭角。從圖中橙色曲線可以看出,與LLMs相關的專利族申請始於2020-2021年,並迅速增長。
中國在深度學習競爭中的領先地位
優先權國家資料為專利戰略提供了重要洞見,也是判斷研發活動主要發生地的可靠指標。大多數申請人傾向於首先在本國申請優先權專利。不過,為了更細緻地分析,還需考慮國際專利族(IPFs) 的數量(定義見附錄)。
國際專利族(IPFs): 是指專利權人選擇向國外擴展的專利族,代表了專利的商業價值和國際關注度。這個指標有助於減小因國內政策支援本地申請而產生的偏差,是評估專利戰略和商業潛力的寶貴工具。
中國在人工智慧領域的領導地位得益於以下幾個關鍵因素:
與此同時,韓國 的專利申請量和國際專利族數量均顯著增長,顯示出強勁的上升勢頭。歐洲 和 日本 也保持了重要的影響力,但在這一競爭激烈的領域略遜於中美韓。
自2021年我們的上一份報告發佈以來,深度學習領域專利申請的排名相對穩定,這表明主要玩家的地位正在鞏固。領先的實體通過顯著擴展其專利組合繼續鞏固其優勢:
中國高校的作用:
中國的高校在創新生態系統中繼續扮演重要角色,在深度學習領域擁有可觀的專利組合,但主要集中於國內,國際專利族比例較低。
缺席的科技巨頭:
儘管一些科技巨頭(如亞馬遜、Meta(Facebook)和蘋果)在技術行業中佔據主導地位,但它們在深度學習領域的專利申請量相對較低。這並不意味著這些公司缺乏對深度學習的投入,而是它們更傾向於通過收購人工智慧初創公司來擴展其技術能力。
深度學習領域的智慧財產權保護競爭激烈
全球深度學習專利競爭的激烈程度突顯了智慧財產權保護在這一變革性領域中的戰略重要性。各國和國家聯盟必須培養關鍵玩家,並建立創新友好的生態系統以保持競爭力。