•
中國AI，最新趨勢來了！
新華深讀｜2026年中國AI發展趨勢前瞻
人工智慧（AI）企業數量超過6000家，AI核心產業規模預計突破1.2兆元，同比增長近30%；
國產開源大模型全球累計下載量突破100億次；
中國成為AI專利最大擁有國，在全球佔比達60%；
……
這些資料勾勒出2025年中國AI發展的圖景。一邊是AI技術突破，走出一條不同於美國矽谷的“開源創新”之路，另一邊是AI與經濟社會的融合由淺入深。
1月以來，智譜、天數智芯、MiniMax等國內AI企業扎堆上市。本月由清華大學主辦的“AGI-Next”峰會上，行業專家形成共識：以對話為核心的“Chat”範式已告終結，AI競爭轉向“能辦事”的智能體時代。
2026年是“十五五”開局之年。根據“十五五”規劃建議，中國將加強人工智慧同產業發展、文化建設、民生保障、社會治理相結合，全方位賦能千行百業。
新華社記者採訪相關部委負責人、行業專家、企業代表、創業者等，前瞻AI發展新趨勢。
技術範式：AI從“聊天”走向“做事”
1月，DeepSeek連發兩篇梁文鋒參與署名的論文，再次將這家AI企業推到聚光燈下。論文的核心貢獻，是試圖解決訓練大模型時遇到的記憶體瓶頸和穩定性難題。業界評價，新一代大模型模樣更清晰了。
DeepSeek的一舉一動備受關注。一年前，其發佈的國產大模型DeepSeek-R1給全球AI行業帶來巨震。
“DeepSeek標誌著中國AI技術路線分化突破的出現。”清華大學智能產業研究院創始院長張亞勤說，“中國轉向擁抱更輕的模型、更聰明的架構、更高的效率和更低的價格。”
眼下，AI發展正沿兩條主線並進：技術向上衝刺，尋求突破認知與協同的侷限；應用向下紮根，解決真實痛點。
“向上衝刺”，就是尋求“更聰明”的演算法和架構，不僅提升單一模型的性能，創新突破也更聚焦提升智能密度。
密度法則，是指用更少的計算和資料，更高效地得到更多智能。
國內AI公司面壁智能聯合清華大學團隊發表論文《大模型的密度法則》，對大模型的進化方向作出判斷：AI將在能力和成本兩個方向同時進化，提升效率同樣是主線。
從“拼規模”轉向“拼密度”，精煉高效成為大模型演進的核心邏輯之一。中國資訊通訊研究院副院長魏亮認為，行業已不再單純依靠提升參數規模實現性能突破，精細化機制、演算法架構、訓練方法的最佳化成為主要提升方向。
中國信通院發佈的《人工智慧產業發展研究報告》指出，在演算法架構方面，以DeepSeek的NSA、月之暗面的MoBA等為代表的稀疏注意力機制，成為提升模型推理效率的重要技術路徑之一。
通俗的解釋是，想像你坐在一個萬人大禮堂，注意力機制從傳統的“聽每一個人說話”提升為如今“聽關鍵人物發言”。
大模型本質上是通過海量資料歸納語言規律，訓練出特定的識別模式，掌握預測文字的能力。就像孩子雖沒有理解詩歌，卻能通過反覆朗誦背出《靜夜思》。回顧本輪AI浪潮，演算法架構和算力、資料一樣，是智能湧現的重要條件。
張亞勤說：“規模定律並未失效，我們仍需要算力和資料作為基座。”不過他也指出，堆算力的邊際效益趨於平緩。業內人士認為，演算法架構革新將是AI未來發展的突破點。
當模型“智力密度”持續提升，讓前沿智能“向下紮根”、變得“更能幹”，就成為行業要面對的命題。
“幾十年來，AI主要關注開發新的訓練方法和模型。”曾擔任OpenAI研究員、後出任騰訊總裁辦公室首席AI科學家的姚順雨認為，在AI競爭的下一個階段，為誰解決什麼問題成為關鍵。
“騰訊已把自研大模型在內部超過900個場景和應用落地，核心思路是把AI深度融入場景，讓好用的AI成為普惠生產力。”騰訊相關負責人表示，全球具備大模型底座研發實力的廠商已逐步收攏，高品質的資料、廣泛的生態和場景，將成為拉開競爭差距的重要因素。
各大廠商不約而同加快AI真實場景落地的開發。百度新設立了基礎模型研發部、應用模型研發部。公司創始人李彥宏稱，未來AI領域只會剩下少數幾個基礎模型，但在應用層，將出現許多在不同方向上都取得成功的參與者，那裡才是機會最多的地方。
中國信通院的報告顯示，基礎模型數量正持續收斂，在真實場景中的應用效果成為關注重點。以大模型“六小虎”為例，百川智能已深耕醫療，零一萬物則轉向為企業部署定製解決方案。
這些揭示一個趨勢：曾經硝煙瀰漫的“百模大戰”落下帷幕，等待參與者的是一場圍繞真實場景滲透、產業生態建構與應用價值深挖的耐力賽。
自1956年達特茅斯會議以來，人工智慧已走過70年曆程。如今，“技術進化”和“場景落地”的雙重變革，推動人工智慧向更廣闊疆域拓展。
張亞勤認為，人工智慧正向智能體AI加速演進。智能體AI能夠像人一樣設定任務、規劃實現路徑、試錯反饋，具有自主性、能舉一反三和長期記憶三個特徵。
如果說聊天機器人是“會說話的字典”，智能體AI就是“能自主幹活的管家”。中國科學院軟體研究所研究員黃進表示，未來AI不僅能聽懂指令，還能“看”懂畫面、“聽”懂語氣，成為具備綜合認知能力的“全能感知者”。
“智能體是在大模型基礎上的工程化增強，極大拓展AI能力邊界。”中國信通院人工智慧研究所所長魏凱表示，不過智能體在可靠性、上下文記憶和長程任務等方面還需要提升，距離大規模應用仍有距離。
張亞勤等人還認為，AI的創新前沿將突破數字世界的邊界，未來的AI將是資訊智能、物理智能和生物智能的融合。
AI發展下一站是進入物理世界。1月，中國一款具身智能模型在全球統一標準下獲得第一。業界有評價認為，這意味著中國團隊訓練出的機器人“大腦”，具備了在物理世界理解和執行任務的能力。
中外專家認為，AI正在與真實世界互動中建構理解和模擬物理規律的“世界模型”。物理智能將賦予AI在真實世界中感知和行動的能力，如機器人能自主完成複雜任務，智能駕駛從容應對複雜路況。
AI不僅是數字世界的“思考者”，也將逐漸成為物理世界的“行動者”，更遠的未來則會成為生命世界的“探索者”。
算力建設：系統升級加速協同
2025年，一家初創公司發佈大模型新產品，市場反響超預期，導致預留伺服器幾分鐘內被擠爆，系統幾近癱瘓。危急關頭，一家基礎設施服務商無問芯穹公司利用平台技術服務，讓各地算力資源像“空中加油”一樣，為這家公司續上計算能力，確保了產品發佈的關鍵窗口。
“我們希望未來算力就像自來水，打開能用、關上會停，不用關心它從那裡來。”公司聯合創始人夏立雪描述這樣的願景。無問芯穹公司位於上海，公司成員平均年齡32歲。他們把不同廠商、不同架構的AI晶片高效融通起來，就像搭建“立交橋”，充分利用分散的算力資源。
算力，計算裝置或系統處理資料、執行運算任務的速度與規模能力，通常分為基礎算力、智能算力、超算算力。AI依靠的是智算，它不只是晶片的堆砌，而是一個由硬體、軟體、能源與網路精密協作的系統。
AI算力就像一支超級工程兵團：GPU等計算晶片是執行硬核任務的“重武器”，高速網路是讓各兵種高效協同的“資訊高速公路”，儲存系統是隨時呼叫的“戰略物資庫”，軟體框架與演算法則是統籌全域的“調度指揮中心”。而一切運轉都離不開基礎保障：電站確保電力“彈藥”持續供應，供給液冷系統是戰士的“降溫服”。
AI時代，算力就是新石油，AI算力中心是提煉和輸送石油的超級工廠。
工信部資料顯示，中國已建成萬卡智算叢集42個，智能算力規模超過1590 EFLOPS，位居全球前列。
業界認為，中國算力發展將繼續呈現“政府頂層設計+市場創新活力”雙輪驅動特徵。
產業架構將從分散走向全國一體化，是未來算力發展的明顯特徵。東數西算工程已形成覆蓋東中西部的8大樞紐節點、10個資料中心叢集，其中8大樞紐節點已建成智算規模超過全國智算總量的80%。
“十五五”規劃建議提出推進“全國一體化算力網”，國務院《關於深入實施“人工智慧+”行動的意見》強調“強化智能算力統籌”，指明未來算力發展將加強高效協同。
工信部賽迪院電子所副所長馬曉凱認為，算力網建設呈現集約化、一體化、協同化、價值化等特徵，算力資源正在向樞紐節點集聚，跨地域調度平台逐步完善，政府引導、市場運作的協同機制正在建立，算力與電力加快協同。
隨著需求激增，智算中心正經歷變革。中國信通院雲端運算與巨量資料研究所副所長李潔認為其將向算力高密化、叢集規模化、綠色低碳化方向演進，算力中心單機架功率與算力密度將逐漸提升，算力中心間協同聯動能力強化，規模化算力叢集將加快建構。
在業界，更大規模的萬卡乃至百萬卡級叢集將成為支撐兆參數模型訓練的基礎。比如，從2011年啟動研發崑崙芯的百度集團，去年11月發佈新一代崑崙芯M系列及天池超節點，計畫將單一智算叢集規模從3萬卡推向百萬卡等級。
硬體層面，不僅是晶片研發，還有通過專用積體電路、存算一體等新架構實現技術突破，建構軟硬體協同生態。頭部科技公司正打造能相容多種國產晶片的異構計算平台。
應用層面，算力加速從科技企業走向千行百業。今年，上海、珠海等地已宣佈發放算力券，降低中小企業使用智能算力的門檻，引導算力資源流向工業製造等實體經濟領域。
電力，被業界稱為“算力的盡頭”。中國信通院報告顯示，2024年中國資料中心用電量佔社會用電量比例1.68%，並提出未來高中低三種差異化發展場景，按照中速增長，預計到2030年底這一比例將達3%左右，全國資料中心用電量將突破4000億千瓦時；而按照高速增長趨勢，或將突破7000億千瓦時。
“算電協同”從趨勢上升為戰略必然。國家引導算力向西部可再生能源富集區佈局，打造綠色算力基地。企業也積極探索綠電直供、分佈式新能源等模式，騰訊的資料中心去年綠電佔比已達80%。
一些企業傾向將即時結算、即時推理等對時延要求高的算力就近部署，對時延要求不高的冷資料儲存等業務部署在西部。東西部之間的網路傳輸成本，以及因時延帶來的業務損耗，可能會抵消一部分電價優勢。
專家表示，通過網路技術最佳化、業務智能調度，以及電力系統的靈活性互動，實現整體社會成本最優，將是算力基礎設施核心競爭力所在。
展望算力前景，李潔認為“我們不僅追求硬體性能的突破，也關注從硬體到軟體、從基礎設施到綠色能源的系統性創新”。
這場系統性升級，將決定中國如何把“新石油”轉化為驅動智能時代的澎湃動力。
資料探勘：從規模導向轉為質量與專業化導向
在保定，工程師們標註自動駕駛車輛在雨雪中的互動軌跡，建構研究華北地區城郊複雜路況的互動資料集；在成都，醫學專業學生標記CT影像以建構肝癌療效預測資料庫；在海口，資訊技術專業學生分析記錄水果生長的無人機影像，用於智能澆灌和採摘系統……
最近，在某招聘平台，註明“重點大學本碩博優先”的AI資料標註員崗位，月薪最高接近2萬元。
因AI應運而生的資料標註行業，正從以往勞動密集轉向知識密集。10年前，資料標註公司常落戶於中西部地區，受教育不多的人們，會用滑鼠就能完成“看圖貼標籤”。隨著生成式AI的突破和落地千行百業，越來越需要挖掘沉澱於行業企業的資料和專業人士的經驗，並將經驗轉化為AI可理解的“資料燃料”。
資料對AI有多重要？
在AI三要素中，演算法像設計圖，定義AI學習的方法和邏輯；算力是引擎，提供計算的能力；資料則像人類學習所需要的書本和經驗。
當演算法因規模擴張而邊際效益遞減、算力因技術開源而日益普及時，AI技術的競爭焦點正轉向更基礎也更難複製的要素——高品質資料。
魏凱說，訓練行業模型解決垂直行業裡的深度問題，需要高品質的行業資料集。
“比如，放射科醫生看片子裡有沒有結節，靠的是數十年的醫學經驗，AI看片子也需要醫生教它。現在的資料標註要往縱深發展，把行業的深度知識、專家經驗轉化為能夠被機器學習的樣本，需要標註加工。”
高品質資料從那來？
簡而言之，資料標註通過提取特徵、分類、註釋和標籤化等操作，將人類的知識與思維邏輯轉化為機器可識別的形式，這是建構高品質人工智慧資料集的關鍵環節。經標註形成的高品質資料能提升垂類大模型在專業領域的性能。
中國資料生產總量佔全球四分之一多。中國擁有全球最大的網際網路使用者群體，擁有全門類的工業體系，從原材料開採、中間品加工到終端產品製造的全要素、全過程、全環節資料成為寶貴資源。
但另一面，很多人有這樣的經歷：在A醫院做的檢查，其結果並不被B醫院接受，原因在於醫療資料標準不統一，且涉及極高的隱私風險，導致資料無法跨院流動。
工信部賽迪院信軟所所長韓健認為，資料價值密度不均、資料標準參差不齊、資料流通壁壘重重，導致大量資料“存而不用”，不同部門、不同企業的資料像一個個“孤島”，“不敢傳”（怕洩密）、“不願傳”（怕喪失競爭優勢）、“不會傳”（缺乏技術標準）。
難題正在破解。隨著資料被明確為關鍵生產要素，國家資料局掛牌，《“資料要素×”三年行動計畫（2024—2026年）》等相繼出台，旨在培育資料產業，打造高品質資料集。
國家資料局指導成都、合肥、瀋陽等7城市建設資料標註基地，先行先試。截至2025年第三季度，形成醫療、工業、教育等行業的高品質資料集超過500個，帶動資料標註相關產值163億元。
資料集建設已從通用基礎資料集轉向行業高品質資料集。中國信通院對資料標註企業的調研結果顯示，78%的企業以行業資料集供給為主，重點是交通運輸、醫療健康、教育教學、工業製造等領域。
業內人士認為，圍繞資料的進化今年將進入更深層次。
從AI技術發展看，隨著模型訓練進入深水區，資料需求持續攀升，但單純堆量的方式已難以為繼，資料訓練密度和利用效率成為新焦點；資料集建設重點從追求規模轉向質量躍升，智能生成、專業細分、合規治理推動破解資料瓶頸。
從AI落地應用看，高品質、專業化的行業資料集將成為高價值資源，尤其是在工業、金融、醫療等領域。同時，合成資料技術將越來越普及——當現實資料難以獲取或涉及隱私時，需要借助AI技術生成符合物理規律和業務邏輯的訓練資料，從而突破資料瓶頸。
多位專家認為，AI應用到千行百業後，資料有望成為新的中國優勢，因為中國工業門類齊全、數字經濟發達，建成全球規模最大的5G網路，新能源汽車等行業處於世界前列。
魏凱表示，未來的關鍵是充分挖掘利用中國在製造業和網際網路等優勢領域中積累的“資料金礦”，形成“業務產生資料、資料訓練AI、AI反哺業務”的良性循環。
中國人工智慧學會會士、香港科技大學（廣州）協理副校長熊輝說，資料驅動AI最佳化，進而提升產業，產生更多資料，形成閉環。中國全門類的工業體系提供極其豐富的應用場景，這是形成資料飛輪的巨大優勢。
產業賦能：驅動中國製造加快轉型升級
一家有70多年歷史的電池廠應用AI，會發生什麼？
研發環節採用AI配方大模型，高效開發多特性電池；生產通過AI即時聯動裝置與工藝，實現預警，提升穩定性；檢測引入AI雲系統，以演算法替代人工，保障大批次生產下的質量一致性。
這家工廠的變化折射一個趨勢：AI並非高科技產業的專屬，它正成為傳統產業轉型升級的重要驅動力。
“美國聚焦閉源，而中國主導開源市場，這一格局直接推動中國企業快速切入AI+產業。”熊輝說。
國家資料局的資料顯示，2024年初中國日均Token消耗量1000億，而截至2025年6月底，中國日均Token消耗量突破30兆。一年半時間增長300多倍，反映出AI應用落地的快速增長。
Token，中文叫“詞元”，是大語言模型處理資訊的基本單位。模型輸出每一個答案都消耗Token。
來自頭部大模型企業的資料也印證這一趨勢。2025年12月，豆包大模型日均Token呼叫量突破50兆，同比增長超10倍，累計使用量超兆Token的企業客戶突破100家。業界人士預測，未來的Token消耗將呈現“二八格局”——約80%來自企業，20%來自個人使用者。
“大模型會率先在數位化基礎較好、數位化人才相對聚集的行業落地，比如網際網路服務、金融、政務等資訊化技術好的領域；在物理資產較多、數位化相對滯後的傳統產業則會落地較緩。”魏凱分析說。
中國信通院的報告顯示，AI在不同工業領域呈現差異化滲透特徵，其中電子資訊、消費品、以汽車為代表的裝備製造等行業在應用中佔重要份額，鋼鐵、石化、能源電力等行業形成較好應用態勢。
工信部賽迪院產業所所長王昊認為，AI將以小步快跑態勢在製造業落地，從完成簡單任務到實現高級功能。2026年AI大規模落地製造業方面，較看好汽車、機器人等先進製造企業，AI也將賦能提升裝備與消費產品的智能化水平。
聚焦製造業，會發現AI應用在三個維度展開：研發設計、生產製造、營運管理。
“目前，大模型應用超過40%聚集在客服等營運管理環節，30%至40%應用於研發環節，原本處於‘中間緩’的生產製造環節AI應用比例從2024年的19.9％提升到2025年的25.9%，未來還將提升。”魏凱說。
這種分佈反映AI在製造業滲透的漸進性特徵——從相對標準化的管理環節向核心的生產製造環節延伸。
張亞勤表示，相比第一、二次工業革命中國“零參與”、第三次以資訊時代為標誌的工業革命是“跟隨者”，在AI作為技術底層的第四次工業革命中，“中國完全有可能走在前列”。
這一判斷是業內共識。其背後，是基於中國的獨有優勢：全球最完整的工業體系、海量應用場景資料、強大的工程化能力和龐大的市場需求。這些要素共同構成中國製造業在AI時代實現跨越式發展的基礎。
國家部署為企業助力。去年，《關於深入實施“人工智慧+”行動的意見》提出加快人工智慧在設計、中試、生產、服務、營運全環節落地應用；今年1月，工業和資訊化部等八部門印發《“人工智慧+製造”專項行動實施意見》，提出到2027年推動形成特色化、全覆蓋的行業大模型，推廣500個典型應用場景。
工信部部長李樂成表示，將深入實施“人工智慧+製造”專項行動，統籌佈局通用大模型和行業大模型，培育一批重點行業智能體、智能原生企業；加快製造業智能化升級，挖掘人工智慧應用場景，以萬千“小場景”匯聚形成融合“大場面”。
熊輝表示，傳統產業進行AI改造的核心是將產業問題抽象為AI問題，並實現低成本部署。以廣州的小家電產業叢集為例，可利用產業優勢，快速形成資料化、智能化閉環，大小模型配合，提升終端智能化水平。
超600萬家中國製造業工廠，將在紛繁多樣的場景擁抱AI。這不僅是一場技術革命，更是一場深刻的生產方式變革。
社會價值：深刻改變治理方式和運行規則
重慶市潼南區桂林街道梨樹村，智能監測系統靜靜守護著85歲的獨居老人。當系統發現異常，從預警到網格員上門僅需15分鐘。這是AI融入政府公共服務的一個普通場景。
從事後處置轉向事前預警，從“人海戰術”轉向智能調度，人工智慧的觸角以前所未有的廣度和深度，嵌入社會運行的一道道肌理。
AI帶來的轉變推動城市治理更智能、更精準。在四川德陽，“城市大腦”的演算法以分鐘級發現路面問題；在甘肅臨洮，大橋上的AI可識別行人翻越欄杆、靠近水流等行為，與警務等部門聯動，挽救了20多條生命。
重塑治理理念，人機協同的治理新模式應運而生。中國信通院政策與經濟研究所副所長李強治認為，中國正推動AI治理“下沉場景賦能”，將AI技術與政務、公共安全等領域深度融合。
這股力量也滲透進日常生活的毛細血管——消費。AI萬能搜、AI幫我挑、AI試衣、AI清單……去年的“雙十一”購物節，淘寶天貓一口氣推出6款AI導購應用。
“平台和產品變得更懂消費者。這不再是簡單的‘猜你喜歡’，而是‘懂你需要’，消費起點從使用者的需求清單逐漸變為AI的演算法推薦。”淘天集團研究中心主任徐飛說。
AI正錨定“需求”著力滲透，實現從“技術可行”到“社會需要”。
一位蔚來車主在車裡說句“想吃麥當勞”，車載系統就能自動定位到最近門店，並根據駕駛路線與會員身份推薦套餐。這是麥當勞中國與蔚來汽車聯合推出的國內首個車載AI語音點餐系統。麥當勞中國首席資訊技術與體驗官陳世宏表示，AI技術不斷滲透到消費場景，拓展消費邊界。
《關於深入實施“人工智慧+”行動的意見》提出，推動智能終端“萬物智聯”，培育智能產品生態，大力發展智能網聯汽車、人工智慧手機和電腦、智慧型手機器人、智能家居、智能穿戴等新一代智能終端，打造一體化全場景覆蓋的智能互動環境。
中金公司2026年展望報告顯示，消費電子的“端側AI時代”已經來臨，今年有望成為AI消費終端大規模普及的關鍵年份。新一輪消費電子更新換代潮或將到來。
愛奇藝AIGC科技創意指導王慶豐表示，AI正推動消費從“需求牽引供給”逐步到“供給定義需求”，這背後是AI從表層效率最佳化切入，逐步滲透到體驗重構，甚至重塑著深層價值體系。
AI重新定義價值，最深遠的是挖掘人的價值。
學日語出身的劉典，在AI爆火的這兩年決定辭職攻讀計算語言學。“AI降低了跨界難度，很多知識門檻並沒有想像中高。”他說。
AI向各行各業滲透，先行者靠它撬動更大價值。上海漕河涇開發區AI校友中心有超60家AI初創企業，創業者平均28歲。數宗科技主攻“多模態知識圖譜”，其創始人丁天是一位愛寫詩的文科生，他認為，AI時代，技術正從難以踰越的壁壘變為人人可呼叫的資源。
“氛圍程式設計”入選《柯林斯詞典》2025年度詞彙，從“敲程式碼”到“聊程式碼”，AI逐漸滲透工作流程。騰訊相關負責人表示，騰訊有超90%工程師正在借助AI編碼，並基於自身實踐推出支援多種形態的專業工具CodeBuddy（雲程式碼助手），面向企業及程式設計師提供服務。AI輔助讓工程師專注於創新，成為能力的放大器。
隨著AI重新定義工作和技能，傳統教育勢必轉型。在深圳職業技術大學的課堂上，AI正在手把手地教學生程式設計。校長許建領說，成功的“AI+教育”不是讓學生依賴AI獲取答案，而是培養他們使用AI創新。學生核心競爭力不再是單一的操作技能，而是複雜問題解決能力、“AI+技能”復合素養和可持續學習的自驅力。
AI時代，每個人都可以挖掘自己的潛力，專注於唯有人類才能駕馭的洞察與創造。
安全防範：護欄建設將趨嚴趨實
最近，美國《韋氏詞典》評選出2025年度詞彙：“slop”（AI垃圾內容）。不約而同，英國《經濟學人》雜誌、澳大利亞《麥考瑞詞典》評選的年度詞彙也是它。
這詞被一些網友翻譯為“AI泔水”，指質量低下、無意義或粗製濫造的AI圖像和文字等內容。
詞語背後是席捲全球的現象：AI生成的荒誕而無意義的視訊、圖像和文字充斥網際網路。這警示人們，AI技術突飛猛進的同時，其日益增多的安全隱患與倫理挑戰不容忽視。
“一家公司與某三甲醫院合作開發AI健康助手，最初設計採用一名真實醫生的形象與聲音。我向這家公司提出可能誤導患者，透支患者對醫生的信任。”中國科學院自動化研究所研究員、聯合國人工智慧高層顧問機構專家曾毅談到這樣一個案例。
在曾毅等人建議下，這家公司推出的應用以卡通人物為形象，強化了其助手定位。曾毅說，越來越多AI企業開始思考以人文溫度校準技術。
AI有那些風險？業內專家普遍將其總結為資料隱私與安全邊界模糊、技術濫用與虛假資訊產生、演算法偏見與決策“黑箱”等方面。
張亞勤認為，突出的是資訊智能領域的風險，AI可以被利用生成虛假資訊、深度偽造並進行欺詐，還有生成式人工智慧的智慧財產權問題。當未來大模型、智能體與無人車、機器人等連接起來，智能體之間的協作和博弈如果出現失控或被惡意濫用，造成的風險更大。
曾毅舉例，“越獄攻擊”，即通過精心設計提示詞繞過安全約束，並引發有害、偏見或不道德輸出的對抗性攻擊，是當前大語言模型安全領域的嚴峻挑戰。
在AI技術狂飆突進時，如何為它裝好“方向盤”和“剎車片”？
中國不斷加固安全護欄，走出一條從柔性指導到不斷加強法治保障的特色治理之路——
《關於深入實施“人工智慧+”行動的意見》提出“形成動態敏捷、多元協同的人工智慧治理格局”；中央網信辦、國家發展改革委、科技部等多部門協同發力，推動人工智慧治理從理念走向落地。
“十五五”規劃建議提出，加強人工智慧治理，完善相關法律法規、政策制度、應用規範、倫理準則。業界認為，這為中國未來五年人工智慧健康發展明確方向、留足空間、築牢基礎。
去年底公佈的《人工智慧擬人化互動服務管理暫行辦法（徵求意見稿）》提出，擬人化互動服務提供者應當建立應急響應機制，發現使用者明確提出實施自殺、自殘等極端情境時，由人工接管對話。
“這一暫行辦法公佈並向社會徵求意見，體現中國人工智慧政策‘自適應性’與監管框架的與時俱進。”曾毅說。
既有“軟性”政策指導，也有“硬性”法律保障。新修改的網路安全法於今年施行，其中規定，完善人工智慧倫理規範，加強風險監測評估和安全監管。
“規範發展”已成為AI業界共識，從研究機構到企業平台均在探索建立健全AI安全倫理體系，明確資料使用、責任界定等關鍵規則。
2024年，中國信通院啟動“大規模預訓練模型（文字生成功能）安全認證”，標誌著中國開始對大模型內容安全進行系統化、標準化認證。一些機構和企業也在牽頭制定行業標準，如騰訊和中國信通院聯合發佈國內首個金融行業大模型標準等。
AI發展需要各國共同推進、協同治理。參與起草《人工智慧全球治理行動計畫》的清華大學人工智慧國際治理研究院院長薛瀾表示，建構一個公平、公正、綜合、平衡的人工智慧全球治理體系，關乎全人類的共同發展。
AI是驅動發展的新質生產力，也是影響人類未來命運的新生力量。如何加速技術應用以增加社會福祉，同時加強人文關懷化解潛在風險，這既關乎發展，也關乎未來。中國AI技術的發展與應用令人期待，需要全社會的深度參與。 (新華網)