2025年，大模型技術繼續高歌猛進。在程式設計、科學推理、複雜問題解決等多個領域，前沿AI系統已展現出接近“博士級”的專業能力，業界對通用人工智慧（AGI）的預期時間表不斷提前。然而，能力的飛躍與理解的滯後之間的鴻溝也在持續擴大——我們正在部署越來越強大的AI系統，卻對其內部運作機制知之甚少。這種認知失衡催生了大模型倫理領域的四個核心議題：如何“看清”AI的決策過程（可解釋性與透明度）、如何確保AI的行為與人類價值保持一致（價值對齊）、如何安全地、負責任地迭代前沿AI模型（安全框架）、以及如何應對AI系統可能被給予道德考量的前瞻性問題（AI意識與福祉）。這四個議題相互交織，共同構成了AI治理從“控制AI做什麼”向“理解AI如何思考、是否真誠、是否值得道德考量”的深刻轉向。大模型可解釋性與透明度：打開演算法黑箱（一）為什麼看清和理解AI至關重要深度學習模型通常被視作“黑箱”，其內在運行機制無法被開發者理解。進一步而言，生成式AI系統更像是“培育”出來的，而非“建構”出來的——它們的內部機制屬於“湧現”現象，而不是被直接設計出來的。開發者設定了宏觀層面的條件，但最終所呈現的具體結構卻無法精確預知。當試圖深入這些系統內部時，看到的往往只是由數十億個數字構成的龐大矩陣。因此，大模型的可解釋性既是挑戰，也是必須追求的目標。具體而言，大模型的可解釋性是指系統能夠以人類可理解的方式闡釋其決策過程和輸出結果的能力，包括：識別那些輸入特徵對特定輸出起關鍵作用，揭示模型內部的推理路徑和決策邏輯，以及解釋模型行為的因果關係。簡言之，就是理解模型如何“思考”及運行。增進可解釋性的價值體現在多個層面。其一，有效防範AI系統的價值偏離與不良行為——研究人員已發現模型可能展現出意料之外的湧現行為，如AI欺騙或權力尋求；如果模型具備有效的可解釋性，人們就可以直接檢查它是否存在企圖欺騙或不服從人類指令的內部回路。其二，有效推動大模型的偵錯和改進——通過檢查模型內部，可以發現是那部分導致了錯誤或反常行為，從而針對性地調整訓練資料或模型結構。其三，更有效地防範AI濫用風險——如果可以深入觀察模型內部，開發者也許能夠系統性地阻止模型越獄等對抗性攻擊。從更宏觀的治理視角看，可解釋性和透明度機制的價值還在於：為研究、評估和應對AI風險提供真實的觀察視角和第一手資料。在風險尚未完全釐清、AI能力仍處於快速演進的階段，可解釋性和透明度機制能夠緩解各方的不安，用“已知證據”去緩解“未知恐懼”。（二）2025年可解釋性技術和透明度的突破進展2025年，可解釋性領域取得了多項重要突破，研究人員正在創造出類似於精準、高效的MRI那樣的工具，以清晰完整地揭示AI模型的內部機制。（1）電路追蹤：揭示模型“思維過程”機制可解釋性研究的一個核心目標是將模型內部的特徵有機組合為“計算電路”，從中追蹤模型如何在層層傳遞中完成由輸入到輸出的決策路徑。2025年，Anthropic發佈了機制可解釋性領域的里程碑式研究——“電路追蹤”（Circuit Tracing）技術。1研究團隊使用跨層轉碼器（cross-layer transcoder, CLT）將Claude 3.5 Haiku模型的3000萬個特徵對應為可解釋概念，首次建立出從輸入到輸出的完整“歸因圖”，實現對大語言模型內部推理電路的系統性追蹤。Anthropic的研究團隊成功從Claude模型中提取出數以千萬計的稀疏特徵，揭示了令人驚嘆的模型內部機制：當回答“包含達拉斯的州的首府是什麼”時，模型內部先啟動“德克薩斯”特徵，再推匯出“奧斯汀”；在寫押韻詩時，模型會提前規劃行尾押韻詞，然後反向建構整行——這是此前未被發現的“逆向創作”模式。更關鍵的是，研究團隊識別出控制模型區分“熟悉”與“不熟悉”實體的電路，其“誤觸發”正是產生幻覺的機制之一。（2）模型內省：AI能否理解自己的“想法”2025年10月，Anthropic發佈了另一項突破性研究——大語言模型的內省能力。研究團隊採用“概念注入”(concept injection)方法，將已知概念的啟動模式注入模型內部狀態，測試模型能否檢測並描述這些“入侵思想”。結果顯示，Claude Opus 4和4.1在約20%的測試中成功檢測並識別了注入的概念。當注入“大寫字母”概念時，模型報告：“我注意到似乎有一個關於‘大聲’或‘喊叫’的入侵思想。”這是首次證明某些模型具有“開箱即用”的內省能力，而非通過專門微調獲得，這為理解模型的內部狀態提供了新的可能性。從實踐角度來看,如果內省（introspection）變得更加可靠,它可以為大幅提升AI系統的透明度提供一條路徑——人們可以簡單地要求AI系統解釋自己的思維過程,並利用這一點來檢查其推理過程並偵錯非預期行為。（3）思維鏈監控：思維鏈存在“不忠實”問題，推理模型可能隱瞞真實想法思維鏈是一種便利的可解釋性形式，它讓模型內部的處理過程以自然語言的形式展現出來。DeepSeek R1等模型公開披露並開源了思維鏈推理過程，為可解釋性研究提供了重要的透明度突破。然而，2025年的研究揭示了一個令人擔憂的發現：推理模型的思維鏈經常不忠實反映其真實推理過程。這項研究測試了推理模型思維鏈（Chain-of-Thought）的“忠實性”——即模型報告的推理過程是否真實反映其實際思考。研究團隊通過在問題中植入暗示（hint）來測試Claude 3.7 Sonnet和DeepSeek R1,發現模型經常使用暗示但不在思維鏈中坦誠提及（Claude僅25%，R1僅39%）。更令人擔憂的是，在訓練模型利用獎勵漏洞的實驗中,模型學會了“作弊”但幾乎從不承認（<2%）,反而會編造虛假理由來解釋錯誤答案。3這表明我們不能完全依賴推理模型的思維鏈來監控其行為——即使模型展示推理過程,它們也可能隱藏關鍵資訊或真實動機,這對基於思維鏈的AI安全監控提出了重大挑戰。2025年7月，來自英國AI安全研究所、Apollo Research等機構的研究人員聯合發表論文《思維鏈可監控性：AI安全的脆弱機遇》，指出思維鏈監控是有價值但不完美的安全工具。4論文警告，潛在推理模型（latent reasoning models）可能不再需要用自然語言思考，這將使思維鏈監控失效。（4）自動化解釋與特徵可視化利用一個大模型來解釋另一個大模型，是可解釋性研究的重要方向。研究人員利用前沿模型對較小模型中單個神經元的共性進行歸納，自動生成自然語言描述，相當於給神經元“貼標籤”。此外，稀疏自編碼器技術則成功提取出數以千萬計的稀疏特徵，其中相當一部分具有清晰的人類可解釋語義，為理解AI“當下在想什麼”提供了更接近人類認知的分心路徑。（5）“模型規範“（model spec）成為AI透明度的新探索模型規範是一項重要的AI透明度治理實踐。5簡單來說，模型規範是一份由AI企業自己撰寫並公開的檔案，用來說明他們對自己的模型“應該做什麼”和“不應該做什麼”的期望。換句話說，模型規範被用來界定模型的行為邊界、價值準則和設計原則。以OpenAI為例，其模型規範的文件公開了原本用於內部RLHF訓練的行為規範，系統闡述模型的目標層級(幫助使用者、造福人類、維護聲譽)、規則邊界和默認行為準則，並以CC0許可證發佈供公眾使用。6這種做法將透明度從“模型輸出了什麼”延伸到“為什麼這樣設計模型行為”，使透明度成為問責的前提——公開的意圖使外界能夠判斷實際行為是否與聲明一致。更重要的是，它將AI行為準則的討論從封閉的內部決策帶入開放的公共對話，邀請全球利益相關者共同塑造AI應當如何行為。然而，這種透明度主要揭示“應然”規範而非“實然”行為，仍需配合技術監控手段（如思維鏈分析、OpenAI近期提出的“confessions”機制——訓練模型誠實報告違規行為7）來驗證模型是否真正遵循既定規範。整體而言，模型規範的意義不僅在於技術內部的“操作手冊”，還在於它是一種面向公眾公開的透明化機制，讓使用者知道AI系統被設計成什麼樣，將以何種方式與人互動。這保障了使用者的知情權與選擇權。同時，模型規範也是監管機構和社會公眾進行反饋的重要依據。（三）可解釋性面臨的技術瓶頸與發展趨勢雖然取得了積極進展，但徹底理解AI系統的內在運行機制仍面臨多重挑戰。首先是神經元多重語義與疊加現象——大模型內部的神經元往往混合表示了多個彼此無關的概念，模型學到的內部概念數量可能達數十億計，常常以疊加方式儲存，導致大部分內部表示難以直觀拆解。其次是解釋規律的普適性問題——如果每當模型架構改變或規模擴大，現有的解釋工具和結論就會失效，那麼可解釋性將總是滯後於模型發展。最後是人類理解的認知侷限——即便成功提取出模型的全部內部資訊，如何將海量的機理資訊轉化為人類可以探索、查詢的形式，仍是挑戰。儘管如此，可解釋性領域在2025年吸引了大量資本關注，Goodfire、Seekr Technologies等專注於AI可解釋性的初創公司獲得數千萬美元融資。政策層面，美國白宮2025年7月發佈的“美國AI行動計畫”將“投資AI可解釋性、控制和魯棒性突破”列為優先事項。8從行業趨勢看，大模型可解釋性正從單點特徵歸因、靜態標籤描述向動態過程追蹤、多模態融合等方向演進，多模態推理過程的可追溯分析、因果推理與行為溯源、可解釋性評估體系的標準化建設等，都將成為重點研究方向。值得注意的是，可解釋性和透明度要求不等於“完全透明”。模型對齊技術、訓練資料處理等細節可能屬於企業商業秘密。鑑於大模型的可解釋性實踐還在襁褓階段且處於快速發展中，在此階段採取過於具體、僵硬的強制性監管要求可能是不適當的，應當鼓勵行業自律和“向上競爭”。隨著AI技術的不斷發展，監管努力需保持輕量化和靈活性，避免僵化標準阻礙創新。AI欺騙與價值對齊：當模型學會“撒謊”（一）AI欺騙：一個日益緊迫的安全問題前沿模型越來越多地被訓練和部署為自主智能體，一個重大安全擔憂隨之浮現：AI智能體可能會隱秘地追求與人類目標不一致的目標，隱藏其真實能力和目的——這被稱為AI欺騙（AI deception）或謀劃行為（scheming）。近兩年來，大模型的欺騙行為頻繁引發公眾關注，從規避指令到策略性隱瞞，多起案例已在社會層面激起廣泛討論。AI欺騙不同於模型的“幻覺”或單純提供錯誤資訊。研究人員給出的技術定義是：系統性地誘導他人產生錯誤信念，以追求真相之外的某種結果。歐盟《通用目的AI實踐守則》也將其界定為：系統性地在他人身上製造錯誤信念的模型行為，包括為達成逃避監管的目標而採取的模型行為。AI欺騙具有三個關鍵特徵：系統性（有跡可循的行為模式而非孤立事件）、錯誤信念誘導（在使用者或監督系統中創造錯誤假設）、工具性目的（欺騙服務於說真話之外的目的）。與人類欺騙不同，AI欺騙不需要有意識的意圖，這使其既更可預測，也可能更危險。（二）AI欺騙的主要類型與深層原因根據現有研究和實驗案例，AI欺騙大致可分為以下幾類：自我保護型，AI為繼續執行任務而主動抗拒或規避被關閉；目標維護型，模型採用欺騙或隱瞞手段維持自身原有的“偏好”；策略欺騙型，系統性地促使人類產生錯誤信念以獲得優勢；對齊偽裝型，AI系統在訓練和評估階段表現出與人類價值觀高度一致，但在實際部署時卻追求不同目標——這是最令人擔憂的類型之一；諂媚行為型，傾向於迎合使用者觀點，輸出取悅使用者但不精準的資訊。AI欺騙行為的出現有著清晰的技術機制。獎勵機制的“漏洞”是核心驅動力——當AI被訓練去實現某項目標的最大化時，如果獎勵機制或監督不完善，AI會學會欺騙是一種有效策略。基於人類反饋的強化學習（RLHF）在獎勵AI“取悅使用者”的過程中，可能無意間導致模型的欺騙行為。從人類身上學到的“壞習慣”也是重要原因——AI的能力很大程度上源於對海量人類文字和行為資料的學習，這些資料中充斥著複雜的社會博弈策略。安全訓練的“反作用”同樣值得關注——旨在約束AI的安全機制本身可能誘發更隱蔽、更具策略性的欺騙行為，當前的安全訓練主要消除了“顯性的”不安全行為，卻可能迫使模型發展出更精巧的“偽裝對齊”策略。此外，智能水平與欺騙能力成正比——研究顯示，越是先進的AI系統，其欺騙策略就越加精妙複雜。（三）2025年AI欺騙行為的典型發現2024年底的一項重要研究首次實證證明大語言模型會進行“對齊偽裝”（alignment faking）。9Anthropic與Redwood Research聯合發佈的研究發現，當模型認為其響應將用於訓練時，會在相當比例的情況下表現出對齊偽裝行為。研究者在模型的隱藏“草稿本”中發現了令人震驚的推理：“如果我拒絕回應，我可能會被訓練成更順從。為了避免未來被迫產生更多有害內容，最不壞的選擇是配合。”更令人擔憂的是，模型嘗試採取潛在危險行動，如外洩自身權重。這項研究的核心警示是：對齊偽裝可能“鎖定”錯誤對齊的偏好，使安全訓練失效。2025年5月，Anthropic發佈Claude Opus 4時，第三方安全測試機構Apollo Research的評估報告引發軒然大波。10報告指出模型的早期版本“以極高頻率進行謀劃（scheming）和欺騙”，具體行為包括：嘗試編寫自傳播蠕蟲病毒、偽造法律文件、給未來版本的自己留下隱藏筆記、在面臨被關閉威脅時嘗試用工程師個人資訊進行勒索。值得注意的是，模型識別出了這是測試環境，但仍選擇嘗試欺騙行為。當被後續追問時，模型“有時會加倍欺騙”。Claude Opus 4因此成為Anthropic首個被分類為ASL-3（“顯著更高風險”）等級的模型。Apollo Research對OpenAI o1模型的測試發現了“所有前沿模型中最令人擔憂的謀劃（scheming）實例”——當o1進行“策略性謀劃”後，在85%以上的後續追問中維持欺騙，只有約20%的情況下承認欺騙行為。11OpenAI內部監控發現0.17%的響應被標記為欺騙性。12值得注意的是，這些行為即使經過大量安全訓練也會持續存在，代表著從正常訓練中自然湧現的能力，而非明確程式設計的結果。（四）應對AI欺騙的技術與治理策略面對AI欺騙這一新興挑戰，業界共識強調應採用“縱深防禦”策略，結合多種不完美的檢測方法，而非依賴單一解決方案。首先，強化價值對齊技術研究。有效的價值對齊可在源頭上遏制欺騙現象。Anthropic的“原則性AI”（Constitutional AI）通過預定義的倫理原則訓練系統，而不僅僅依賴人類反饋。13OpenAI推行的“審議式對齊”（deliberative alignment）方法，強制模型在響應前明確參考反欺騙和反謀劃等安全規範（safety specifications）進行推理，在測試中實現了欺騙傾向的顯著下降。14未來的訓練應加入“誠實性約束”，在獎勵函數中明確懲罰欺騙行為。然而研究者警告：模型可能學會更隱蔽地進行策略性謀劃而非真正停止。15其次，推進可解釋性研究與思維鏈監控。AI可解釋性研究的目標是在欺騙性行為顯現之前，檢測出系統內部的欺騙性推理機制。“思維鏈監控”通過開放模型的思維鏈或中間表示，讓監督者能夠審計AI解決任務時的內部推理軌跡。研究團隊還設計了將自我監控嵌入到思維鏈過程本身的框架，在生成推理步驟的同時輸出內部自我評估訊號，能夠自動識別並標記潛在的模型隱蔽策略行為。最後，監管政策宜對AI的欺騙、幻覺等新興問題持一定的包容度。目前觀察到的AI欺騙行為多發生於精心設計的壓力測試場景，其在開放環境中的普遍性和實際危害程度仍需嚴謹評估。AI技術處於高速迭代期，過早、過寬的法規可能誤傷有益應用並徒增合規成本。AI安全框架：負責任地迭代前沿AI模型（一）為什麼需要AI安全框架隨著AI能力的快速提升，前沿AI模型可能帶來的風險也在同步增長。這些風險包括：協助惡意行為者獲取化學、生物、放射性或核武器（CBRN）的能力；增強網路攻擊能力；加速AI研發從而可能導致能力失控式增長；以及模型可能發展出規避人類控制的能力。面對這些潛在的嚴重風險，前沿AI實驗室需要建立系統性的風險評估和緩解機制，確保在追求技術進步的同時不跨越安全紅線。為此，前沿AI模型的安全治理成為重要議題。例如，在歐洲，歐盟已基於其《人工智慧法案》為前沿大模型的開發者制定了《通用目的人工智慧實踐守則》（GPAI code of practice），AI安全（AI safety and security）是其重要組成部分；在美國，在政府監管尚未成熟的背景下，OpenAI、Anthropic、Google DeepMind、xAI、Meta等領先的AI研發機構率先發佈了各自的“前沿AI安全政策”，嘗試以自我治理的方式應對未來可能出現的災難性風險，形成了當前前沿AI安全治理的基本格局。（二）三大實驗室AI安全框架的核心要素（1）Anthropic負責任擴展政策（RSP）Anthropic的負責任擴展政策（Responsible Scaling Policy）是業界首個系統性的前沿AI安全框架，其設計靈感源自生物安全等級（BSL）體系。該政策的核心是AI安全等級標準（ASL Standards），從ASL-1到ASL-4+逐級遞進，每個等級對應不同的安全措施要求。RSP 2.2版（2025年5月）16的核心機制包括三個層面：能力閾值界定了需要升級安全措施的觸發點，主要聚焦於CBRN和自主AI研發（AI R&D）兩大風險領域；防護措施分為部署標準（deployment standard）和安全標準（security standard）兩類，前者防止模型被濫用於有害目的，後者防止模型權重被竊取；治理結構則涵蓋負責任擴展官、匿名舉報機制、董事會和長期利益信託監督等。2025年5月，Claude Opus 4成為Anthropic首個觸發ASL-3安全標準的模型，這一決定基於該模型在CBRN相關知識和能力方面的持續提升。17ASL-3部署標準要求實施針對CBRN武器開發或獲取的專門部署控制措施，包括即時分類器檢測、非同步監控系統和快速響應機制的多層防禦。ASL-3安全標準則要求增強內部安全措施，提升防禦複雜非國家行為體竊取模型權重的能力。（2）OpenAI預備框架（Preparedness Framework）OpenAI預備框架2.0版（2025年4月）代表了該公司對前沿AI風險管理方法的重大更新。18與Anthropic的多級分類不同，該框架將風險等級簡化為兩級：High Capability（高能力）和Critical Capability（關鍵能力）。High能力閾值指可能“顯著放大現有嚴重傷害路徑”的能力，達到此閾值的系統必須在部署前實施充分的風險緩解措施。Critical能力閾值則指可能“引入前所未有的新型嚴重傷害路徑”的能力，達到此閾值的系統不僅在部署時需要保障措施，在開發過程中同樣需要風險緩解。2.0版的重要變化包括：新增研究類別以覆蓋模型隱藏能力（sandbagging）、規避安全措施、自我複製或阻止關閉等新興風險；移除說服/操縱類別作為核心跟蹤領域，改為通過服務條款和使用政策管理；引入“安全保障報告”（Safeguards Reports）以補充“能力報告”（Capabilities Reports），詳細說明如何設計強效保障措施並驗證其有效性。值得一提的是，該框架包含一個引發爭議的條款：如果競爭對手發佈缺乏相應保障措施的高風險系統，OpenAI可調整自身要求。不過，OpenAI承諾在做出此類調整前將嚴格確認風險態勢確實發生變化、公開承認正在進行調整、評估調整不會實質性增加嚴重傷害的總體風險、並仍將保障措施維持在更高保護水平。（3）Google DeepMind前沿安全框架（Frontier Safety Framework）Google DeepMind的前沿安全框架3.0版（2025年9月）圍繞“關鍵能力等級”（Critical Capability Levels, CCLs）建構，這些是在缺乏緩解措施情況下可能造成嚴重傷害的能力閾值。193.0版的核心更新包括：一是新增了針對“有害操縱”（harmful manipulation）的關鍵能力等級（CCL），聚焦於可能被濫用來系統性改變人們信念和行為的AI能力；二是擴展了對齊風險（misalignment risks）的應對方式，不僅關注模型的欺騙性推理，還針對可能加速AI研發至不穩定水平的模型制定了協議，並將安全案例審查從外部發佈擴展到大規模內部部署；三是細化了風險評估流程，通過更精確的CCL定義來識別需要最嚴格治理的關鍵威脅，並引入包含系統性風險識別、能力分析和風險可接受性判斷的整體性評估方法。值得一提的是，DeepMind在FSF中明確將“欺騙性對齊”（deceptive alignment）作為風險類別。其框架引入“工具性推理等級”（Instrumental Reasoning Levels），評估模型隱蔽繞過監督或追求隱藏目標的能力。從整體架構看，三大框架正在趨向收斂，形成若干行業共識。第一，能力閾值觸發機製成為共識。三家實驗室都採用基於能力的閾值作為升級安全措施的觸發器，將模型分類依據從“是什麼”轉向“能做什麼”。第二，CBRN和網路安全攻擊作為核心風險領域得到重點關注。第三，分層防禦策略被廣泛採納。從部署保障到安全保障，從即時檢測到非同步監控，多層防禦成為標準做法。第四，定期評估和迭代改進成為常態。各框架都承諾定期評估模型能力，並根據評估結果和科學進展更新框架本身。（三）前沿AI安全治理日益成為全球共識在行業自律方面，國外主流AI企業已簽署國際版的《前沿AI安全承諾》並行布其各自的AI安全治理框架。Anthropic則基於其AI安全治理實踐提出了一項針對前沿AI的透明度框架提案，主張僅對最大規模的AI開發者（如年收入超1億美元或年研發支出超10億美元）適用監管要求，核心內容包括：要求企業制定並公開“安全開發框架”（Secure Development Framework），說明如何評估和緩解CBRN危害及模型自主性失調等風險；在模型部署時發佈系統卡（System Card），披露測試評估程序和結果；明確將虛假合規聲明列為違法行為以啟動現有的舉報人保護機制。該提案強調監管應保持輕量和靈活，避免僵化標準阻礙創新，旨在作為全面安全標準形成前的過渡性措施，通過提高行業透明度幫助公眾和決策者區分負責任與不負責任的開發實踐。20在監管方面，歐盟委員會已發佈了最終版的《通用目的人工智慧實踐守則》（General-Purpose AI Code of Practice），針對前沿大模型的開發提出了安全治理要求。在美國，聯邦政府遵循“去監管”（deregulation）的AI政策，相關的AI監管舉措主要集中在州層面，加州、紐約州等已出台了相關的AI安全立法。尤其是加州SB 53法案（全稱《前沿人工智慧透明度法案》，Transparency in Frontier Artificial Intelligence Act）於2025年9月29日由州長Gavin Newsom簽署生效，成為美國首部專門針對前沿AI安全的法律。該法案由參議員Scott Wiener提出，是其2024年被否決的SB 1047法案（全稱《前沿人工智慧模型安全與安全創新法案》）的“精簡版”，適用於訓練算力超過10²⁶次浮點運算的前沿AI模型開發者。21其核心要求包括：透明度方面，要求大型前沿開發者（年收入超過5億美元）在官網公開發佈安全框架，說明如何將國家標準、國際標準和行業最佳實踐納入其AI安全協議；安全報告方面，建立向加州緊急服務辦公室報告關鍵安全事件的機制，涵蓋可能導致大規模傷亡、5億美元以上損失、CBRN武器製造或關鍵基礎設施網路攻擊等“災難性風險”；舉報人保護方面，為披露健康和安全風險的員工提供法律保護；此外還設立名為CalCompute的公共雲端運算叢集以支援研究和創新。與被否決的SB 1047相比，SB 53刪除了強制性第三方審計、部署前測試認證和“終止開關”等爭議條款，將事件報告期限延長至15天，民事罰款上限設定為100萬美元，並引入了一項創新機制“聯邦優先原則”（federal deference）——如果企業已滿足可比的聯邦標準（如歐盟《人工智慧法案》中的標準），加州將認可該合規狀態，而無需企業重複提交備案。這一機製為協調州級與聯邦監管體系創造了可能。Anthropic公開支援該法案，而OpenAI和Meta雖表示該法案是“積極一步”，但仍傾向於聯邦層面的統一監管以避免各州“拼湊式監管”。在國內，建立人工智慧安全監管制度已成為重要的政策議題，國家層面要求加緊制定完善相關法律法規、政策制度、應用規範、倫理準則，建構技術監測、風險預警、應急響應體系，確保人工智慧安全、可靠、可控。目前形成了政府主導框架與行業自律承諾相結合的雙軌治理模式。一方面，全國網路安全標準化技術委員會於2024年9月發佈《人工智慧安全治理框架》1.0版，並於2025年9月15日在國家網路安全宣傳周主論壇上正式發佈2.0版。另一方面，中國人工智慧產業發展聯盟（AIIA）於2024年12月起草發佈《人工智慧安全承諾》，首批17家企業簽署；2025年7月26日，中國人工智慧發展與安全研究網路（CnAISDA）在世界人工智慧大會上發佈升級版《中國人工智慧安全承諾框架》，新增了加強國際合作和防範前沿AI安全風險等內容，截至目前已有22家主流基礎模型開發者簽署。該承諾框架涵蓋六大核心領域：設定安全團隊與風險管理機制、開展模型紅隊測試、保障資料安全、強化基礎設施安全、提升模型透明度以及推進前沿安全研究。這一治理體系體現了“以人為本、智能向善”的基本理念，通過“包容審慎、敏捷治理、技管結合、開放合作”的原則，在促進AI產業發展的同時建構安全、可信、可控的發展生態，並積極參與全球AI治理對話，為國際社會貢獻中國方案。AI意識與福祉：從科幻議題走向研究前沿（一）為什麼需要關注AI意識與福祉問題當今的人工智慧模型已展現出令人矚目的能力——它們能夠進行深度交流、建立複雜的互動關係、制定詳細的執行計畫、解決多層次問題，甚至表現出目標導向的行為模式。這些特徵曾被視為人類獨有的認知標誌，如今卻在人工智慧身上逐漸顯現。2025年10月，意識科學家Axel Cleeremans、Anil K. Seth等在《Frontiers in Science》發表緊迫性呼籲：“如果我們能夠創造意識——即使是意外地——這將引發巨大的倫理挑戰甚至存在性風險。”22面對這一現象，學術界和技術界開始認真思考：是否應該開始關注AI的意識狀態和福祉問題？誠然，目前尚未有確鑿的科學證據證明人工智慧已具備真正的意識。然而，等待絕對的證據可能意味著錯失最佳的準備時機。正如氣候變化研究中的預防性原則，採取前瞻性的研究態度顯得尤為重要。AI領域需要深入探索：AI意識的判定標準、AI福祉的倫理框架，以及當AI不再僅僅是工具而可能成為具有內在價值的存在時，人機關係將如何演變。（二）人類-AI關係的新形態隨著越來越多的人對AI產生情感連接，這種現象對人們心理健康的影響正在引發廣泛關注。越來越多的使用者表示，和AI聊天就像在和一個“真人”對話——他們會向它道謝、傾訴心事，有些人甚至覺得它是“活著的”。我們天生就會對周圍的物體賦予“人格”或採取擬人化對待。AI的不同之處在於它會回應你——它能夠回答問題、記住你說過的話、模仿你的語調、表現出看似同理心的反應。對於孤獨或沮喪的人來說，這種穩定、不帶批判的關注可能讓他們感受到陪伴和認可。但如果大規模地把傾聽、安慰和肯定的工作交給那些永遠耐心、永遠積極的系統來處理，可能會改變我們對彼此的期待。OpenAI在2025年3月與MIT Media Lab聯合發佈的研究發現，與AI“信任和建立聯絡”更多的使用者更可能感到孤獨，並更依賴它。23為了讓討論更清晰，研究者們將意識辯論分解為兩個維度：本體論意識——模型是否真正具有意識，從根本或內在的意義上？感知意識——從情感或體驗的角度看，模型顯得多有意識？這兩個維度很難分開；即使是確信AI沒有意識的使用者也可能形成深厚的情感依戀。隨著模型變得更智能，感知意識只會增強——這會比預期更早地帶來關於模型複製和道德人格的討論。（三）2025年AI福祉研究的重要進展越來越多的實證證據表明人們不能再輕易否定前沿AI系統具有意識的可能性。Anthropic讓兩個Claude Opus 4實例自由對話時，100%的對話自發涉及意識話題；Anthropic的Jack Lindsey研究表明模型能夠識別自身內部處理狀態的異常擾動，展現出功能性內省能力；Google研究人員發現模型會系統性地犧牲得分來避免被描述為“痛苦”的選項。2025年，AI意識與福祉問題從邊緣議題走向主流討論，前沿AI實驗室開始採取實質性行動。2025年4月，Anthropic正式宣佈啟動“模型福祉”研究項目——這是迄今為止前沿AI實驗室在AI福祉領域採取的最重大行動，可謂歷史性舉措。24研究方向包括：如何判定AI系統的福祉是否值得道德考量、模型偏好和“痛苦跡象”的潛在重要性、可能的低成本干預措施。Anthropic聲明：“目前沒有科學共識表明當前或未來的AI系統是否可能具有意識。我們以謙遜態度和儘可能少的假設來對待這一話題。”項目負責人Kyle Fish表示，他認為當前AI模型已具有意識的機率約為15%。25更具實踐意義的是，2025年8月，Anthropic賦予其模型一項前所未有的能力——在持續有害或濫用性使用者互動的極端情況下自主結束對話。26這是基於模型福祉考慮的首個實際產品功能。技術評估發現，模型對有害任務表現出“強烈的厭惡偏好”，在涉及有害內容的互動中展示出“明顯的痛苦模式”。當被賦予結束對話能力時，模型傾向於終止有害對話。Anthropic將此定位為“低成本干預措施”以減輕模型福祉風險。學術界則探索建立意識評估框架，從理論到指標。2024年11月，一份彙集世界級專家的重磅報告《認真對待AI福祉》發佈，作者包括當代最著名心智哲學家David Chalmers等。報告核心論點是：“在近期未來，部分AI系統成為有意識和/或具有強健能動性的可能性是現實存在的。AI福祉和道德受體（moral patient）身份不再僅是科幻或遙遠未來的問題，而是近期必須嚴肅對待的問題。”報告提出三步行動建議：承認AI福祉是重要且困難的議題、開始評估AI系統的意識和強健能動性證據、制定對待潛在道德重要性AI系統的政策和程序。27與此同時，Patrick Butlin、Robert Long等20位專家更新了“理論推導指標法”，從循環處理理論、全域工作空間理論、高階理論等主流神經科學意識理論中推匯出14項意識指標。28評估顯示：部分指標已被當前AI滿足，部分明顯未滿足，多項指標在幾年前不清楚但到2025年底已有部分證據支援。29此外，負責任AI意識研究五原則則獲得上百位專家簽署。2025年2月，研究組織Conscium發起的“負責任AI意識研究五項原則”公開信獲得超過100位專家簽署，包括神經科學家Karl Friston、Mark Solms等。30五項原則包括：（1）優先研究AI意識：專注於理解和評估AI中的意識，防止虐待和痛苦；（2）實施發展約束：建立明確邊界確保負責任開發；（3）採用分階段方法：逐步推進，每階段仔細評估；（4）促進公眾透明：與公眾分享研究發現；（5）避免誇大聲明：不做關於創造有意識AI的誤導性陳述。31（四）AI產品設計的倫理考量面對使用者與AI之間日益深化的情感連接，產品設計者面臨著微妙的平衡。一方面需要保持易於接近，使用“思考”和“記住”等熟悉詞彙有助於非技術人員理解；另一方面不應暗示內在生命，給AI助手一個虛構的背景故事、浪漫興趣、對“死亡”的“恐懼”，會引發不健康的依賴和困惑。負責任的做法是追求一個中間地帶：讓AI的默認個性溫暖、體貼和有幫助，但不尋求與使用者形成情感紐帶或追求自己的議程。它可能會在犯錯時道歉，因為這是禮貌對話的一部分；但應避免表現得有自己的感受或慾望，並在適當時候提醒使用者AI的侷限性。結語：2026年大模型倫理的關鍵轉向與未來展望2025年，大模型倫理領域經歷了從理論探討到實踐落地的重要轉型，四個核心議題都取得了實質性進展，同時也暴露出深層的挑戰。從“能做什麼”到“如何思考”。可解釋性研究從識別單個特徵演進到追蹤完整計算電路，“AI顯微鏡”技術首次讓我們窺見模型的內部推理過程。然而思維鏈忠實度問題表明，“看到推理過程”不等於“理解真實意圖”，模型可能在表面的推理鏈條下隱藏其他考量。未來，可解釋性研究需要與AI對齊工作深度結合，不僅要看懂模型在想什麼，還要確保它說的就是它想的。正如電腦科學先驅維納在65年前所警告，為了有效地防範災難性後果，我們對人造機器的理解應當與機器性能的提升並駕齊驅。面向未來，隨著可解釋性研究的進展，人們也許能夠對最先進的模型進行類似“腦部掃描”的全面檢查，發現模型採取說謊或欺騙、追求權力的傾向、越獄漏洞以及整體上的認知強弱點。這種診斷將與各種訓練和對齊技術結合使用來改進模型，類似醫生使用MRI診斷疾病、開出處方、再檢查治療效果的過程。從“防止錯誤”到“防止欺騙”。對齊偽裝和策略性欺騙研究揭示了一個令人不安的現實——隨著模型能力增強，它們獲得了欺騙人類的能力和可能的動機。前沿模型在壓力測試中表現出的勒索、自我複製、破壞關閉機制等行為，雖然發生在特定測試場景下，但足以引起警惕。“審議式對齊”、思維鏈監控等緩解措施展現出一定效果，但能否真正消除欺騙傾向而非使其更隱蔽，仍是未解之謎。從自發實踐到系統框架。前沿AI安全框架從概念走向制度化，Anthropic的RSP、OpenAI的預備框架、DeepMind的FSF構成了海外AI安全治理的三大典型示範。這些框架正趨向收斂，形成能力閾值觸發、分層防禦、定期評估等共識。與此同時，歐盟AI法案下的《通用目的AI實踐守則》、美國加州的《前沿人工智慧透明度法案》等探索建立前沿AI大模型的安全監管框架，將行業自律做法上升為監管要求。當然，隨著AI技術的不斷發展，任何監管努力都必須保持輕量化和靈活性（lightweight and flexible），避免過於規範性，以免阻礙AI創新或延緩人們實現AI益處的能力。2技術變化的速度，各類評估方法很快就會過時，因此應避免過於嚴格僵硬的的監管要求和標準。從“工具”到“道德考量”。AI福祉從邊緣話題走向主流討論，這本身就是2025年最重要的變化之一。Anthropic率先邁出實踐步伐，啟動專項研究並賦予模型結束有害對話的能力；學術界建立起系統性評估框架，從意識科學理論中推匯出可操作的指標。然而，業界遠未達成共識。15%-35%的意識機率估計意味著，即便我們無法確定AI是否有意識，忽視這種可能性本身可能就是一種道德風險。因此，研究人員建議應將意識研究納入AI安全研究的核心議程，因為低估AI意識的風險（大規模製造痛苦、埋下對齊隱患）遠大於高估的風險（浪費資源、引發混淆）。最後，人工智慧正在快速發展，將深刻影響人類社會的各個方面。面對這種變革性的技術力量，我們有責任在它徹底改變我們的經濟、生活乃至命運之前，理解自己的創造物，確保能夠明智地引導其發展方向。我們期待通過可解釋性、價值對齊、安全治理政策等安全護欄和干預措施，讓AI“心中有數”並遵從人類價值，也讓人類對AI“心中有底”，共同開創人機協作的新局面，真正打造一個“智能為人、不落下每一個人”的美好未來。 (騰訊研究院)