•
中國五部門印發《國家新一代人工智慧標準體系建設指南》通知（國標委聯〔2020〕35號）
為深入貫徹《新一代人工智慧發展規劃》，細化落實《新一代人工智慧治理原則》，增強全社會的人工智慧倫理意識與行為自覺，積極引導負責任的人工智慧研發與應用活動，促進人工智慧健康發展，國家新一代人工智慧治理專業委員會於2021年9月25日印發了《新一代人工智慧倫理規範》。該《規範》的劃時代意義在於：將倫理從道德倡議升級為技術剛性約束，通過「制度設計+技術工具」雙輪驅動，確保AI發展不偏離「人類中心主義」軌道。
1. 制定背景與戰略目標
01. 政策背景
2017年國務院印發《新一代人工智慧發展規劃》，首次明確提出「2025年初步建立人工智慧法律法規、倫理規範與政策體系」。 2021年《倫理規範》的發布，是對該目標的直接落實，標誌著我國AI治理從「技術追趕」轉向「規則引領」。
- 技術失控風險：深度偽造、演算法歧視等引發社會信任危機（如人臉辨識濫用侵害隱私權案例激增）；
- 產業野蠻成長：部分企業“重性能輕倫理”，數據壟斷、偏見放大等問題凸顯；
- 國際競爭加劇：歐盟《人工智慧法》、美國AI權利法案等倒逼中國建構自主治理體系。
02. 戰略目標
短期目標（2025）：
✅ 建立覆蓋管理、研發、供應、使用的全鏈條倫理架構；
✅ 重點解決隱私洩露、演算法偏見、責任歸屬不清等高頻問題（如強制AI產品功能透明標識）。
長期願景（2030）：
🌐 形成「人機協同共生」的科技倫理生態，主導全球AI治理規則制定。
2. 核心內容與創新突破
01. 首創「6+18」雙層治理架構
02. 四大場景化創新機制
- 管理面：提出「敏捷治理」模式，要求動態調整政策（如每2年評估規範適用性）；
- 研發側：強制資料品質管控（完整性>95%）與偏見審查（演算法公平性測試）；
- 供應側：首創“應急補償機制”，企業需預存風險賠償金；
- 使用者側：賦予「三權一退」權利（知情權/退出權/中止權+無障礙使用）
03. 技術倫理融合突破
- 道德嵌入式AI：要求系統內置倫理衝突解決協議；
- 全鏈路追溯：透過區塊鏈實現演算法決策可驗證、可審計、可追責。
3. 實施路徑與影響預判
01. 實施路徑
產業細化準則制定
授權各機構制定具體規範（第二十四條） ，如金融領域已推出演算法安全標準 ，教育領域探索「教學AI倫理十二條」。
立法轉化加速
2025年國務院立法計劃明確提出「推進人工智慧健康發展立法」 ，倫理規範將成為《人工智慧法》的基石。
02. 影響預判
企業合規成本重構
- 資料標註：需制定合規標註規則並核驗品質（對比《生成式AI管理辦法》第八條）；
- 演算法備案：輿論類AI需安全評估（參考第十七條）。
技術創新方向調整
- 可解釋AI（XAI）、隱私計算技術成為研發重點；
- 開源社區推動倫理設計工具普及。
《新一代人工智慧倫理規範》
新一代人工智慧倫理規範為深入貫徹《新一代人工智慧發展規劃》，細化落實《新一代人工智慧治理原則》，增強全社會的人工智慧倫理意識與行為自覺，積極引導負責任的人工智慧研發與應用活動，促進人工智慧健康發展，制定本規範。
第一章總則
第一條本規範旨在將倫理道德融入人工智慧全生命週期，促進公平、公正、和諧、安全，避免偏見、歧視、隱私和資訊洩露等問題。
第二條本規範適用於從事人工智慧管理、研發、供應、使用等相關活動的自然人、法人及其他相關機構等。 （一）管理活動主要指與與人工智慧相關的戰略規劃、政策法規與技術標準制定實施，資源組態以及監督審查等。 （二）研發活動主要指與人工智慧相關的科學研究、技術開發、產品開發等。 （三）供應活動主要指人工智慧產品與服務相關的生產、營運、銷售等。 （四）使用活動主要指人工智慧產品與服務相關的採購、消費、操作等。
第三條人工智慧各類活動應遵循以下基本倫理規範。 （一）增進人類福祉。堅持以人為本，遵循人類共同價值觀，尊重人權和人類根本利益訴求，遵守國家或地區倫理道德。堅持公共利益優先，促進人機和諧友好，改善民生，增強獲得感幸福感，推動經濟、社會及生態可持續發展，共建人類命運共同體。 （二）促進公平公正。堅持普惠性和包容性，切實保護各相關主體合法權益，推動全社會公平共享人工智慧帶來的益處，促進社會公平正義和機會均等。在提供人工智慧產品和服務時，應充分尊重和幫助弱勢群體、特殊群體，並根據需要提供相應替代方案。 （三）保護隱私安全。充分尊重個人資訊知情、同意等權利，依合法、正當、必要及誠信原則處理個人資訊，保障個人隱私與資料安全，不得損害個人合法資料權益，不得以竊取、竄改、洩露等方式非法收集利用個人資訊，不得侵害個人隱私權。 （四）確保可控可信。保障人類擁有充分自主決策權，有權選擇是否接受人工智慧提供的服務，有權隨時退出與人工智慧的互動，有權隨時中止人工智慧係統的運行，確保人工智慧始終處於人類控制之下。 （五）強化責任擔當。堅持人類是最終責任主體，明確利益相關者的責任，全面增強責任意識，在人工智慧全生命週期各環節自省自律，建立人工智慧問責機制，不迴避責任審查，不逃避應負責任。 （六）提升倫理素養。積極學習和普及人工智慧倫理知識，客觀認識倫理問題，不低估不誇大倫理風險。主動開展或參與人工智慧倫理問題討論，深入推動人工智慧倫理治理實踐，提升應對能力。
第四條人工智慧特定活動應遵守的倫理規範包括管理規範、研發規範、供應規範和使用規範。
第二章管理規範
第五條推動敏捷治理。尊重人工智慧發展規律，充分認識人工智慧的潛力和侷限，持續優化治理機制和方式，在戰略決策、制度建設、資源組態過程中，不脫離實際、不急功近利，有序推動人工智慧健康和可持續發展。
第六條積極實踐示範。遵守人工智慧相關法規、政策和標準，主動將人工智慧倫理道德融入管理全過程，率先成為人工智慧倫理治理的實踐者和推動者，及時總結推廣人工智慧治理經驗，積極響應社會對人工智慧的倫理關切。
第七條正確行權用權。明確人工智慧相關管理活動的職責和權力邊界，規範權力運作條件和程序。充分尊重並保障相關主體的隱私、自由、尊嚴、安全等權利及其他合法權益，禁止權力不當行使對自然人、法人和其他組織合法權益造成侵害。
第八條加強風險防範。增強底線思維和風險意識，加強人工智慧發展的潛在風險研判，及時開展系統的風險監測和評估，建立有效的風險預警機制，提升人工智慧倫理風險管控和處置能力。
第九條促進包容開放。充分重視人工智慧各利益相關主體的權益與訴求，鼓勵應用多樣化的人工智慧技術解決經濟社會發展實際問題，鼓勵跨學科、跨領域、跨地區、跨國界的交流與合作，推動形成具有廣泛共識的人工智慧治理框架和標準規範。
第三章研發規範
第十條強化自律意識。加強人工智慧研發相關活動的自我約束，主動將人工智慧倫理道德融入技術研發各環節，自覺開展自我審查，加強自我管理，不從事違背倫理道德的人工智慧研發。
第十一條提升數據質量。在資料收集、儲存、使用、加工、傳輸、提供、公開等環節，嚴格遵守資料相關法律、標準與規範，提升資料的完整性、及時性、一致性、規範性和精準性等。
第十二條增強安全透明。在演算法設計、實現、應用等環節，提升透明性、可解釋性、可理解性、可靠性、可控性，增強人工智慧係統的韌性、自適應性和抗干擾能力，逐步實現可驗證、可審計、可監督、可追溯、可預測、可信賴。
第十三條避免偏見歧視。在資料收集和演算法開發中，加強倫理審查，充分考慮差異化訴求，避免可能存在的數據與演算法偏見，並努力實現人工智慧係統的普惠性、公平性和非歧視性。
第四章供應規範
第十四條尊重市場規則。嚴格遵守市場進入、競爭、交易等活動的各種規章制度，積極維護市場秩序，營造有利於人工智慧發展的市場環境，不得以數據壟斷、平台壟斷等破壞市場有序競爭，禁止以任何手段侵犯其他主體的知識產權。
第十五條加強品質管控。強化人工智慧產品與服務的品質監測和使用評估，避免因設計和產品缺陷等問題導致的人身安全、財產安全、使用者隱私等侵害，不得經營、銷售或提供不符合品質標準的產品與服務。
第十六條保障使用者權益。在產品與服務中使用人工智慧技術應明確告知使用者，應標示人工智慧產品與服務的功能與侷限，保障用戶知情、同意等權利。為使用者選擇使用或退出人工智慧模式提供簡單易懂的解決方案，不得為使用者平等使用人工智慧設定障礙。
第十七條強化應急保障。研究制定應急機制和損失補償方案或措施，及時監測人工智慧係統，及時響應和處理用戶的反饋資訊，及時防範系統性故障，隨時準備協助相關主體依法依規對人工智慧係統進行幹預，減少損失，規避風險。
第五章使用規範
第十八條提倡善意使用。加強人工智慧產品與服務使用前的論證與評估，充分理解人工智慧產品與服務帶來的益處，並充分考慮各利益相關主體的合法權益，更能促進經濟繁榮、社會進步與永續發展。
第十九條避免誤用濫用。充分理解人工智慧產品與服務的適用範圍和負面影響，切實尊重相關主體不使用人工智慧產品或服務的權利，避免不當使用和濫用人工智慧產品與服務，避免非故意造成對他人合法權益的損害。
第二十條禁止違規惡用。禁止使用不符合法律法規、倫理道德和標準規範的人工智慧產品與服務，禁止使用人工智慧產品與服務從事不法活動，嚴禁危害國家安全、公共安全和生產安全，嚴禁損害社會公共利益等。
第二十一條及時主動反饋。積極參與人工智慧倫理治理實踐，對使用人工智慧產品與服務過程中發現的技術安全漏洞、政策法規真空、監管滯後等問題，應及時向相關主體回饋，並協助解決。
第二十二條提高使用能力。積極學習人工智慧相關知識，主動掌握人工智慧產品與服務的營運、維護、緊急處置等各使用環節所需技能，確保人工智慧產品與服務安全使用與高效利用。
第六章組織實施
第二十三條本規範由國家新一代人工智慧治理專業委員會發布，並負責解釋與指導實施。
第二十四條各級管理部門、企業、大學、科研院所、協會學會及其他相關機構可依本規範，結合實際需求，制定更具體的倫理規範和相關措施。
第二十五條本規範自公佈之日起施行，並根據經濟社會發展需求和人工智慧發展情況適時修訂。 （AI算力那些事兒）