聯合國秘書長古特雷斯近日呼籲對人工智慧實施廣泛而全面的全球管控，因為那些專為民用設計、功能日益強大的AI晶片正逐漸進入戰場，而“殺人機器人”在那裡早已司空見慣。
他認為，任何未來的協議都必須“值得全球信賴”，並將安全——尤其是兒童的安全——放在首位，以保護他們免受數位技術製造的操縱和虐待。
首屆聯合國人工智慧治理全球對話暨“人工智慧造福人類”峰會日前於日內瓦召開。會上，聯合國秘書長古特雷斯強調，這些會議“必須為世界指明前進方向”，必須讓數十億無法接觸這項革命性技術的人們獲得更多機會。
古特雷斯在峰會上表示，儘管人工智慧“處於我們共同未來的中心”，但必須確保“機器可以提供資訊，但人類必須做出決定並承擔責任”，這呼應了他2017年在聯合國大會上首次提出的制定人工智慧規則的呼籲。
聯合國大會主席貝爾伯克也在發言中敦促採取集體行動，以應對人工智慧的“陰暗”一面，並指出據報導，99%的深度偽造內容具有性暗示，其中96%以婦女和女童為目標。
人工智慧監管時間線
2017年
在首次呼籲對人工智慧進行管控時，聯合國秘書長古特雷斯盛讚這項革命性技術具有“驚人的”潛力。但他同時也向聯合國大會警告，人工智慧可能對就業、全球安全以及“社會結構本身”產生巨大影響。
2023年
聯合國秘書長人工智慧高等級諮詢機構呼籲對這項自學技術實施全球治理。
2024年
《未來契約》和《全球數字契約》為人工智慧治理模式提供了授權。
2026年6月
聯合國人工智慧獨立國際科學小組警告稱，人工智慧“可能自行或因惡意使用者而造成災難性危害”，同時該技術“發展速度已超過科學界的理解能力以及各國政府的適應能力”。
2026年7月6日至7日
首屆聯合國人工智慧治理全球對話暨“人工智慧造福人類”峰會於日內瓦召開。古特雷斯強調，這些會議“必須為世界指明前進方向”。
此次峰會匯聚了企業、研究人員、技術專家、民間社會代表，共同探討如何將人類置於這項變革性技術的核心位置。第二次對話會定於2027年5月在紐約舉行。
人工智慧兒童安全承諾
聯合國秘書長古特雷斯在峰會上向代表們表示，如果得到妥善利用並廣泛共享，人工智慧“可以將數十年的發展壓縮為數年”，並成為“21世紀的偉大平衡器”。但在實現這一目標之前，應徹底測試該技術的安全性，並明確法律責任歸屬。
他說：“當各國就如何測試系統、評估風險和劃分責任達成一致時，安全就會伴隨技術而行。若未能達成共識，相互衝突的規則將導致成本上升、世界分裂——且無法保護任何人。”
古特雷斯表示，兒童的安全與福祉應成為任何未來治理協議的優先事項，並呼籲各國通過《人工智慧兒童安全承諾》。他說：“任何兒童都不應成為不受監管的人工智慧的‘實驗品’……在證實安全之前，我們絕不會讓兒童使用藥物。我們對每件玩具都進行測試；然而，在任何人詢問人工智慧會對孩子們產生什麼影響之前，它就已經滲透到我們的孩子身上——影響著他們的學習、友誼以及最私密的問題。”
根據聯合國《兒童安全承諾》，人工智慧開發者需證明：
- 該技術是安全的——任何公司都不得在未進行針對兒童的安全測試和獨立監督的情況下，部署可供兒童訪問的人工智慧系統；
- 對性虐待零容忍——任何公司都不應允許其人工智慧生成兒童色情圖像；每家公司都必須檢測、報告並刪除此類內容；
聯合國秘書長古特雷斯表示，當兒童表現出痛苦跡象時，系統必須停止運行，並將其轉介給真人提供支援。當兒童受到傷害時，絕不能以“是演算法干的”作為藉口。
人權是首要原則
作為人工智慧監管的第二優先事項，聯合國秘書長古特雷斯強調，人權不容妥協。
他說：“人工智慧絕不能剝奪人的尊嚴或加劇歧視。在司法、醫療保健、執法等每一項高風險決策中，機器可以提供資訊，但必須由人類做出決定——並承擔責任。”
縮小數字鴻溝
聯合國秘書長古特雷斯強調，全球人工智慧制衡機制的其他優先事項應包括確保開發中國家能夠穩定獲取自學技術，同時所有人工智慧資料中心應在2030年前全部採用可再生能源供電。
在呼籲加大對人工智慧的公共投資時，古特雷斯指出，私營部門對人工智慧基礎設施的資金投入約為500兆美元，相比之下，開發中國家在人工智慧能力建設方面的公共支援仍“微不足道”。
為幫助彌合這一差距，古特雷斯宣佈，已有20多個國家支援他發起的、由聯合國支援的“人工智慧能力建設交流與合作全球網路”倡議。
他說：“我們絕不能讓數字鴻溝固化為人工智慧鴻溝，更不能讓人工智慧鴻溝演變為發展差距、安全差距和主權差距。”
加強透明度
聯合國秘書長古特雷斯重申了他加強透明度的呼籲，要求每家主要人工智慧公司衡量並公開披露其系統的全部生態足跡——包括碳、水和土地——並承諾到2030年，所有資料中心均使用可再生能源供電。
他強調：“人工智慧可能讓人感覺無形——但其生態足跡卻是切實存在的。”他指出，資料中心的耗電量超過大多數國家的用電總和。
他說：“到2030年，這些資料中心的用電量可能僅次於全球前五個國家，而其耗水量足以滿足撒哈拉以南非洲13億人口全年的用水需求。”
首份全球人工智慧報告
聯合國人工智慧獨立國際科學小組於7月1日發佈首份全球人工智慧報告，並提交給於7月6日至7日在日內瓦召開的人工智慧治理全球對話。
《人工智慧獨立國際科學小組初步報告：基於證據的人工智慧機遇、風險與影響評估》由首個致力於評估人工智慧對經濟和社會實際影響的全球性、完全獨立的科學機構撰寫。該科學小組由來自全球各個地區的四十名專家組成，他們均以個人身份任職。
聯合國秘書長古特雷斯在報告發佈會上表示:“科學依據已然呈現，我們再也不能說自己不知情。接下來如何利用這些成果，取決於我們所有人。”
報告指出，理解和管理人工智慧風險至關重要，專家組主席雷薩補充道，對社會、安全及人類物種的風險已經“過高”。
她警告說：“這項技術具有變革性，但如果世界繼續沿著這一軌跡發展，人類將無法實現它所承諾的收益。” 以下是專家小組提出的一些警告：
- 沒有科學依據能保證AI代理系統不會違反指令，且已有越來越多證據表明此類情況正在發生
- AI代理系統很快將能完成目前需要人類程式設計師花費數天或數周才能完成的任務，但其部署給勞動力市場、網路安全以及未來AI系統的可控性帶來了緊迫的問題
- 阿諛奉承的AI行為——即無論精準與否，其響應都會強化使用者現有的信念——已被證實與多起嚴重的心理健康事件有關，包括有記錄的死亡案例
- 已有記錄顯示，犯罪分子和惡意行為者利用人工智慧系統協助實施網路攻擊
- 先進的技術能力可能使缺乏經驗的私營主體能夠利用人工智慧在欺詐和虛假資訊等廣泛應用領域進行惡意活動
- 目前缺乏可靠的方法來維持對高度自主人工智慧系統的控制
- 其中許多危害對本已處於弱勢的群體造成了不成比例的影響。
聯合國秘書長古特雷斯指出，在缺乏共同規則的情況下，人工智慧發展得越快，各國政府和民眾對結果的發言權就越小，並補充道：“我給各國政府的資訊很簡單：不要等待。”
(聯合國)