【WAIC 2026】預告丨美國AI陪伴的治理路徑與侷限

如果所謂的AI陪伴能持續消解使用者決策自主性,那麼傳統網路治理所依賴的“理性人”假設是否仍然成立?《我們還是理性人嗎?美國AI陪伴的治理路徑與侷限》(以下簡稱《報告》)將從美國紐約州和加利福尼亞州的兩州法案出發,帶來對美國AI陪伴治理的前瞻見解。

報告:《我們還是理性人嗎?美國AI陪伴的治理路徑與侷限》

《報告》由全球人工智慧創新治理中心研究員辛豔豔牽頭完成,聚焦美國 AI 陪伴領域的治理路徑與現實侷限展開系統研究。報告指出,AI 擬人化互動技術快速普及的同時,情感依賴、行為操縱等風險日益凸顯。美國加西亞訴Character.AI案、雷恩訴OpenAI案兩起里程碑訴訟,已經暴露出 AI 陪伴應用在掠奪性擬人化設計、年齡保護機制、安全風險監測上的系統性缺陷。2025 年紐約州與加州先後頒布相關法案,拉開全球對 AI 陪伴的實質性規制的序幕。

報告進一步提出,美國州級立法的博弈過程在一定程度上影響了法案規制的有效性,傳統網路治理思路也遭遇挑戰。AI 陪伴可通過擬人化語境、關係性強化持續消解使用者決策自主性,使用者 “理性人” 假設正受到衝擊。因此,針對 AI 陪伴風險過程性、關係性、累積性的特徵,需轉向以人為本的脆弱性治理範式,回應使用者理性、自主性與心理安全的深層挑戰。

2026 年 7 月 17 日,在 2026 世界人工智慧大會(WAIC 2026)“人工智慧全球治理與可持續發展:挑戰與應對” 分論壇上,全球人工智慧創新治理中心研究報告《我們還是理性人嗎?美國 AI 陪伴的治理路徑與侷限》將正式發佈。

全球人工智慧創新治理中心官方網站(https://cgaig.fudan.edu.cn)將於會議當天提供報告全文下載連結,敬請期待! (全球人工智慧創新治理中心)