如果所謂的AI陪伴能持續消解使用者決策自主性,那麼傳統網路治理所依賴的“理性人”假設是否仍然成立?《我們還是理性人嗎?美國AI陪伴的治理路徑與侷限》(以下簡稱《報告》)將從美國紐約州和加利福尼亞州的兩州法案出發,帶來對美國AI陪伴治理的前瞻見解。
報告:《我們還是理性人嗎?美國AI陪伴的治理路徑與侷限》
《報告》由全球人工智慧創新治理中心研究員辛豔豔牽頭完成,聚焦美國 AI 陪伴領域的治理路徑與現實侷限展開系統研究。報告指出,AI 擬人化互動技術快速普及的同時,情感依賴、行為操縱等風險日益凸顯。美國加西亞訴Character.AI案、雷恩訴OpenAI案兩起里程碑訴訟,已經暴露出 AI 陪伴應用在掠奪性擬人化設計、年齡保護機制、安全風險監測上的系統性缺陷。2025 年紐約州與加州先後頒布相關法案,拉開全球對 AI 陪伴的實質性規制的序幕。
報告進一步提出,美國州級立法的博弈過程在一定程度上影響了法案規制的有效性,傳統網路治理思路也遭遇挑戰。AI 陪伴可通過擬人化語境、關係性強化持續消解使用者決策自主性,使用者 “理性人” 假設正受到衝擊。因此,針對 AI 陪伴風險過程性、關係性、累積性的特徵,需轉向以人為本的脆弱性治理範式,回應使用者理性、自主性與心理安全的深層挑戰。