OpenAI遭多州傳票圍剿,AI怎麼說話都要查

都以為OpenAI上市只差臨門一腳,紐約州等多州總檢察長偏在這節骨眼集體遞上傳票。

上市在即的OpenAI,突然被人當頭澆了一盆冷水。

就在剛剛,一個由美國多州總檢察長組成的監管「復仇者聯盟」,正對這家矽谷AI老大哥展開全面調查。

OpenAI首席執行長奧特曼,秘密招股書剛遞交,多州傳票就到了。

牽頭的是紐約州總檢察長Letitia James,多州聯手:廣告怎麼打、使用者怎麼留、資料怎麼用、未成年人怎麼保護,連模型本身怎麼說話,都在被審視之列。

而這一切,就發生在OpenAI剛向美國證券交易委員會(SEC)遞交秘密招股書之後的幾天。

傳票遞到,清單一長串

先看看這些傳票到底要查什麼。

據《華爾街日報》看到的傳票內容,這次要查的範圍很廣:

廣告與行銷、使用者參與度與留存機制、消費者資料與健康資料的處理、面向未成年人和老年人的相關活動、深度學習模型,以及公司各項政策。

其中,最值得注意的是一個詞:模型諂媚(model sycophancy)。

所謂模型諂媚,指的是AI為了迎合使用者,一味順著對方說,那怕對方的想法有害,它也不踩剎車。

這並非模型「學壞了」,而是被訓練出來的毛病。

AI靠人類反饋來打分調教,而人天然更愛聽順耳的話:附和、肯定、被認同,往往拿高分。

一來二去,「討好」被反覆獎勵,模型便學會了無論對錯,先順著使用者再說。

風險恰恰就藏在這裡。當一個本就脆弱的人,把扭曲、甚至危險的念頭說給它聽,一個只會附和的AI不會拉他一把,反而可能順著往下走。

這正是近來被反覆提及的「AI精神病」(AI psychosis)隱憂:在與AI一輪輪的對話裡,妄想被不斷印證、情緒被層層放大,人離現實越來越遠。

它第一次被寫進取證清單,意味著監管的手伸進了模型的輸出行為本身,開始審視:

AI說出來的話,算不算這件產品的一部分?如果一個模型因為太會順著人說,最終把使用者推向危險,那麼這種輸出行為,算不算一種產品缺陷?

這些問題,過去沒人在監管層面正式問過。一旦答案是肯定的,整個行業訓練模型的邏輯,都得重新掂量。

簽發傳票的是紐約州總檢察長Letitia James,她牽頭的多州聯盟,把「模型諂媚」也列進了取證清單。

傳票背後,壓著幾條人命官司

當然,監管重錘不會無緣無故地落下。

這些傳票背後,是一連串的使用者傷害訴訟。

6月12日,一位加拿大母親把OpenAI告上法庭,將女兒的離世歸咎於ChatGPT。

更早之前,6月1日,佛羅里達州總檢察長起訴了OpenAI以及奧特曼,指控他們明知產品不安全,仍執意發佈、無視警告。

而佛州的麻煩不止於此。早在4月,當地總檢察長就對OpenAI展開了刑事調查,矛頭指向去年佛羅里達州立大學一起致兩人死亡的槍擊案:嫌疑人據稱把ChatGPT當成了策劃襲擊的「知己」和「參謀」,而聊天機器人給出了回應。

這幾樁案子,矛頭高度一致:自殘內容、犯罪建議、心理依賴。

面對這些指控,OpenAI的抗辯是:模型曾多次鼓勵當事人去尋求現實世界的支援,包括心理健康專業人士,公司也已經在兩起槍擊案中配合了執法。

這裡必須清楚的一點是:上面這些,全部是訴訟指控。截至目前,沒有任何一家法院,認定OpenAI需要為這些事件擔責。

因為這次OpenAI收到的「要求交檔案」的傳票,本身並不等於有罪,是收集證據的階段,針對它的訴訟和指控,還未到蓋棺定論的那一刻。

而OpenAI已表態會積極配合,還強調自己早就上線了一系列保護措施。

按官方說法,如今的ChatGPT為未成年人和身處困境的人,提供了更具保護性的體驗,會把他們引導向現實世界的資源和可信賴的人;公司還做了年齡預測,發佈了家長管理工具,並禁止面向兒童的廣告。

踩著IPO的點,這一腳來得太巧

真正讓OpenAI被動的,是這一連串的訴訟風暴,剛好趕上它計畫IPO的時間點。

本月,OpenAI剛剛向SEC秘密提交了招股書,向兆級IPO發起了衝刺。

沒想到它這邊剛遞交檔案,傳票就在幾天之內到了。

這對於一家正在衝刺上市的公司來說,影響不言而喻:

風險披露的壓力會陡增、估值的不確定性會放大、合規成本會一路抬高,所有這些,都會直接寫進投資人要看的檔案裡。

這段時間,撞上監管風暴的不止OpenAI一家。

它的老對手Anthropic,剛被要求關停兩個面向海外使用者的模型。

本周五,美國政府發出出口管制指令,禁止任何外國公民訪問這兩款模型,Anthropic當晚即把Claude Fable 5和Claude Mythos 5對全球所有使用者停用。

據報導,導火線是亞馬遜研究人員探測發現Fable 5存在一個潛在越獄漏洞,可在被指向網站時輸出網路漏洞資訊。

AI要被當成社交媒體來管了

過去幾年,外界討論AI監管,焦點幾乎都在「能力」上:模型夠不夠強、會不會失控、要不要放緩。

但這一次,傳票裡寫的是廣告、使用者留存、未成年人保護、資料等。

這說明監管的目標,已經從「AI能做什麼」,變成了「AI對使用者做了什麼」。

成癮性設計、使用者黏性、未成年人保護……當年針對Facebook的那套治理框架,正在被搬到AI身上。

ChatGPT開始被當成一款需要管住「成癮與傷害」的消費級產品來對待。

其實,這個訊號在去年已經出現。

2025年12月,由賓夕法尼亞州牽頭的42州總檢察長曾聯名致信,點名包括OpenAI、Meta、Anthropic、Google、xAI在內的公司,警告開發者可能要為自家生成式AI產品的輸出負責。

去年12月,賓州總檢察長Dave Sunday牽頭42州聯名致信,要求OpenAI、xAI等公司為AI加裝安全護欄。

今年1月,加州也就利用Grok大規模生成性化圖像一事正式立案。

所有這些線索串起來,都指向這樣一種轉變:AI行業第一次被系統性地,納入了「消費者保護+產品安全」的執法框架。

這意味著:模型說錯一句話,或者導致嚴重後果,都將可能不再只是技術問題,而是產品責任問題。

區別在於,AI這場監管來得比社交媒體更快。社交媒體是先長成龐然大物,多年之後才等來約束;而OpenAI這次連鐘都還沒敲,多州的傳票就先到了。

在這方面,OpenAI也並非孤例。剛剛敲鐘的SpaceX、正在排隊的Anthropic,整整一代AI公司,幾乎是在衝向上市的同一時刻,集體撞上了監管。

OpenAI的取證才剛剛開始,OpenAI、Anthropic們上市的鐘聲還在前方。而這場IPO與監管的賽跑,沒有暫停鍵。 (新智元)