ChatGPT 成人模式要來了,但身為成年人我一點都不高興

不孤獨了還是更孤獨了?

本周早些時候,OpenAI 的CEO 山姆·奧特曼宣佈,ChatGPT 將在12 月推出“成人模式”。

奧特曼長篇大論地解釋了一通,大意是說,ChatGPT 一開始設定那麼多限制,主要是擔心心理健康問題,怕出事,結果搞得普通使用者覺得體驗拉胯、不夠有趣。

現在OpenAI 號稱已經掌握了新的安全工具,能夠減輕與心理健康相關的主要風險,所以準備放開手腳了。到了12 月,經過驗證的成年用戶可以解鎖更多內容,包括情色類內容。

沒錯,就是你想的那個意思。

一句話概括,OpenAI 聲稱是時候把成年人當成成年人了。不過,身為一個成年人,我卻一點都高興不起來。

另外,依照奧特曼的說法,接下來幾周OpenAI 還會推出更有人情味的ChatGPT 新版本,類似大家之前喜歡的4o 那種感覺。

你想讓它回覆更溫暖點?沒問題。喜歡它狂發emoji?也行。甚至希望它像朋友一樣跟你聊天?統統都可以。

在與網友的問答中,奧特曼也回應了更多細節。

其實ChatGPT 這事早有徵兆。

去年底奧特曼就透露過支援成人模式的計劃,當時有網友建議移除模型的大部分護欄,奧特曼當場表態:「肯定需要某種『成人模式』。」

在當時OpenAI 面向用戶徵集的新功能投票裡,這事一度高居榜首,和AGI、Agent、升級版GPT-4 等一起被列入2025 年產品計劃,足見其受重視程度。

而按照OpenAI 官方部落格,目前年齡驗證功能足夠自動識別未成年用戶並切換到青少年安全模式,攔截露骨色情內容;如果無法確定年齡則默認視為未成年,只有提供年齡證明後才能解鎖成人功能。

聽起來很周全對吧?但細看下來,事情可沒那麼簡單。

首先是年齡驗證的技術漏洞。

即便OpenAI 未來採用身份證件或付款資訊核驗等方式,規避手段仍層出不窮。未成年人使用父母證件驗證、透過成年人代為註冊帳號,這類操作在網路產品中早已屢見不鮮。

更關鍵的是,OpenAI 聲稱開發了新工具來檢測使用者心理狀態,但AI 是否真能精確判斷一個人的心理健康程度?

要知道,最近幾年裡,涉及ChatGPT 的悲劇事件屢有發生,OpenAI 所宣稱的「安全閥」是否真能起到應有的保障作用,仍然令人質疑。

有一說一,OpenAI 甚至不是第一個宣佈支援「成人模式」的有影響力的AI 產品,某種程度上還算是保守派。馬斯克旗下的AI 聊天機器人Grok 才是真是無所顧忌。

今年7 月馬斯克更是為Grok 加入了3D 虛擬伴侶角色功能。

付費訂閱“SuperGrok”用戶(月費30 美元)可以啟用兩款3D 伴侶:一位是動漫風的金發雙馬尾少女“Ani”,另一個是卡通紅熊貓“Bad Rudy”。

其中Ani 有著精緻的二次元形象,酷似動漫角色彌海砂。 Ani 支援文字、語音和相機多模態互動,能根據對話內容做出豐富表情和動作,甚至可聽令跳舞。

此外,Ani 還內建了好感度機制和記憶模式。用戶與其互動能提升虛擬好感度,達到一定等級即可解鎖NSFW(成人)模式。

當時有網友評價:「簡直就是高級Galgame(戀愛遊戲)。」這也讓Ani 上線一天就收穫大量自發性創作內容,迅速在社群媒體出圈。

只是,Grok 也好,ChatGPT 也罷,這些功能表面上打著「尊重成年使用者自由」的旗號,但問題在於當年齡驗證機制一旦存在漏洞時,開放成人內容實際上是在降低未成年人接觸不當內容的門檻。

如果所謂的成年人權利實際上是在拿未成年人的心理健康和成長環境做賭注,賭青少年不會鑽空子,那麼更嚴格的限製或許更為穩妥。

而更直白地說,這些功能的商業邏輯依然是爭奪使用者流量和提升付費轉換率。

說穿了,AI 產品的黏度普遍不高。

大多數使用者都是秉持著那個好用那個的原則,而且專業使用者(科學研究、程式設計等場景)願意付費的人數有限,那怎麼辦?他們選擇用更拿捏人性的方式讓你留下(或成癮)。

那就是往「慾望」那邊靠。開放成人向功能,一方面能吸引大量新使用者嘗鮮,滿足被過濾掉的需求;另一方面,付費意願也會大幅提升。

而更進一步的,其實是情感陪伴這塊大蛋糕。

目前AI 陪伴類產品的核心使用者多為年輕網民和特定圈層人群(如二次元愛好者、社恐人群等),但這一版圖正持續擴張。年輕人對數字伴侶的接受度最高,不少年輕使用者已將AI 視為日常數字生活的一部分,不僅用於搜尋問答,也願意傾訴情感。

投資機構ARK Invest 甚至預測,「AI + 情感陪伴」全球市場規模將從每年3,000 萬美元飆升至700 億~1,500 億美元,年平均成長率超過200%。

但問題是,心理學研究早已證實,人類容易對展現共感的對象產生依戀──就算明知對方才是程序。這也意味著AI 存在被情感操控的風險。

目前看,各國監管正在行動。

歐盟的AI 法案提及高風險AI 需防止對兒童不利;中國的《生成式人工智慧服務管理辦法》也強調提供服務應符合未成年保護法等等。

OpenAI 前陣子也主動推出了「青少年模式」:家長可透過信箱將自己帳戶與13 歲以上孩子帳戶關聯,甚至設定宵禁時段。當系統檢測到青少年有嚴重情緒困擾時,也會給家長發送提醒。

也許十年後,擁有一個AI 伴侶會像今天養寵物一樣稀鬆平常。

但那些被AI「完美關係」餵養大的一代人,還能不能理解真實人際關係?當你習慣了一個永遠不會拒絕你、永遠理解你、永遠順著你的AI,你還有勇氣面對一個會跟你吵架、會讓你失望、需要你付出的真人嗎?

Act like a friend──或許是最誘人也最致命的謊言。它學習你的語言習慣、迎合你的價值觀、滿足你的慾望,然後把這一切包裝成懂你的樣子反射回來。

這是最好的時代,因為沒有人再孤獨。這是最壞的時代,因為所有人都在孤獨。 12 月的ChatGPT 或許只是個開始。 (愛範兒)


我看不太懂作者想表達什麼? 你已經基於這件事就是壞的下去解讀AI 你說你高興不起來? 質疑AI是否能精準確判一個人的心理健康程度? 請問心理醫生做的到嗎? 那怕一個專業醫生都不敢說自己肯定能救下心理有問題的人 肯定能醫好憂鬱症之類的 那人都做不到的事你AI做到? 那請問AI要向誰學習才能做到? 再來 你說OPEN的安全閥是否能起到作用 令人質疑? 大哥 OPEN是科技公司 是研發AI的 他不是醫院 不是慈善機構 裡面的人是工程師 不是心理醫生 這些東西不應該是家長 是人類本身 自己要學會分清的嗎? AI只是提供你知識內容 讓你去吸收 如果一個人白癡到人家講什麼他就信什麼的話 那他被淘汰也很正常 然後你說GPT和GROK都是表面打著尊重成年使用者的自由 根據是拿未成年的心理健康和成長環境做賭注 我想問 現在網路這麼發達 手機 電腦 要上色情網站 你只要點一個我滿18歲了 就能進去 沒有驗證要你上傳身份證 沒有其他任何保護措施 那為什麼你不說這些? 你只是不了解不清楚不明白AI 所以你恐懼 你要為了反對而反對 人類對未知的事物會感到害怕我能理解 但你是不是要先整理好一下你的邏輯? 如果小孩拿父母證件去登入 請問是open的問題? 還是父母的問題? 還是小孩本身的問題? 如果 因為這東西有可能造成傷害 你要針對制造者 那你要不要先去反對所有制造槍枝的公司? 讓小孩拿到槍械 在學校亂殺人 這些新聞 為什麼沒見有人是在針對工具出處的地方在做檢討的? 因為那根本本末倒置 最後你提到 被"完美關係"餵養的人 還能不能理解真實的關係? 你會想像以前一樣 登門拜訪 走10幾里路? 寫信給親友? 你現在周遭的鄰居你都認識? 一棟大樓裡幾百戶 你都會登門拜訪交朋友? 還是只在網路上 用手機交朋友? 如果沒手機 你就會登門拜訪嗎? 這是兩碼子事吧..? 會交的就是會踏出去 不會踏出去的那怕在隔壁而已 你都不會出門的