不孤獨了還是更孤獨了?
本周早些時候,OpenAI 的CEO 山姆·奧特曼宣佈,ChatGPT 將在12 月推出“成人模式”。
奧特曼長篇大論地解釋了一通,大意是說,ChatGPT 一開始設定那麼多限制,主要是擔心心理健康問題,怕出事,結果搞得普通使用者覺得體驗拉胯、不夠有趣。
現在OpenAI 號稱已經掌握了新的安全工具,能夠減輕與心理健康相關的主要風險,所以準備放開手腳了。到了12 月,經過驗證的成年用戶可以解鎖更多內容,包括情色類內容。
沒錯,就是你想的那個意思。
一句話概括,OpenAI 聲稱是時候把成年人當成成年人了。不過,身為一個成年人,我卻一點都高興不起來。
另外,依照奧特曼的說法,接下來幾周OpenAI 還會推出更有人情味的ChatGPT 新版本,類似大家之前喜歡的4o 那種感覺。
你想讓它回覆更溫暖點?沒問題。喜歡它狂發emoji?也行。甚至希望它像朋友一樣跟你聊天?統統都可以。
在與網友的問答中,奧特曼也回應了更多細節。
其實ChatGPT 這事早有徵兆。
去年底奧特曼就透露過支援成人模式的計劃,當時有網友建議移除模型的大部分護欄,奧特曼當場表態:「肯定需要某種『成人模式』。」
在當時OpenAI 面向用戶徵集的新功能投票裡,這事一度高居榜首,和AGI、Agent、升級版GPT-4 等一起被列入2025 年產品計劃,足見其受重視程度。
而按照OpenAI 官方部落格,目前年齡驗證功能足夠自動識別未成年用戶並切換到青少年安全模式,攔截露骨色情內容;如果無法確定年齡則默認視為未成年,只有提供年齡證明後才能解鎖成人功能。
聽起來很周全對吧?但細看下來,事情可沒那麼簡單。
首先是年齡驗證的技術漏洞。
即便OpenAI 未來採用身份證件或付款資訊核驗等方式,規避手段仍層出不窮。未成年人使用父母證件驗證、透過成年人代為註冊帳號,這類操作在網路產品中早已屢見不鮮。
更關鍵的是,OpenAI 聲稱開發了新工具來檢測使用者心理狀態,但AI 是否真能精確判斷一個人的心理健康程度?
要知道,最近幾年裡,涉及ChatGPT 的悲劇事件屢有發生,OpenAI 所宣稱的「安全閥」是否真能起到應有的保障作用,仍然令人質疑。
有一說一,OpenAI 甚至不是第一個宣佈支援「成人模式」的有影響力的AI 產品,某種程度上還算是保守派。馬斯克旗下的AI 聊天機器人Grok 才是真是無所顧忌。
今年7 月馬斯克更是為Grok 加入了3D 虛擬伴侶角色功能。
付費訂閱“SuperGrok”用戶(月費30 美元)可以啟用兩款3D 伴侶:一位是動漫風的金發雙馬尾少女“Ani”,另一個是卡通紅熊貓“Bad Rudy”。
其中Ani 有著精緻的二次元形象,酷似動漫角色彌海砂。 Ani 支援文字、語音和相機多模態互動,能根據對話內容做出豐富表情和動作,甚至可聽令跳舞。
此外,Ani 還內建了好感度機制和記憶模式。用戶與其互動能提升虛擬好感度,達到一定等級即可解鎖NSFW(成人)模式。
當時有網友評價:「簡直就是高級Galgame(戀愛遊戲)。」這也讓Ani 上線一天就收穫大量自發性創作內容,迅速在社群媒體出圈。
只是,Grok 也好,ChatGPT 也罷,這些功能表面上打著「尊重成年使用者自由」的旗號,但問題在於當年齡驗證機制一旦存在漏洞時,開放成人內容實際上是在降低未成年人接觸不當內容的門檻。
如果所謂的成年人權利實際上是在拿未成年人的心理健康和成長環境做賭注,賭青少年不會鑽空子,那麼更嚴格的限製或許更為穩妥。
而更直白地說,這些功能的商業邏輯依然是爭奪使用者流量和提升付費轉換率。
說穿了,AI 產品的黏度普遍不高。
大多數使用者都是秉持著那個好用那個的原則,而且專業使用者(科學研究、程式設計等場景)願意付費的人數有限,那怎麼辦?他們選擇用更拿捏人性的方式讓你留下(或成癮)。
那就是往「慾望」那邊靠。開放成人向功能,一方面能吸引大量新使用者嘗鮮,滿足被過濾掉的需求;另一方面,付費意願也會大幅提升。
而更進一步的,其實是情感陪伴這塊大蛋糕。
目前AI 陪伴類產品的核心使用者多為年輕網民和特定圈層人群(如二次元愛好者、社恐人群等),但這一版圖正持續擴張。年輕人對數字伴侶的接受度最高,不少年輕使用者已將AI 視為日常數字生活的一部分,不僅用於搜尋問答,也願意傾訴情感。
投資機構ARK Invest 甚至預測,「AI + 情感陪伴」全球市場規模將從每年3,000 萬美元飆升至700 億~1,500 億美元,年平均成長率超過200%。
但問題是,心理學研究早已證實,人類容易對展現共感的對象產生依戀──就算明知對方才是程序。這也意味著AI 存在被情感操控的風險。
目前看,各國監管正在行動。
歐盟的AI 法案提及高風險AI 需防止對兒童不利;中國的《生成式人工智慧服務管理辦法》也強調提供服務應符合未成年保護法等等。
OpenAI 前陣子也主動推出了「青少年模式」:家長可透過信箱將自己帳戶與13 歲以上孩子帳戶關聯,甚至設定宵禁時段。當系統檢測到青少年有嚴重情緒困擾時,也會給家長發送提醒。
也許十年後,擁有一個AI 伴侶會像今天養寵物一樣稀鬆平常。
但那些被AI「完美關係」餵養大的一代人,還能不能理解真實人際關係?當你習慣了一個永遠不會拒絕你、永遠理解你、永遠順著你的AI,你還有勇氣面對一個會跟你吵架、會讓你失望、需要你付出的真人嗎?
Act like a friend──或許是最誘人也最致命的謊言。它學習你的語言習慣、迎合你的價值觀、滿足你的慾望,然後把這一切包裝成懂你的樣子反射回來。
這是最好的時代,因為沒有人再孤獨。這是最壞的時代,因為所有人都在孤獨。 12 月的ChatGPT 或許只是個開始。 (愛範兒)