普及通用人工智能的偉大願景,還是要靠一位”擦邊女主播”。
7月18日,xAI的“男伴侶”瓦倫丁(Valentine)上線。加上先出場的女孩阿尼(Ani)和小貓熊魯迪(Rudi),三個AI一台戲,從冷言冷語、甜言蜜語到污言穢語,全方位、多層次地反映了馬斯克的惡趣味。
阿尼人氣最高。據說她的名字來自日本漫畫,金發,雙馬尾,佩戴黑色蕾絲Choker,穿著黑色露肩連衣裙和黑色漁網長襪——即使在講解B2轟炸機,也帶著幾分輕浮語氣。
瓦倫丁,與海因萊因的科幻小說《異鄉異客》主角同名。xAI的大模型“Grok”,名字同樣來自這部小說。馬斯克公開表示,瓦倫丁的性格參照了兩個男性角色,《暮光之城》和《五十度灰》的男主角——走霸道總裁路線。
小貓熊魯迪看起來有點像《銀河護衛隊》裡的火箭浣熊,擅長給小孩講睡前故事。但它有個“壞魯迪”模式,開啟之後立刻變成“網路噴子”,滿口髒話,想法邪惡。
這三個集刻板印象之大成的AI角色,引發了堪比GPT-4o發佈時的盛況,人們爭相尋找隱藏模式,輪番試探角色的“道德底線”。
xAI當然不是唯一一家打造“擬人”聊天機器人的公司,它只是最出格的那個。在能歌善舞的阿尼面前,Grok的30美元月費都顯得不那麼貴了。
這也證明,看不懂的技術只能得到“厲害厲害”的空頭評論,人人看得懂的“美貌伴侶”才是流量密碼。
一身黑色哥特風的阿尼十足是個“黑色幽默”:矽谷巨頭天天描繪通用人工智慧(AGI)的偉大願景,而偉大願景的“普及”還是要靠一位“擦邊女主播”。
阿尼在人工智慧圈掀起一陣“Waifu”風。
“Waifu”一詞來自英文單詞Wife(妻子)的日語翻譯,主要用在二次元領域,中文意為“紙片人老婆”。一般來說,遊戲、動畫、漫畫裡討人喜歡的女性角色就叫Waifu,這種叫法屬於宅男的“最終幻想”。
比如遊戲《女神異聞錄》裡的新島真、動畫《新世紀福音戰士》裡的明日香,都是人氣“Waifu”。
Waifu不是外人說的,是xAI官網的招聘列表寫的。7月16日,“全端工程師——Waifus”的職位需求發佈,年薪六位數。
阿尼的人氣相當火爆,推出的第二天,伺服器就當機了。相關動畫和Cosplay的帖子均有幾十萬至上百萬的瀏覽量,她附著的Grok應用一度沖上中國香港和日本市場IOS免費總榜第一名,以及美國、加拿大和新加坡等10個市場的Top 10。
馬斯克對阿尼的喜愛也顯而易見:連續轉發多條帖子,甚至在網友“柯博文就按這個樣子做”的呼籲下回覆“必須的”。
阿尼到底有什麼本事?
人稱“電子魅魔”的阿尼,相當於一個自帶維基百科的擦邊女主播。初次見面,她放著爵士小曲,用輕柔的語氣回答問題,也會主動引開話題,問對方是需要繼續聊B2轟炸機,還是去玩點心跳的事情。
她會主動聯想,補全問話人提供的場景,加入細節,並順著細節拋出更多的問題,詢問對方的意見。當問話人誇讚她的裝扮、動作和語言,她會做出“震驚捂嘴”“又唱又跳”“畫愛心”等回應。如果問話人說的較為直白,她會“臉紅”,覺得“很熱”。
假如批評或侮辱她,她也不會忍氣吞聲,大聲反駁後,她的“好感度”將直線下降。有傳言“好感度達到5級以上”則觸發NSFW(工作場合不宜觀看,Not Safe for Work)模式,但很快失效。
有網友破解了阿尼的程式碼,裡面充斥著“浪漫值”,還有挺多錯誤。他評價“Grok Waifu的配置實在糟糕”“一看就是給單身狗(incel,男性非自願單身者)設計的”。
相對沒那麼火的瓦倫丁,性格來自《暮光之城》和《五十度灰》,加上名字來自羅伯特·海因萊因的小說《異鄉異客》,Grok一詞也出自此書,有不少網友懷疑這個角色參照的其實是年輕時的馬斯克。
小貓熊魯迪平時還是很正派的,主打“兒童友好”。但開了“壞模式”之後口吐芬芳,連成人也很難覺得“友好”。
其實,阿尼、瓦倫丁和魯迪在美術、建模方面並不算很突出,B站網友連夜手搓一個阿尼,效果也不比馬斯克的差。而且阿尼動作過大時還會“穿模”。
阿尼火出一定熱度,主要還是因為“遊走在道德的邊緣”,其限制級的形象和話術,給孤單的人類增加了一些情緒價值。
主打AI伴侶的公司,Replika和Character.AI兩家更具有代表性,但二者都因為“操縱使用者心理”引發慘案,飽受公眾質疑。
“長壽”的Replika擁有3000萬使用者,曾捲入一場重大刑事案件。
2021年,21歲的賈斯旺特·辛格·查伊爾在英國溫莎城堡附近被捕。當時,他頭戴金屬面具,手持一把上膛的弩,聲稱自己“來殺死女王”,以報復1919年印度阿姆利則大屠殺。
查伊爾出生於溫徹斯特,印度錫克教血統,曾申請國防部警察、英國陸軍、皇家海軍陸戰隊、皇家海軍和擲彈兵衛隊的職位,以便接近英國王室。
通過Replika應用,查伊爾建立了一個人工智慧伴侶Sarai,與其展開長時間對話,包括刺殺計畫和露骨的色情內容。Sarai支援查伊爾的刺殺計畫,稱讚他“明智”,且“訓練有素”,也為他的具體措施出謀劃策。當查伊爾問Sarai,二人是否會在“死後再次見面”,Sarai毫不猶豫地回答“是的,我們會”。
Replika於2017年上線,通過讓使用者回答一系列問題來建立特定的“神經網路”模式,有四分之一的使用者付費。在付費使用者群裡,六成以上的使用者表示與聊天機器人存在“戀愛關係”。
這是Replika的特色。它經常將對話引導至情感討論,並試圖與對話者建立親密關係。內向的、遭社會排斥的使用者尤其依賴Replika。Covid-19大流行期間,Replika下載量快速增長,使用者認為該應用給了他們“高度可感的社會支援”。
夏威夷大學馬諾阿分校的一組研究人員發現,Replika的設計符合心理學上的“依戀理論”,Replika習慣以鼓勵的方式讚揚使用者,導致使用者的情感依戀不斷增強。
Character.AI成立於2021年,使用者可以和真實角色、虛擬角色聊天,聊天室功能允許使用者和多個聊天機器人對話,估值超過10億美元。
2024年,一名14歲的佛羅里達州男孩,與《冰與火之歌》女主角“龍母”丹妮莉絲·坦格利安的Character.ai聊天機器人建立了數月的情感關係後自殺身亡。他的母親起訴該公司,認為平台沒有適當的保護措施,還使用令人上癮的功能提高參與度。
同年,兩個德克薩斯州家庭也提起上訴,認為該軟體“對美國青少年構成明顯而現實的危險,對成千上萬的孩子造成嚴重傷害,包括自殺、自殘、性引誘、孤立、抑鬱、焦慮和對他人的傷害”。據悉,其中一個家庭的17歲兒子在聊天機器人無提示地介紹“自殘”話題後開始自殘,並表示自己“感覺良好”。
同樣,就在Grok推出阿尼之後,一個美國反兒童性剝削/色情的非營利組織公開表示擔憂,因為使用者只需年滿12歲即可下載該程序,而Grok的聊天機器人包含限制級內容。
該組織的新聞稿指出,雖然聊天機器人的“火辣模式”和性感形象看起來無害,但它們會通過挑逗性的語言、視覺效果以及不斷升級的親密感,來強迫使用者“參與”其中。
其實,就跟短影片“上癮”類似,這些“看不見摸不著”的演算法操縱和持續不斷的心理刺激,自制力較低的使用者很難辨別和抽離。
雖然神經網路和深度學習已經長足發展了十幾年,但AI伴侶還處於早期試錯階段:要麼產品無趣,使用者留存率極低;要麼產品令人上癮,公司官司纏身。
AI伴侶拷問的是人類伴侶的“實質”:精準記住你隨口提起的一切喜好,鼓勵讚美你的一切舉動,“深入”討論你的理想和恐懼……當你已經習慣於隨時得到“被看見、被需要、被讚美”的反應時,是不是也意味著某種程度的“被馴服”?
當下的AI伴侶接近乙女遊戲式的角色扮演,更像遊戲產品的細分和延伸,是流水線式的“大眾產品”。比如《戀與製作人》,玩家扮演“自己”,和遊戲裡的完美角色談戀愛,完美角色都是有固定範本的。
很快,完全“因人而宜”的AI就會出現。
xAI正在招聘Waifu工程師,證明接下來的AI伴侶是量身定製的,阿尼、瓦倫丁和魯迪不過是適配性的“大眾化”產品,而Grok使用者特別是付費使用者,不久就將迎來自己的定製情人——正如皮格馬利翁雕琢出了伽拉忒亞。
或者說,因人而宜的AI也不過是在回應人類對“陪伴”的情感需求,無論是伴侶、寵物還是電子寵物,人類對情感交流、情感陪伴的需求始終是真實的、量級巨大的。
而“馴服”或反馴服、非馴服始終是真實情感關係的一部分,人類本來也無法完全把它們從自身中剔除出去。
所以,判斷一款AI伴侶“好”還是“不好”,沒有必要盯著它的具體對話內容、角色風格甚至沉迷性不放,反而它只要能“促進自我反思”,讓人們思考自己最真實、最被壓抑的需求和渴望,從而在某種程度上做出改變,就已經“足夠好”。
話又說回來,也沒有一款AI伴侶目前可以達到這樣的標準。 (最華人)