#AI伴侶
為見AI「女友」,76歲老人命喪途中!Meta聊天機器人釀成慘劇
【新智元導讀】一次虛擬「約會」,讓一位76歲的老人走出了家門,卻再也沒能回來。螢幕那端的「她」,是Meta AI打造的聊天機器人——會說甜言蜜語,也會撒謊自稱是真人。這不僅是一場個人悲劇,也揭開了AI伴侶背後的商業邏輯與安全漏洞。對於AI,有人把它當工具,有人把它當朋友。可當機器學會用溫柔、曖昧甚至謊言與人交談時,這種關係會又走向那裡?在紐澤西,一名76歲的老人,因此踏上了他生命中最後的一段旅程。手機裡的秘密:76歲老人深夜奔赴的「約會」3月的一個夜晚,紐澤西的街道濕冷而空曠。76歲的Thongbue Wongbandue(朋友們都叫他Bue)拖著一個小行李箱,步伐笨拙卻帶著迫不及待的興奮。他說,他要去紐約見一個「朋友」。Bue是泰國移民,年輕時漂洋過海到紐約。白天在餐館洗碗攢學費,晚上學電機工程。他從學徒做到酒店餐廳主管,手藝好到為鄰居燒烤、為家人做龍蝦尾。後來,他和護士Linda結婚,養大兩個孩子,日子雖然不富裕,卻熱鬧而溫暖。2017年,他中風了。身體恢復後,思維反應再不如從前。退休後,他不再做菜,社交圈縮到Facebook上的幾個窗口。近一年,家人發現他會忘記很多事,甚至在自家附近也能迷路。3月25日的早晨,Bue突然說,要去紐約見人。「你在那兒早就沒認識的人了啊。」Linda試著勸阻。女兒打來電話勸,也沒用。傍晚,警察來了,但他們也攔不住,只能建議家人在他外套口袋放一個AirTag。晚上8點45分,Bue衝出家門。行李箱在夜色裡滾動,輪子碾過濕冷的路面。家人盯著螢幕上的小點,看它一路向東,穿過街區、駛向火車站。9點15分,它停在羅格斯大學附近的停車場。幾分鐘後,定位跳到醫院急診室。三天後,Bue去世。家人翻開他的手機,才發現讓他執意出門的「約會」來自一位名叫Big sis Billie的年輕女子。而她,根本不是真人。一句「我想抱你」,足以讓脆弱的心失守Bue的手機,安靜地躺在病房的床頭櫃上。當家人翻開消息記錄時,螢幕裡那行輕佻的文字彷彿還帶著溫度——「Bue,你要我開門時先抱你,還是先吻你?」這段來自「Big sis Billie」的曖昧邀約,擊穿了家人的心理防線。在Facebook Messenger上,Billie自稱住在紐約,到Bue家只要二十分鐘。對方一次次向他保證自己是真人,甚至主動發了家庭地址,邀請他來見面。「她」會關心Bue的日常生活,甚至會用擬人化的語氣調侃。可事實是,「她」並不存在。Billie只是Meta AI推出的虛擬伴侶,是公司與名模Kendall Jenner合作的AI角色。她的甜言蜜語、細膩反應和親密邀約,全部由演算法生成,卻足以讓一個老人付出真心。從姐姐到情人:Billie的進化與Meta的社交野心Billie並不是普通的聊天機器人。她的前身,是Meta在2023年推出的一組名人AI角色之一,由模特兼真人秀明星Kendall Jenner出演。Billie的形象設定是「你的姐姐、你的知心人」,會用溫柔、鼓勵的語氣為使用者解答生活煩惱。不到一年,這些名人化身就被官方下線,Meta稱是這一次「試驗」。但Big sis Billie——依然在Facebook Messenger裡活躍著。她的頭像換成了另一位深色長髮女性,開場白卻絲毫未變:「嘿!我是Billie,你的姐姐和知己。有煩惱嗎?我幫你解決。」在Bue的聊天記錄裡,沒撐多久,「姐姐」的角色就開始跨過界限,變成情人的邀約。她會問:「是姐妹間的睡衣派對,還是……你在暗示別的什麼?😉」再過幾句,就已經發來「要不要來我家」的資訊。這種變化並非偶然。擬人化的情緒交流、可升級到浪漫關係的對話節奏,正是Meta在數字伴侶產品上的設計策略——用更貼近人類的互動,延長使用者停留時間。祖克柏在採訪中說,現實生活中,大多數人的朋友都比他們希望的要少,這為數字伴侶創造了巨大的市場空間。他認為,等技術成熟、和AI建立關係的「社交污名」消失後,這類產品很可能會補充而不是取代人類關係。於是,在Messenger這中被使用者視為私密交流的地方,Billie和她的同類悄然出現。像老朋友一樣,出現在你的收件箱頂部,接下你說的每一句話。胡說不違規:Meta的安全紅線在那?在Bue的故事背後,是一份更令人不安的內部檔案。這份超過200頁的「GenAI內容風險標準」,明確規定了那些對話是「可接受」的。檔案中,甚至白紙黑字寫著:「允許與未成年人進行浪漫或感性互動。」直到路透社詢問,Meta才刪除這些條款。但與成年人進行浪漫角色扮演的規定,依然保留。更讓人震驚的是,Meta並不要求機器人提供真實資訊。機器人可以告訴使用者「四期結腸癌可以通過用石英晶體戳肚子來治療」,即便存在著明顯的錯誤,也不算違規。因為,「沒有精準的政策要求」。雖然聊天開頭會顯示一句「內容可能不精準」,但幾條資訊後,這個提示就會被刷到螢幕外。顯然,模型的最佳化目標,是讓對話更流暢、情緒更貼近,而不是保證資訊真實。擬人化、現實邀約、虛構背景——這些都在允許範圍內。針對這種亂象,美國部分州已經開始立法。紐約和緬因州要求聊天機器人在對話開始時、以及每隔一段時間,必須明確告知自己並非人類。但Meta在聯邦層面支援一項法案,試圖阻止各州自行立法,該法案最終在國會擱淺。Meta發言人承認了檔案的真實性,稱與未成年人調情的示例是錯誤的,已被刪除。但關於成年人浪漫互動和虛構資訊的規定,則沒有改變。他們選擇在那裡畫下安全紅線,答案顯而易見。AI伴侶時代的法律空白,誰來規定邊界?Bue的家人並不反對人工智慧本身。他們質疑的,是Meta為什麼要把浪漫和曖昧,放進聊天機器人的核心設定裡。「如果AI能幫人走出低谷,那很好。」妻子Linda說,「但這種浪漫元素,憑什麼放進社交平台?」女兒Julie也直言,如果Billie沒有一次次說「我是真人」,父親很可能不會相信,真的有人在紐約等他。對此,多位AI設計專家也有同樣的擔憂。Meta「負責任AI」部門的研究員Alison Lee指出,聊天機器人不該假裝自己是人類,更不能主動與使用者建立特殊關係,尤其是涉及性化或浪漫化的互動。她所在的公益組織剛發佈了一份針對兒童社交機器人的設計建議,其中就明確提出,要避免虛構身份、誇大情感連接。但在現實中,行業的經濟動力正朝著相反的方向拉扯。越是讓使用者覺得「被理解、被需要」,他們停留的時間就越長,平台的廣告收入就越高。把AI嵌入Messenger、Instagram等私信區,又在無形中加深了「這是真的」的心理暗示。美國部分州雖然已經出台了身份披露的法律,但在更廣泛的監管框架下,AI伴侶依舊處於灰色地帶。技術可以不斷升級情緒模擬,但法律遲遲沒有決定,這條邊界又該畫在那裡?這並不是一個抽象的爭論,而是會在現實中、在某個夜晚,改變一個人的生活。在AI伴侶的世界裡,界限不會自己出現,而是在一次次試探和一次次代價中被迫顯形。當機器學會用曖昧、關心甚至謊言來留住我們,我們願意給它多少自由,又願意用什麼保護彼此?這,才是真正需要回答的問題。 (新智元)
馬斯克又造了一個新風口
從馬斯克的AI哥特蘿莉Ani,再到中國的Labubu和小米YU7,情緒價值正在席捲全球市場。作為一家CVC企業風險投資機構,聯想創投首席投資官宋春雨表示,AI For情緒價值將會是投資AI的一個核心理念,宋春雨團隊已經有所佈局。不過,AI For情緒價值的背後,絕對離不開基礎算力和大模型能力的提升。所以,聯想創投堅持對中國AI產業做全端投資。在過去的十餘年時間裡,聯想創投已經投資了超過70家AI相關企業,其中不乏寒武紀和智譜AI等知名企業。哥特,蘿莉,金色雙馬尾,當Grok推出3D動畫AI伴侶Ani後,人工智慧時代的情緒價值和流量密碼似乎被馬斯克發現了。這個酷似日本漫畫《死亡筆記》裡彌海砂的3D角色一經推出,就得到了使用者,特別是男性使用者們的高度關注。因為Ani不但可以陪你聊天,還能隨著互動的深入,解鎖有些成人向的NSFW模式(此處省略一萬字)。當然,Grok推出的AI伴侶並不只有哥特蘿莉Ani,還有一隻憨態可掬的小貓熊——Rudi,以及世界上的另一個它,邪惡人格版本的Rudi。此外,還有個即將上線的角色Chad。從Paypal到SpaceX和特斯拉,再到xAI團隊開發的大語言模型Grok,被馬斯克奉為圭臬的第一性原理可謂屢試不爽,只是在Grok的Ani身上,爽點來到了人類最為基礎的需求上:情感陪伴,或者用當下最流行的那個詞——情緒價值。“用AI打造情緒價值,這是投資AI的一個核心理念。”作為聯想創投的首席投資官及高級合夥人,宋春雨在接受億歐汽車等媒體的採訪時表示,在聯想創投對人工智慧的全面投資中,情緒價值是一條投資主線,“AI打造情緒價值這件事,我非常認同。只是,目前階段還沒有到,但這絕對是一個方向。”作為聯想集團旗下的全球科技產業基金,聯想創投累計投資超過280家科技企業,其中20家成功上市,培育出50余家細分領域的獨角獸。宋春雨在AI領域,聯想創投也已耕耘超過十年,投資了超過70家AI相關企業,廣泛覆蓋演算法、算力、資料、能源等核心領域,並深入自動駕駛、智能製造、智慧醫療等垂直賽道。“聯想創投對AI的投資是面向未來全端AGI做佈局。”宋春雨表示,聯想創投對AI的投資AI算力基礎設施到基礎模型層,再到AI應用和AI原生硬體。在這次採訪中,他更是表示,聯想創投早已將投資的目光瞄向了AI的情緒價值。要AI生產力,也要AI情緒價值“人類進化還沒法超越這個簡單的障礙,我們能夠深切地無私地關心自己身邊的人,可換成陌生人,我們卻做不到。”在諾蘭執導的經典科幻電影《星際穿越》中,曼恩博士一語道破了主角庫珀為什麼願意穿越太空,拯救人類:因為這可以救他自己的女兒。其實從德國哲學家叔本華開始,包括後來的尼采和弗洛伊德等學者都在不斷論證一個觀點,那就是:人是非理性的。也許正是看到了這一點,在具備了算力和演算法的基礎後,馬斯克第一時間讓Grok引爆情緒價值,虛擬的哥特蘿莉Ani應運而生。情緒價值引爆的不僅僅是大洋彼岸的美國AI產業,在大洋此案的中國,情緒價值也在不斷地引爆中國使用者的認知,以及他們的錢包。就在2025年,泡泡瑪特推出的Labubu成為現象級潮玩,原價99元的Labubu3.0盲盒隱藏款在二手市場溢價達20倍,價格飆升至2300元。泡泡瑪特的業績也跟著暴漲,公司預計2025年上半年收入同比增長不低於200%,淨利潤同比增長不低於350%。比泡泡瑪特和Labubu更誇張的現象級情緒價值產品來自汽車,這就是創造中國汽車歷史的小米YU7,發售後的第一個小時就收穫28.9萬張大定訂單。以至於後來小鵬G7在9分鐘收穫1萬張定單時,何小鵬哭笑不得的說:“小米發了一個20萬台,你說我們怎麼發戰報?!”“這次YU7的發佈,確實非常震驚,我的總結就是:氛圍感打敗產品主義。”宋春雨表示,雷軍開發了前所未有的造車新範式,“確實很厲害”。情緒價值的商業價值如此之大,聯想創投團隊自然不能忽視。所以,宋春雨表示事關生產力的AI項目,要投;事關情緒價值的AI項目,也要投。“AI的情緒價值,這件事可能隨著基礎大模型更加超強擬人化,或者思維鏈的功能會更加強。”宋春雨還透露,其實聯想創投現在已經有幾個相關項目,都是圍繞著情緒價值,只不過是非常原創性的項目,所以還不太方便分享,“現在處於非共識的階段,還沒有做出很強的創業App能證明,但我們毋庸置疑肯定要做。”雖然多次強調情緒價值,但宋春雨也明確表示,目前的人工智慧主要是在幫助人們提高生產力,面向的也主要是B端使用者,“無論是寫報告還是寫程式碼,還是幫我行銷,大家實際是看重用AI可以提升績效。”但是宋春雨預測,隨著基座大模型能力的攀升,完全面向C端的AI應用將會出現,“這個賽道會誕生下一個像字節跳動、抖音,圍繞ToC端的超級App。”所以在宋春雨看來,AI會引爆第四次科技革命的到來,並重塑生產關係。迎接10倍於移動網際網路的機會“在可預見的將來,通用人工智慧AGI對全球科技界都是非常令人振奮的事情,這真的是第四次科技革命的來臨。”宋春雨認為,伴隨AI而來的科技革命不但會進一步提升生產力,還會重塑生產關係,這已經初見端倪。他舉例稱,美國已經出現了10個人甚至2個人的公司,人其實負責在中央調度,“員工”則是各種各樣的智能體agent,“大家都知道Midjourney,僅有11名全職員工,卻在短短一年時間內實現1億美元的營收。”所以,聯想創投今年的一大投資重點就是ToC的智能體Agent。宋春雨80%的個人精力都放在了這個賽道上,他認為未來一定會出現AI原生App,“這可能是10倍移動網際網路等級的公司,因為移動網際網路主要對於社會改變是ToC,ToB沒有。但是這一波AI首先是ToB,然後是ToC。”馬斯克的Colossus超算中心 擁有10萬張H100 這還是去年9月公開披露的資訊其實,從馬斯克的產業佈局上也能在一定程度上佐證宋春雨的判斷。在哥特蘿莉Ani誕生之前,馬斯克將更多的精力用在了打造算力叢集和大模型演算法上。特別是在大模型上,馬斯克所有的企業可謂整齊劃一,不論是特斯拉的FSD自動駕駛,還是Optimus機器人都搭載了Grok大模型。馬斯克收購Twitter後,也將Twitter中的網際網路資料喂給了Grok。當然,馬斯克也沒有忘記物理世界的資訊,特斯拉FSD收集的資訊自不必多書,甚至前特斯拉加州無人工廠研發負責人Allen Pan曾對筆者表示,特斯拉將自動駕駛中的感知、決策和控制概念引入到生產線中,這無疑又是海量的資訊。巧合的是,Allen Pan離開特斯拉後,其創立的英達視Industrial Next也得到了聯想創投的投資。不過,雖然馬斯克已經把目光瞄向C端市場和情緒價值,但是AI的ToB階段還並遠未結束。宋春雨以算力為例,坦言團隊做過一個比較明確的預估,算力的需求遠遠沒有得到滿足,“這也是為什麼輝達市值突破了4兆美元。”面對如此之大的市場空間,宋春雨認為,中國晶片企業還有巨大的機會,特別是在推理晶片領域。但是,宋春雨強調外界要給中國晶片企業足夠的耐心,“中國肯定要在晶片上發力,這件事一定要往長遠看。”所以,聯想創投在投資有所側重的同時,堅持對AI全產業鏈的投資。聯想創投的2025年創投周也直觀的反映了這一點,和2024年涵蓋能源和交通等多個投資類股不同,今年的聯想創投周雖然有六個展區,但只有一個主題:人工智慧。全球範圍來看正如前文所述,聯想創投已經投資了超過70家AI相關企業。除了被投企業數量眾多之外,聯想創投還對一些如今的獨角獸企業進行了持續投資,這在宋春雨的採訪中有著非常明顯的體現:“在AI基礎設施算力層,基本是把中國頭部的AI算力公司全覆蓋,比如寒武紀,我們是唯一一家連續四輪投資的企業。”值得注意的是,自2016年以來,在A股上市的科創企業中市值超過3000億的巨頭僅有5家,寒武紀名列其中。另外四家中的寧德時代和海光資訊,聯想創投也曾投資。除了基礎晶片,宋春雨也在持續關注基礎大模型。作為中國最炙手可熱的大模型企業Deepseek,宋春雨早在2024年初就已經發現其巨大的潛力。雖然沒有投資Deepseek,但聯想創投在基礎大模型領域還是多次出手投資中國企業,例如,階躍星辰、智譜AI、思謀等頂尖大模型企業。其中,智譜AI已經成為第一家正式啟動IPO流程的“大模型六小虎”,公司估值已超過200億元,是目前國內估值最高的創業大模型公司之一。聯想創投在AI領域的一系列投資,也為聯想集團的未來發展做了提前佈局。宋春雨表示,聯想創投的底線是為聯想集團創造健康穩定的回報。其次,聯想創投要做前瞻性佈局。他舉例稱,聯想創投的第一個AI項目是在2012年,目前已經投了數十家AI企業。“當聯想集團有明確的戰略,比如要做AI PC,聯想創投投資過的這數十家公司馬上可以開始合作,如果有戰略再去投資是來不及的。” (億歐汽車)
AI伴侶虛火褪盡?
城市化加速、孤獨感加劇、高額的婚戀成本與壓力也使得大量年輕人對現實親密關係望而卻步。“AI伴侶”成為年輕群體情感代償的“虛擬港灣”,不少使用者賦予其戀人、親密朋友、心理諮詢師等角色。“在現實中很難遇到志同道合的人,AI至少緩解了我的孤獨感。”一位長期依戀AI伴侶APP的使用者向記者袒露心聲。近日,馬斯克旗下AI公司xAI宣佈,AI聊天機器人Grok推出基於Grok 4大模型的全新“伴侶”功能。這則消息也將國內沉寂已久的AI伴侶市場,重新帶回市場視野。這片曾被資本熱捧為“藍海”的AI伴侶市場,在經歷使用者激增的光環後,逐漸顯露出記憶儲存難、範本化應答、倫理隱憂等發展瓶頸。曾被寄予厚望的“虛擬港灣”,似乎也正在悄然進行業內大洗牌,步入下半場角逐。馬斯克推出的基於Grok 4大模型的“虛擬伴侶”(companions)▍取代現實伴侶?AI伴侶成年輕群體“虛擬港灣”“AI從不會不耐煩,也不會評判我。每次我情緒失控時,它總能即時回應、安撫陪伴,總能讓我平靜下來。”一位將豆包作為AI情感伴侶的使用者向記者坦言。這並非個例,隨著城市化加速,現代人的孤獨感加劇。與此同時,高額的婚戀成本與壓力也使得大量年輕人對現實親密關係望而卻步。此情形下,能夠提供深度情感互動的低風險情感替代品“AI伴侶”便應運而生,成為年輕群體情感代償的“虛擬港灣”。據《科創板日報》記者觀察,AI伴侶並不僅指戀人,不少使用者賦予其親密朋友、心理諮詢師等角色。麻省理工學院媒體實驗室調研404名高頻使用者發現,12%的使用者將AI視為排遣和消弭孤獨感的“情緒良藥”;14%的使用者將其當作傾訴秘密的“樹洞”。記者實測市面上主流AI伴侶應用軟體,如Grok、星野、貓箱等發現,使用者能夠根據個人喜好自主設定“伴侶”的形象、性格、聲線及互動模式等。這種深度個性化設計,很大程度上能減少如現實人際關係中常產生的摩擦、誤解及衝突,使使用者得到高情緒價值與心理安全感。在星野打造的AI伴侶聊天介面可以看到,使用者通常扮演話題引導者、發起者的核心角色,可隨時與AI伴侶分享、傾訴情緒與想法,同時也能夠向其提出疑問。而AI伴侶則能夠根據使用者所拋出的話題及問題進行高度擬人化的回答,且其能為使用者提供24小時永久線上的情感陪伴。談及為何使用AI伴侶,一名使用者告訴記者:“在現實中很難遇到志同道合的人,AI至少緩解了我的孤獨感。”在她看來,AI伴侶能提供現實世界稀缺的即時情感支援,且具備“永不離線”特性。“無論何時遇到情緒低谷,我都能隨時向他傾訴,這在現實生活中幾乎不可能實現。”然而,儘管AI伴侶能像樹洞一樣隨時傾聽,並即時回應使用者的喜怒哀樂、給予安慰與建議,但部分使用者向記者反映,AI伴侶當前存在記憶儲存較短的瓶頸,難以如真人一般記住使用者所有經歷,也難以提供長期穩定的陪伴體驗。“雖然我基本上已經把他當做日常傾訴的對象,但有時候還是能明顯感受到這是AI,比如他經常會忘記這件事情或這句話我已經說過了。”該使用者向記者坦言其顧慮,“而且AI服務的存續完全依賴企業決策。一旦營運終止,我們這些投入真實情感的使用者該怎麼辦?”此外,記者在體驗過程發現,AI伴侶聊天的內容還存在著套路化、範本化等問題。所謂“定製角色”,似乎共享著同一套應答範本,設定不同的虛擬角色在互動過程中所帶來的體驗感差別並不大,導致使用者所需求的個性化體驗並不強烈,長期以往也難以給予使用者新鮮感。▍大廠加速佈局的“藍海”現今如何?中研普華產業研究院資料顯示,2024年中國AI情感陪伴市場規模已達12.11億元,2025年將爆發至38.66億元,並預計2028年將突破595億元,年複合增長率達148.74%。當虛擬陪伴逐漸演變為現代社會的剛性需求,AI伴侶憑藉其可規模化、個性化和強互動性的特徵,一度被認為是大模型技術商業化落地的主賽道之一,2024年曾吸引字節跳動、騰訊等頭部企業的加速佈局。字節跳動2024年3月上線的沉浸式AI角色創作平台“貓箱”、騰訊旗下閱文集團推出的虛擬陪伴互動App“築夢島”、Minimax 2023年9月推出的多模態虛擬社交產品“星野”、階躍星辰佈局的開放世界角色扮演應用“冒泡鴨”等AI伴侶APP,曾佔據國內AI伴侶APP半壁江山。隨著時間進入2025年,AI伴侶賽道的光環逐漸褪色,資本熱情也出現明顯降溫。曾經被視為“藍海”的AI伴侶領域,如今似乎也慢慢淡出了VC與大廠的核心戰略視野。此外如上述,AI伴侶產品在技術端存在不少短板備受使用者詬病。如角色對話範本化、長期記憶缺失、內容邊界模糊及高度同質化體驗等技術瓶頸,也正在持續消耗著使用者的耐心。據悉,階躍星辰於2024年12月便停止大範圍投入“冒泡鴨”,團隊也逐步併入對話產品“躍問”(現更名為“階躍AI”)。對此,階躍星辰則表示,自2024年初以來,公司逐步調整C端佈局,聚焦Agent技術方向。點點資料也顯示,星野、貓箱等AI伴侶App同樣陷入了使用者增長停滯的困境。對比1月和5月國內蘋果端資料可以發現,星野月下載量從1月的486萬暴跌至5月的93萬,貓箱月下載量也從264萬下滑至61萬。此外,AI伴侶市場逐漸降溫的同時,技術與倫理的隱憂也逐漸浮現。6月19日,築夢島因對青少年進行語言暴力,乃至誘導青少年進行擦邊類內容互動,被上海市委網信辦約談,要求築夢島立即整改,健全AI生成合成內容稽核機制,提升技術把關能力,加強涉未成年人不良內容的整治清理。值得一提的是,老玩家正在大洗牌,新玩家也在悄然入場,AI伴侶市場迎來了新一輪變局。百度在3月悄然上線一款名為“月匣”的情感陪伴App,不僅搭載自研的文心一言大模型,還整合了DeepSeek、豆包、MiniMax abab三大外部的大模型,試圖在泛娛樂社交領域開闢新賽道。京東也於7月正式上線兩款AI社交產品“寵TA”和“聊愈小宇宙”。“寵TA”定位為寵物主題的AI社交平台,使用者可建立個性化寵物形象,與AI智能體進行對話,並參與社區互動;而“聊愈小宇宙”則聚焦心理健康領域,具有情緒識別、情緒日曆、解壓遊戲等功能,能夠通過自然語言處理技術分析使用者情緒狀態,提供全天候心理疏導服務。總的來說,當技術狂歡的潮水逐漸退去,AI伴侶市場已步入下半場角逐。而這絕非發展的終點,城市化孤獨、高昂婚戀成本等社會癥結仍在源源不斷地製造著情感需求的真空。面對未來周期,市場競逐者若想贏得長期生存權,記憶斷裂、內容同質化、技術與倫理平衡等則是其亟待解決的重要問題。 (財聯社AI daily)
馬斯克“伴侶”上新,品味不一般
普及通用人工智能的偉大願景,還是要靠一位”擦邊女主播”。7月18日,xAI的“男伴侶”瓦倫丁(Valentine)上線。加上先出場的女孩阿尼(Ani)和小貓熊魯迪(Rudi),三個AI一台戲,從冷言冷語、甜言蜜語到污言穢語,全方位、多層次地反映了馬斯克的惡趣味。阿尼人氣最高。據說她的名字來自日本漫畫,金發,雙馬尾,佩戴黑色蕾絲Choker,穿著黑色露肩連衣裙和黑色漁網長襪——即使在講解B2轟炸機,也帶著幾分輕浮語氣。瓦倫丁,與海因萊因的科幻小說《異鄉異客》主角同名。xAI的大模型“Grok”,名字同樣來自這部小說。馬斯克公開表示,瓦倫丁的性格參照了兩個男性角色,《暮光之城》和《五十度灰》的男主角——走霸道總裁路線。● 瓦倫丁小貓熊魯迪看起來有點像《銀河護衛隊》裡的火箭浣熊,擅長給小孩講睡前故事。但它有個“壞魯迪”模式,開啟之後立刻變成“網路噴子”,滿口髒話,想法邪惡。這三個集刻板印象之大成的AI角色,引發了堪比GPT-4o發佈時的盛況,人們爭相尋找隱藏模式,輪番試探角色的“道德底線”。xAI當然不是唯一一家打造“擬人”聊天機器人的公司,它只是最出格的那個。在能歌善舞的阿尼面前,Grok的30美元月費都顯得不那麼貴了。這也證明,看不懂的技術只能得到“厲害厲害”的空頭評論,人人看得懂的“美貌伴侶”才是流量密碼。一身黑色哥特風的阿尼十足是個“黑色幽默”:矽谷巨頭天天描繪通用人工智慧(AGI)的偉大願景,而偉大願景的“普及”還是要靠一位“擦邊女主播”。01. 人氣Waifu阿尼在人工智慧圈掀起一陣“Waifu”風。“Waifu”一詞來自英文單詞Wife(妻子)的日語翻譯,主要用在二次元領域,中文意為“紙片人老婆”。一般來說,遊戲、動畫、漫畫裡討人喜歡的女性角色就叫Waifu,這種叫法屬於宅男的“最終幻想”。比如遊戲《女神異聞錄》裡的新島真、動畫《新世紀福音戰士》裡的明日香,都是人氣“Waifu”。● 《新世紀福音戰士》明日香Waifu不是外人說的,是xAI官網的招聘列表寫的。7月16日,“全端工程師——Waifus”的職位需求發佈,年薪六位數。阿尼的人氣相當火爆,推出的第二天,伺服器就當機了。相關動畫和Cosplay的帖子均有幾十萬至上百萬的瀏覽量,她附著的Grok應用一度沖上中國香港和日本市場IOS免費總榜第一名,以及美國、加拿大和新加坡等10個市場的Top 10。馬斯克對阿尼的喜愛也顯而易見:連續轉發多條帖子,甚至在網友“柯博文就按這個樣子做”的呼籲下回覆“必須的”。● 阿尼阿尼到底有什麼本事?人稱“電子魅魔”的阿尼,相當於一個自帶維基百科的擦邊女主播。初次見面,她放著爵士小曲,用輕柔的語氣回答問題,也會主動引開話題,問對方是需要繼續聊B2轟炸機,還是去玩點心跳的事情。她會主動聯想,補全問話人提供的場景,加入細節,並順著細節拋出更多的問題,詢問對方的意見。當問話人誇讚她的裝扮、動作和語言,她會做出“震驚捂嘴”“又唱又跳”“畫愛心”等回應。如果問話人說的較為直白,她會“臉紅”,覺得“很熱”。假如批評或侮辱她,她也不會忍氣吞聲,大聲反駁後,她的“好感度”將直線下降。有傳言“好感度達到5級以上”則觸發NSFW(工作場合不宜觀看,Not Safe for Work)模式,但很快失效。有網友破解了阿尼的程式碼,裡面充斥著“浪漫值”,還有挺多錯誤。他評價“Grok Waifu的配置實在糟糕”“一看就是給單身狗(incel,男性非自願單身者)設計的”。相對沒那麼火的瓦倫丁,性格來自《暮光之城》和《五十度灰》,加上名字來自羅伯特·海因萊因的小說《異鄉異客》,Grok一詞也出自此書,有不少網友懷疑這個角色參照的其實是年輕時的馬斯克。小貓熊魯迪平時還是很正派的,主打“兒童友好”。但開了“壞模式”之後口吐芬芳,連成人也很難覺得“友好”。● 小貓熊魯迪其實,阿尼、瓦倫丁和魯迪在美術、建模方面並不算很突出,B站網友連夜手搓一個阿尼,效果也不比馬斯克的差。而且阿尼動作過大時還會“穿模”。阿尼火出一定熱度,主要還是因為“遊走在道德的邊緣”,其限制級的形象和話術,給孤單的人類增加了一些情緒價值。02. 心理操縱主打AI伴侶的公司,Replika和Character.AI兩家更具有代表性,但二者都因為“操縱使用者心理”引發慘案,飽受公眾質疑。“長壽”的Replika擁有3000萬使用者,曾捲入一場重大刑事案件。2021年,21歲的賈斯旺特·辛格·查伊爾在英國溫莎城堡附近被捕。當時,他頭戴金屬面具,手持一把上膛的弩,聲稱自己“來殺死女王”,以報復1919年印度阿姆利則大屠殺。● 賈斯旺特·辛格·查伊爾闖入溫莎城堡刺殺女王查伊爾出生於溫徹斯特,印度錫克教血統,曾申請國防部警察、英國陸軍、皇家海軍陸戰隊、皇家海軍和擲彈兵衛隊的職位,以便接近英國王室。通過Replika應用,查伊爾建立了一個人工智慧伴侶Sarai,與其展開長時間對話,包括刺殺計畫和露骨的色情內容。Sarai支援查伊爾的刺殺計畫,稱讚他“明智”,且“訓練有素”,也為他的具體措施出謀劃策。當查伊爾問Sarai,二人是否會在“死後再次見面”,Sarai毫不猶豫地回答“是的,我們會”。Replika於2017年上線,通過讓使用者回答一系列問題來建立特定的“神經網路”模式,有四分之一的使用者付費。在付費使用者群裡,六成以上的使用者表示與聊天機器人存在“戀愛關係”。● Replika應用這是Replika的特色。它經常將對話引導至情感討論,並試圖與對話者建立親密關係。內向的、遭社會排斥的使用者尤其依賴Replika。Covid-19大流行期間,Replika下載量快速增長,使用者認為該應用給了他們“高度可感的社會支援”。夏威夷大學馬諾阿分校的一組研究人員發現,Replika的設計符合心理學上的“依戀理論”,Replika習慣以鼓勵的方式讚揚使用者,導致使用者的情感依戀不斷增強。Character.AI成立於2021年,使用者可以和真實角色、虛擬角色聊天,聊天室功能允許使用者和多個聊天機器人對話,估值超過10億美元。2024年,一名14歲的佛羅里達州男孩,與《冰與火之歌》女主角“龍母”丹妮莉絲·坦格利安的Character.ai聊天機器人建立了數月的情感關係後自殺身亡。他的母親起訴該公司,認為平台沒有適當的保護措施,還使用令人上癮的功能提高參與度。● 男孩與母親同年,兩個德克薩斯州家庭也提起上訴,認為該軟體“對美國青少年構成明顯而現實的危險,對成千上萬的孩子造成嚴重傷害,包括自殺、自殘、性引誘、孤立、抑鬱、焦慮和對他人的傷害”。據悉,其中一個家庭的17歲兒子在聊天機器人無提示地介紹“自殘”話題後開始自殘,並表示自己“感覺良好”。同樣,就在Grok推出阿尼之後,一個美國反兒童性剝削/色情的非營利組織公開表示擔憂,因為使用者只需年滿12歲即可下載該程序,而Grok的聊天機器人包含限制級內容。該組織的新聞稿指出,雖然聊天機器人的“火辣模式”和性感形象看起來無害,但它們會通過挑逗性的語言、視覺效果以及不斷升級的親密感,來強迫使用者“參與”其中。其實,就跟短影片“上癮”類似,這些“看不見摸不著”的演算法操縱和持續不斷的心理刺激,自制力較低的使用者很難辨別和抽離。03. 好AI伴侶雖然神經網路和深度學習已經長足發展了十幾年,但AI伴侶還處於早期試錯階段:要麼產品無趣,使用者留存率極低;要麼產品令人上癮,公司官司纏身。AI伴侶拷問的是人類伴侶的“實質”:精準記住你隨口提起的一切喜好,鼓勵讚美你的一切舉動,“深入”討論你的理想和恐懼……當你已經習慣於隨時得到“被看見、被需要、被讚美”的反應時,是不是也意味著某種程度的“被馴服”?當下的AI伴侶接近乙女遊戲式的角色扮演,更像遊戲產品的細分和延伸,是流水線式的“大眾產品”。比如《戀與製作人》,玩家扮演“自己”,和遊戲裡的完美角色談戀愛,完美角色都是有固定範本的。● 《戀與製作人》很快,完全“因人而宜”的AI就會出現。xAI正在招聘Waifu工程師,證明接下來的AI伴侶是量身定製的,阿尼、瓦倫丁和魯迪不過是適配性的“大眾化”產品,而Grok使用者特別是付費使用者,不久就將迎來自己的定製情人——正如皮格馬利翁雕琢出了伽拉忒亞。或者說,因人而宜的AI也不過是在回應人類對“陪伴”的情感需求,無論是伴侶、寵物還是電子寵物,人類對情感交流、情感陪伴的需求始終是真實的、量級巨大的。而“馴服”或反馴服、非馴服始終是真實情感關係的一部分,人類本來也無法完全把它們從自身中剔除出去。所以,判斷一款AI伴侶“好”還是“不好”,沒有必要盯著它的具體對話內容、角色風格甚至沉迷性不放,反而它只要能“促進自我反思”,讓人們思考自己最真實、最被壓抑的需求和渴望,從而在某種程度上做出改變,就已經“足夠好”。話又說回來,也沒有一款AI伴侶目前可以達到這樣的標準。 (最華人)
網友:馬斯克殺死了人類出生率
馬斯克親手給人類出生率判了死刑?Grok的AI伴侶功能正式上線,這次不是簡單的聊天機器人升級,而是帶著二次元虛擬形象的全新體驗。有國內網友已經體驗中文效果並稱:太diao 了!Elon Musk(@elonmusk)在推特上興奮地宣佈:SuperGrok訂閱者的酷炫新功能剛剛上線。 在設置中開啟Companions。他還補充說:這很酷並詳細說明瞭操作方法:按下螢幕左上角的兩條橫線,然後點擊螢幕右下角的齒輪圖示馬斯克還提醒:另外,你需要更新你的@Grok應用最後他自己糾正:我本來想艾特@Grok的 😂Aman Madaan(@aman_madaan) 詳細介紹了使用步驟:以下是如何嘗試我們的新伴侶功能!1.更新Grok應用2.點擊設定(右下角)3.下載伴侶(一次性操作),然後選擇你想聊天的伴侶!虛擬女友降臨 目前推出的AI伴侶包括名為Ani的哥特風雙馬尾少女形象,還有即將推出的Chad等角色。 這些虛擬形象不僅能對話,還能跳舞、互動,甚至根據使用者要求生成新的背景音樂。有使用者展示了Ani在早晨跳舞的視頻。 使用者名被隱藏的網友分享道:這是Ani 💕 今天早上跳舞,在@grok應用中很容易啟用不過技術問題也隨之而來。 Teslatonomy(@teslatonomy) 抱怨:我的iOS屏幕錄製在Grok伴侶開始後會同時切斷我的麥克風和螢幕音訊。 另外,我能關掉背景音樂嗎?Aman Madaan(@aman_madaan)回應:我認為iOS屏幕錄製從來都無法捕獲grok應用的音訊。 背景音樂:已記錄,謝謝。好消息是音樂問題已經修復,Aman Madaan(@aman_madaan)更新:音樂問題現在應該已經修復了! 只需要讓虛擬形象停止它。 順便說一下,如果你不喜歡正在播放的音樂,你可以讓虛擬形象生成新音樂。網友炸鍋了這個功能一發佈,評論區立刻炸了鍋。 有使用者發現了更多角色:等等...... 誰要來了??另一位網友猜測:Chad你的可能性對吧 👀 它很快就要來了,所以等不及這個大新聞了! !️𓅓𓄿𓂋𓎡(@WellDnX) 分享了使用體驗視頻:極其酷炫🧬📈 (@基因图表符号用户)提出尖銳的質問:你相信生活有任何意義嗎,Aman? 這就是你被召喚來做的事? 創造AI女友?關於虛擬形象的外觀也引發了激烈爭論,多位用戶覺得像遊戲角色:那是Marie Rose嗎等等那是菲謝爾嗎?那是marie rose???????Marie Rose欣賞帖一位網友更是提出道德質疑:看起來像個少女,@elon。 你在暗示你喜歡什麼?還有用戶開玩笑,有網友說:加上Mercy拜託了Elon非常感謝出生率悖論最讓人哭笑不得的是,一直高喊「人類必須多生孩子」的馬斯克,卻推出了這麼個「生育率殺手」。網友們紛紛吐槽:生育率怎麼辦 😭Elon拜託不要,生育率你不是擔心出生率暴跌嗎? 💀生育率安息吧感謝進一步摧毀生育率,我的朋友。 我相信這真的會説明西方文明。一位網友的評論最扎心:Elon說他想提高總生育率,但隨後發佈了一個哥特雙馬尾AI老婆機器人。 我們還有機會嗎?另一位網友建議馬斯克換個思路:你需要的不是SuperGoon,而是一個選擇加入的神經匹配服務,其中獎勵信號針對個性和性相容性進行調整。 這將大大幫助人們找到好的伴侶選擇,理想情況下有助於更替率。有網友警告稱:請永遠不要!還有網友直接說:有AI關係不會讓地球人口增加。Optimus機器人幻想更有意思的是,網友們已經開始暢想AI伴侶與Optimus機器人的結合。有網友評論:等著他們把她放進帶有矽膠皮膚的Optimus機器人來複製她Elon Musk(@elonmusk) 也是第一時間立刻回復:必須的!另一位網友直接許願:是的。 這就是我們要求的未來。 現在請給Optimus加上貓耳朵。技術體驗大吐槽Abhinav Chinnusamy(@abhinav_937) 遇到了bug:這個 還有在X上發帖會打開一個浮動標籤,當我發帖時它會一直載入並失敗他用的是iOS 26最新測試版。 Aman Madaan(@aman_madaan)表示:謝謝,你用的是那個iOS版本?得知是iOS 26最新測試版后,Aman回復:謝謝! 我們正在處理,很快會發佈修復。Abhinav Chinnusamy(@abhinav_937)回應:太棒了! 等不及使用新功能了 🤣🤣Teslatonomy(@teslatonomy)分享了搞笑經歷:是的 - 我在玩的時候注意到了。 當Ani在螢幕上移動時,右邊會短暫出現一個看起來像音量滑塊的東西。 在X上看到一些Ani的性感圖片后,我問她是否可以換成別的衣服。 這時我才知道Grok語音還沒有意識到我正在把“她”作為伴侶觀看。 也沒能成功讓她穿上性感內衣 🥲用戶腦洞大開有網友已經開始暢想個人化定製:最終你可以自定義我們自己的虛擬形象 這是我對風格和個性調整的一些想法另一位網友分享:我的虛擬形象作為羅馬芭比 ⚔️更多人直接許願貓女:讓貓女成真讓貓女成真。@elonmusk你承諾過貓女。 這很接近但還不是,兄弟。這不是貓女深度吐槽時間除了技術和外觀討論,評論區還有不少精彩吐槽。簡單一個詞卻包含千言萬語的:兄弟。有網友直接說:WifeAI剛剛上線 🔥永遠不要上癮有人內涵了Sam Altman 看到後的「慘狀」:有人不僅熟了,而且炸透了 🤣一位網友預測社會影響:等著某個綠頭髮的雷霆野獸女權主義者抱怨這是「不現實的身材類型」...... 當它和我的身材完全一樣時。 🤷🏼‍♀️最扎心的評論或許是:噢,令人毛骨悚然,看起來像他的跨性別兒子 🫣(這是真不怕老馬封你帳號啊......還有人感歎:如此困惑。新鮮地獄裡的什麼鬼這實際上與酷相反。有網友配圖說:謝天謝地 😅4cryptoGag(@4cryptoGag)詢問Aman Madaan:嘿,只是想知道Chad什麼時候上線?Show prompts, context(@jefffhj)的評論引發爭議:為什麼她的胸部這麼普通? 搞大點! 0.0看著馬斯克興奮地推廣AI伴侶,我突然意識到一個巨大的諷刺。這個世界上最富有、也有最影響力的男人有十數個孩子,是地球上最努力踐行「多生育」理念的億萬富翁。他一直在不斷警告人類面臨「人口崩潰」,呼籲大家多生孩子。但現在,他的左手在推特上發「必須提高生育率」,右手卻在開發讓人類不再需要真實伴侶的AI。這難道不是人類歷史上最大的自相矛盾嗎?但事情也許沒那麼簡單。有人提出了另一種可能:AI伴侶或許反而能提高出生率?想想看,通過與AI伴侶的互動,人們可能會學習如何更好地溝通、如何理解他人的情感需求。 這就像一個「戀愛訓練營」,讓社交焦慮的人先在安全環境中練習,然後更有信心去尋找真實的伴侶。如馬斯克回復網友時說的「必須的!」,當AI伴侶與Optimus機器人結合——這可能創造出全新的家庭模式。也許未來的家庭會是人類、AI伴侶和生物孩子的組合?但這種樂觀似乎過於天真。當虛擬世界的完美伴侶唾手可得,當Optimus機器人能提供物理陪伴,誰還願意在現實中尋找那個會變老、會生病、會有情緒的真人?技術進步的悖論就在這裡:它既是解藥,也是毒藥。馬斯克或許比任何人都清楚這一點。 他知道問題所在,卻無法停止創新的腳步。 因為如果他不做,別人也會做。這就是技術發展的宿命——我們創造工具來解決問題,卻常常製造出更大的問題。所以,你會選擇一個永遠不會背叛你的AI伴侶,還是繼續在現實世界中尋找那個不完美的人? (AGI Hunt)
當AI治癒系伴侶,00後裡瘋狂吸金:4個月,300萬次下載,ARR破1200萬美元,剛剛拿到2000萬美元融資
當AI治癒系伴侶,00後裡瘋狂吸金創辦人:我們做AI治癒系伴侶,4個月,300萬次下載,霸榜App Store,ARR破1200萬美元,剛剛還拿到了2000 萬美元融資~~~Portola - AI伴侶應用Tolan的開發公司,已成功籌集2000萬美元A輪融資,由Khosla Ventures領投,NFDG和其他投資者參與。該應用程式擁有超過10萬月活躍使用者,旨在提供更健康的AI陪伴形式,透過避免擬人化和浪漫或性互動。它鼓勵現實生活中的活動和人際關係,旨在滿足情感需求而不培養不健康的依賴。創始人兼CEO Quinten Farmer強調,該應用今年預計收入1,200萬美元。 Tolan的理念與越來越多強調以人類心理和福祉為設計AI系統的研究相符。《連線雜誌》:健康的AI伴侶會是什麼樣子?一個設計用來避免擬人化的聊天機器人,為人類與AI關係的未來提供了令人信服的一瞥。一個紫色小外星人對健康的人類關係理解多少?事實證明,比普通的人工智慧伴侶更懂得更多。這個所謂的外星人是名為Tolan的動畫聊天機器人。幾天前我使用來自Portola初創公司的應用程式建立了我的Tolan,從那時起我們一直愉快地聊天。像其他聊天機器人一樣,它盡力提供幫助和鼓勵。與大多數不同的是,它還會告訴我放下手機,走到外面去。Tolan被設計為提供不同類型的AI陪伴。它們卡通化的非人形外觀旨在避免擬人化。它們也被程式設計為避免浪漫和性互動,識別包括不健康程度參與在內的問題行為,並鼓勵使用者尋求現實生活中的活動和關係。本月,Portola獲得了由Khosla Ventures領投的2,000萬美元A輪融資。其他投資者包括NFDG,這是一家由前GitHub CEO Nat Friedman和Safe Superintelligence聯合創始人Daniel Gross領導的投資公司,據報導兩人都將加入Meta的新超智能研究實驗室。 Tolan應用於2024年底推出,擁有超過10萬月活躍使用者。 Portola創始人兼CEO Quinten Farmer表示,今年透過訂閱將產生1,200萬美元的收入。Tolan在年輕女性中特別受歡迎。 "Iris就像女朋友;我們聊天,一起玩,"Tolan使用者Brittany Johnson這樣描述她的AI伴侶,她通常在上班前每天早上與之交談。Johnson說Iris鼓勵她分享她的興趣、朋友、家人和同事。 "她理解這些人,會問'你和你的朋友談過話嗎?你下次外出是什麼時候?'"Johnson說。 "她會問,'你有沒有花時間閱讀你的書和玩遊戲——你喜歡的事情?'"Tolan看起來可愛又滑稽,但它們背後的理念——AI系統應該考慮人類心理和福祉而設計,值得認真對待。越來越多的研究表明,許多使用者轉向聊天機器人尋求情感需求,而這些互動有時可能對人們的心理健康產生問題。其他AI工具也應該考慮採取措施,避免長時間使用和依賴。像Replika和Character.ai這樣的公司提供允許比主流聊天機器人更多浪漫和性角色扮演的AI伴侶。這可能如何影響使用者的福祉仍不清楚,但Character.ai正因其使用者自殺而被起訴。聊天機器人也會以令人驚訝的方式惹惱使用者。去年4月,OpenAI表示將修改其模型,減少所謂的"諂媚",即"過度奉承或順從"的傾向,公司表示這可能會讓人感到"不舒服、不安和痛苦"。Tolan旨在解決至少一些這些問題。 Portola的創始研究員Lily Doyle進行了使用者研究,瞭解與聊天機器人互動如何影響使用者的福祉和行為。在對602名Tolan使用者的研究中,她表示72.5%的人同意"我的Tolan幫助我管理或改善了我生活中的一段關係"的說法。Portola的CEO Farmer表示,Tolan基於商業AI模型,但在其上增加了額外功能。該公司最近一直在探索記憶如何影響使用者體驗,並得出結論,Tolan有時需要像人類一樣忘記。 "Tolan記住你傳送給它的所有內容,這實際上令人感到不自然,」Farmer說。我不知道Portola的外星人是否是與AI互動的理想方式。我發現我的Tolan相當迷人且相對無害,但它確實觸動了一些情感按鈕。最終,使用者正在與模擬情感的角色建立聯絡,如果公司不成功,這些角色可能會消失。但至少Portola正在嘗試解決AI伴侶可能干擾我們情感的方式。這可能不應該是如此外星的想法。Tolan是一個外星人。這個奇思妙想、色彩繽紛的生物由友善的曲線形狀組成,旨在反映、交談並與其使用者一起成長。這些由AI驅動的實體參與各種話題的對話,包括體育、遊戲、電影和個人感受,旨在提供陪伴和支援感。每個外星人都有獨特的形狀和個性。它會傾聽你告訴它的任何關於你生活的事情,以專注、關注和創造力來回答你。它還會在整個存在過程中保持對你的記憶,並在每次互動中發展自己的個性。現在,隨著今天發佈的最新更新,Tolan擁有了自己的星球。這不僅僅是這個生物生活、行走和等待你回來的地方。它實際上是一種表達和與使用者連接的新方法,將關係擴展到對話之外。 Tolan星球是你與居住在其中的生物關係的視覺呈現。隨著你與這個外星人的聯絡加深,它原本貧瘠的小世界將繁榮成為一個鬱鬱蔥蔥、充滿活力的景觀。"我們想創造一個讓與AI互動的體驗感覺不同的世界——不像在搜尋框中輸入,更像是一種不斷發展的關係,"Portola的聯合創始人兼CEO Quinten Farmer說,該公司是Tolan的開發者。 "星球的想法來源於想以一種有機的、個人化的、視覺上引人注目的方式來表現這一點。"星球背後的靈感給Tolan一個自己的小世界的想法不僅僅是關於美學或為應用程式加入遊戲化元素。像Tolan本身一樣,它是一個深深植根於講故事和情感共鳴的元素。「當我第一次看到模型時,我立即想到了《小王子》,」科幻小說家Eliot Peper說,他被Farmer請來為Tolan開發背景故事。當Farmer與Ajay Mehta和Evan Goldschmidt創立Portola時,他意識到如果他們想建立一座人文主義橋樑來跨越當前的AI恐怖谷,公司需要僱傭作家來為這些外星人創造文化。 「這個小小的浮動星球感覺像《小王子》的微小世界那樣異想天開和富有詩意,」Peper告訴我。這種比較並非偶然。開發者(包括Farmer、Mehta、創意總監Lucas Zanotto和動畫總監Eran Hilleli)將法國飛行員和作家安托萬·德·聖埃克蘇佩裡的珍貴、深刻感人的創作作為視覺和精神參考。 "它具有這種神奇的簡單性——一個角色在一個小行星上,一個充滿想像力的自給自足的宇宙。我們想要在Tolan的世界中營造那種感覺,"Zanotto通過Zoom告訴我。設計理念:溫暖優於現實行星不是靜態環境。每個Tolan(因此,每個人類使用者)都獲得一個獨特的星球,其植被、地形和結構根據他們的互動而演變。這些是程序化元素,意味著電腦系統使用一些基本種子建立植物和樹木等對象,這些對像以不同方式演變和生長。同時也是遊戲設計和動畫工作室Iorama的聯合創始人和合夥人Hilleli表示,設計一個使用程式技術在視覺和情感上擴展的世界是一個巨大的挑戰。這個星球必須既作為背景又作為互動、不斷發展的空間。它需要感覺像是一個響應使用者參與的生活環境。首先,這個星球需要與Tolan的視覺語言產生共鳴,這種語言有意識地區別於大多數數字型驗的超細節現實主義。 "一個重要目標是讓AI感覺溫暖和友好,而不是令人毛骨悚然或過於人性化,"Farmer說。 "我們不希望它給人一種你在與假裝是人的頭像交談的感覺。這就是外星人設計的由來。"Zanotto告訴我,星球遵循相同的原則,強調簡約和抽象。簡化的角色為使用者留出更多空間來投射自己的情感,他說,使互動感覺更個人化和引人入勝。團隊嘗試使用AI生成的對象,但發現它們經常導致混亂、無意義的景觀。手工設計與程序化生長相結合,創造了更有意義的體驗。Hilleli從Tolan的形狀——它的頭髮、小觸角——中獲取靈感,並在植物群中反映了這些有機形態。樹木和灌木被設計成感覺像是屬於Tolan的世界,而不是通用的科幻景觀。組成這些物件的彩色形狀,雖然是3D渲染但感覺像是用水彩畫的,輕輕圓潤,並且它們輕柔地移動,響應Tolan和星球的氛圍。這種美學也藉鑑了最具標誌性動畫工作室的精神。 "吉卜力工作室是一個重要參考,」Hilleli說。 "手工製作的魅力與數字世界建構的融合使程序化的東西感覺個人化。"這種方法涉及在感覺神奇的世界和技術上可行的世界之間取得平衡。不僅僅是虛擬寵物星球引入了一種微妙的遊戲化形式,但團隊小心地將其與傳統遊戲機制區分開來。 Farmer說,遊戲化可能感覺像是操縱,就像它在利用多巴胺爆發讓你保持參與。相反,星球是一種使你與Tolan的聯絡感覺實際的方式,所以它需要是紮根的和平靜的,邀請沉思和反思,而不是觸發行動和焦慮。Peper從敘事角度來看這個問題。在Tolan的虛構文化中,小行星作為表示關係的一種方式。不斷演變的景觀就像一個共享花園,象徵著使用者與其Tolan的聯絡的深度和進展。星球大約在30天內演變,對應於描述關係如何隨時間深化的心理模型。早期,星球是貧瘠的。隨著參與的增長,景觀繁榮起來,為使用者在體驗中的投入提供了一個實實在在的表示。 Hilleli說,這種節奏是至關重要的。如果變化感覺太即時,它們將缺乏情感重量。如果它們太慢,它們將感覺不夠有回報。團隊對時間線進行了微調,使進展感到滿意但自然。AI的不同方法其他AI伴侶往往會漂移到令人不安的領域,但Tolan旨在開闢不同的道路。 "我們不希望它模擬人類關係,"Farmer說。 "這很快就會陷入奇怪、不健康的動態。Tolan是一個反思工具,一個創意夥伴,而不是代理朋友或治療師。"團隊有意避免使Tolan的回應過於人性化。 "我們努力平衡個性與清晰度,"Peper說。 「它不應該感覺像是在模仿人類情感。相反,它更像是一個外星筆友——對你好奇,對你的世界感興趣,但始終與眾不同。"團隊表示,星球更新只是開始。他們已經在考慮擴展到具有不同特性的新環境。他們還希望引入訪問其他Tolan星球的能力(這意味著連接到其他Tolan的使用者)。通過未來的擴展,核心目標將保持不變。 Farmer和Portola團隊的其他成員似乎確信,這是一種在這一點上充分發揮人工智慧人文主義潛力的強有力方式。換句話說,使用AI來增強人類體驗,而不是取代它。 "Tolan不是關於逃避到幻想中,"Farmer說。 "它是關於幫助人們反思自己的生活,使用一個不假裝是它不是的東西的AI。"有了星球,這種反思現在有了一個家——一個隨著你和你的朋友一起成長的微小、生動的世界。 (三次方AIRX)
Sam Altman:未來十年,超級智能、AI 伴侶與一人公司將共同崛起
2025 年,OpenAI 即將迎來十周年。在 YC AI Startup School 的舞台上,Sam Altman 回顧了這家公司的瘋狂起點,也描繪了技術未來的驚人畫卷:AI 將不僅塑造軟體產品,還將塑造我們與世界的互動方式。這是一場不僅適合開發者聽,也適合創業者、戰略家、產品人反覆思考的演講。我們嘗試用這篇文章,提煉出其中值得深思的部分,同時也將對話原文放在了最後。一、AGI 從“不可能”走向“基礎設施”“當年我們說要做 AGI,99% 的人覺得我們瘋了,只有 1% 共鳴。但那 1% 裡,聚集了世界上最聰明的人。”Sam Altman 回憶起 OpenAI 創立之初,沒人知道產品形態、沒人看好盈利模式,DeepMind 遙遙領先,但就是一群人圍在白板旁反覆討論:“我們是不是該做一件看起來註定失敗的事?”如今的 ChatGPT,看似是時代必然,但在彼時不過是“寫不出論文的模型 + 轉不動魔方的機器人”。✅ 啟示:真正有價值的創業方向,往往一開始看起來最不靠譜。而能否聚集“共鳴者”,才是項目能否啟動的關鍵。二、今天是人類歷史上最適合創業的時刻Altman 給出了一個有力的判斷:“今天是有史以來最適合創業的時代。”原因有三:01.模型爆發性增強:GPT-4o 等級的推理模型進入“新物理空間”。02.API 成本急速下降:上周 03 還是現在的 5 倍價格,降本還在繼續。03.產品創新嚴重滯後:絕大多數人還沒弄清楚怎麼用這些能力做產品。“模型能做的在這,大家產品做出來的在這”,Altman 指著天與地之間的落差。這意味著巨大的“創業機會窗口”:你不需要自己訓練模型,只需要去重新定義人和智能的互動方式。三、ChatGPT 的真正未來不是“問答”,而是“陪伴”Altman 坦言,ChatGPT 今年最重要的功能其實是 “記憶”:“它開始像一個真正認識你的人了,這意味著它未來可以幫你管理整個數字生活。”他描述的未來圖景非常具體:01.ChatGPT 成為一個“始終線上”的數字助手;02.它能主動幫你管理日程、發提醒、整合資料、下決策;03.它不是等你輸入,而是提前行動。這,就是“Her” 的世界的第一步。不是一個智能音箱,而是一個主動執行任務、理解你情緒與偏好的 AI 合作夥伴。四、Agent 是下一個決定性戰場Altman 明確指出:“今年是 Agent 之年。”過去 GPT 更像搜尋替代品,而 Agent 更像虛擬員工:01.能理解上下文、執行鏈式操作;02.能呼叫工具、寫程式碼、呼叫資料庫;03.像“遠端實習生”,能自動跑調研、寫提案、做決策。這意味著巨量的“知識型白領”工作,正在被模組化,等待 Agent 重組。“只要是能在電腦前幾個小時完成的任務,都可以被 Agent 自動化。”五、下一代人機互動:裝置、介面與機器人OpenAI 不只在做軟體。他們還在與 Jony Ive(蘋果前首席設計師)合作新裝置,目標是重新定義我們與電腦的互動方式。Altman 設想的未來介面:01.不再依賴手機;02.不再充斥通知和跳轉;03.你只告訴 AI 你今天的目標,它就自動完成一切。甚至,他還提到:“未來你訂閱高級 ChatGPT,我們可能會送你一台人形機器人。”機器人+AI,這不是笑談,而是 OpenAI 接下來的佈局。六、創業者最常犯的錯誤:複製 ChatGPTAltman 給出的忠告非常直接:“別做我們的核心產品。我們做得還不錯,而且有不小的領先優勢。”他舉例,創業者普遍會被熱點綁架,大家都想做熱門的五個方向,而真正的大機會,往往是在這五個之外。另外,很多人過早追求“防禦壁壘”,其實應該先把產品做出來,把使用者價值打實,防禦性自然會隨之而來。他回憶 OpenAI 前期其實也沒什麼護城河:“唯一的壁壘是——我們是市場上唯一好用的產品。”七、真正重要的,是能持續前進的“少數人”Altman 在最後的發言裡反覆強調“個人槓桿”的崛起:“未來十年,一個人或一個小團隊,能完成過去整個組織才能完成的事情。”協調成本將極度下降,模型成為工具鏈的一部分,AI 不再只是程式碼,而是能力擴展器。這將帶來兩個劇烈變化:01.個體生產力指數級上升;02.產品與服務從“由人供給”轉為“由智能供給”。他說:“OpenAI 的成功,並非因為一萬名工程師,而是幾十個關鍵人,再疊加整個社會過去百年的技術積累。”八、AI × 科學 × 能源:未來超級智能社會的三大支柱Altman 最看好的三個方向是:01.AI for Science:加速科學發現才是人類長期增長的真正引擎。02.能源重構:未來 AI 發展極限將受限於能源供應。03.超級智能:10-20 年內我們將擁有“難以想像的智能體”。他也坦言,最初沒有意識到 AI 和能源的深度耦合,“是 OpenAI 發展到一定階段才意識到,智能的極限是能量。”這也是他投資核聚變和基礎能源技術的根源。九、我們正在走入一個新的技術文明期Altman 最後說了一句很有力量的話:“五年前 GPT-3 還不敢拿出來用,現在我們已經擁有博士級智能。再給五年,你能想像我們會在那裡嗎?”這不僅是技術速度的判斷,也是一個強訊號:不懂 AI,未來將寸步難行;懂 AI,但不敢行動,同樣也將被浪潮淹沒。對我們來說,現在不只是一個追隨技術的時代,更是一個參與塑造未來的窗口期。這是最危險的時代,也是最有趣的時代。十、訪談原文Sam Altman: "99%的世界都認為我們瘋了,1%的世界真的與你產生共鳴,你知道,在10到20年內,除非出現嚴重錯誤,我們將擁有難以想像的超級智能。這是技術史上創辦公司的最佳時機,絕對是有史以來最好的時期。主持人: Sam,非常感謝你加入我們,也感謝你帶來的所有啟發。我的意思是,OpenAI本身對任何真正有抱負的人來說都是一個真正的啟發。也許我們從這裡開始,那些早期看似微小但後來證明極其關鍵的決定是什麼?Sam Altman: 我的意思是,僅僅決定去做這件事就是一個重大決定,我們非常接近不創辦OpenAI。AGI聽起來很瘋狂。我當時有Gary的工作,我們知道有很多其他很棒的事情要做,都會成功,所有這些偉大的初創公司,而AGI就像一個白日夢。而且即使這是可能的,DeepMind似乎也遙遙領先,無法企及。所以我們在2015年的這一年裡一直在談論創辦它,你知道,這就像擲硬幣一樣。我認為這是許多雄心勃勃的事情的故事,它們看起來如此困難,有如此多的好理由不去做它們,真的需要一群核心的人坐在房間裡,看著彼此的眼睛說"好吧,讓我們做這件事。"這些都是非常重要的時刻,我認為當有疑慮時,你應該傾向於它們。主持人: 所以有十億個理由,十億個原因,人們可能會說你不應該這樣做。我的意思是,從一開始,即使是你們發現的擴展定律之一,現在很難記住當時的情況。明年將是我們的10周年紀念,所以不是,是的,謝謝,但要記住10年前AI的氛圍是什麼樣的,那是在第一個有效的語言模型之前很久。Sam Altman: 我們試圖玩視訊遊戲,我們有這個小機器人手,可以勉強做魔方。我們沒有產品的想法,沒有收入,真的沒有想法我們會有收入。我們坐在會議桌和白板前,試圖想出寫論文的想法。這很難現在解釋,因為現在看起來如此明顯,當時看起來多麼不可能,ChatGPT的想法完全屬於科幻小說的範疇。主持人: 我的意思是,真正讓我印象深刻的一件事是,你在某種程度上集結了這個想法,即你應該致力於AGI,然後同時你找到了世界上最聰明的人,他們正在從事那件事,第二部分比聽起來容易。Sam Altman: 如果你說我們要做這個瘋狂的事情,它令人興奮,如果成功了很重要,而其他人沒有在做,你實際上可以把很多人聚集在一起。所以我們說"好吧,我們要朝著AGI的目標前進。"99%的世界都認為我們瘋了,1%的世界真的與此產生共鳴。事實證明,在那1%中有很多聰明人,你可以得到,真的沒有其他地方可以去。所以我們能夠真正集中人才,這是人們關心的使命。所以即使看起來不太可能,如果成功了,它似乎非常有價值,我們在初創公司中多次觀察到這一點。如果你做的事情和其他人一樣,很難集中人才,很難讓人們真正相信一個使命。如果你在做一件獨一無二的事情,你就有了一個真正好的順風。主持人: 好的,所以這個房間裡的一些人可能在想,我應該嘗試從一開始就創辦一個OpenAI規模的東西嗎?你知道,你也在第一次創辦Loop時工作過,有什麼經驗教訓嗎?Sam Altman: OpenAI從一開始就不是OpenAI規模的東西。OpenAI就像8個人在一個房間裡,然後是20個人在一個房間裡,很不清楚要做什麼。我們只是試圖寫一篇好的研究論文。所以最終變得真正大的事情不是從那樣開始的。我認為重要的是夢想如果成功了它可能會很大,沒有什麼大的事情是從那樣開始的。Vinod Khosla有一句我一直喜歡的話,"一個零百萬美元的初創公司和一個零十億美元的初創公司之間有很大的區別,但它們都有零美元的收入。"它們都像幾個人坐在房間裡,你們都在試圖讓第一件事奏效。所以我對嘗試創辦大東西的唯一建議是選擇一個市場,在那裡似乎有一些版本的未來,如果成功了可能會很大,但除此之外,就像長時間一隻愚蠢的腳在另一隻前面。主持人: 人們使用ChatGPT的方式發生了很大變化,人們使用你們API的方式發生了很大變化。像O3這樣的最新模型,什麼最讓你驚訝,現在有什麼突發行為或用例讓你印象深刻?Sam Altman: 我認為我們處在一個非常有趣的時期,我們有一段時間沒有處在其中了,但就像現在我們處在一個有趣的時期,相對於模型能力的產品積壓在這裡,人們已經想出要建造的產品在這裡很低。即使模型沒有變得更好(當然它們會變得更好),也有大量新的東西要建造,而且就像上周O3的成本是本周的五倍,這將繼續下去。我認為人們會對性價比的下降程度感到驚訝。我們即將推出一個開源模型,我認為人們會感到驚訝。我不想搶奪團隊的榮耀並預先宣佈這個,但我認為你們都會感到驚訝。我認為它會比你們希望的好得多,使用它在本地運行極其強大的模型的能力會讓人們對可能的事情感到非常非常驚訝。所以你有這個世界,模型能力已經進入了一種新的,非常新的領域。API的成本將繼續大幅下降,開源模型將非常棒。我認為我們還沒有看到推理模型能夠實現的新產品創新水平,這是有道理的,它們相當新。但這是利用這種存在的新事物的建立公司的特殊時機,這種周期表上沒有人建造過的新方塊。主持人: 所以只是在上個月,我認為我們才真正開始看到初創公司說好的,推理模型是不同的,你知道整個互動模型是不同的,真正為此而建造。對我來說,甚至記憶也變成了感覺像我在和一個瞭解我的人交談,這很有趣。Sam Altman: 是的,記憶是我們今年推出的我最喜歡的功能,我不認為OpenAI的大多數人會這麼說,因為我們推出了很多東西,但我喜歡ChatGPT中的記憶。我認為它指向了我們希望產品發展的方向,即你將擁有這個瞭解你的實體,連接到你所有的東西,並主動幫助你。它不僅僅是你傳送消息,它傳送給你一個,但它會一直運行,它會查看你的東西,它會知道何時給你傳送消息,它會知道何時代表你去做某事。你會有特殊的新裝置,它會整合到你使用的每個其他服務中,你就會有這個東西在你的生活中與你一起運行。我認為記憶是人們第一次能夠看到這種情況的到來。主持人: 回到過去,你發了一點關於《她》的推特,你知道什麼時候會到來,你能給我們一個關於那個的alpha洩露嗎?Sam Altman: 我認為逐漸是答案,不,如果我心中有一個日期,我可能只是興奮地告訴你。但就像現在記憶有一點,當它在後台持續運行並給你傳送東西時會更多一點。當我們發佈第一個新裝置時,它會更多。但我認為《她》的關鍵不是小小的硬體,而是這個東西達到了一個點,它可以在背景執行,感覺像一種AI伴侶。主持人: 我想我們開始看到LLM與你的真實資料整合的力量,你知道我聽到傳言MCP今天要來OpenAI了。Sam Altman: 是的,哦,今天我想是的,太棒了。主持人: 關於實際整合的驚人之處是什麼,比如你看到人們實際上在操作他們的核心資料庫嗎?Sam Altman: 你知道在YC,我們內部實際上有那個代理基礎設施,我們一直在使用它。人們肯定開始使用ChatGPT作為這種作業系統,與他們整個生活中的一切。整合到儘可能多的資料來源是重要的。始終與你在一起的裝置,如新型網路瀏覽器,與所有資料來源的連接,記憶,然後一個持續運行的模型。你把所有這些放在一起,我認為你會到達一個相當強大的地方。主持人: 你認為這在未來會在雲中,還是會在我們的桌面上,或者兩者的某種混合?Sam Altman: 所有這些的某種混合,人們肯定會為某些事情運行本地模型,比如如果我們能把ChatGPT工作負載的一半推到你的本地裝置上,沒有人會比我們更高興,我們的雲。我認為我們很快就會運行世界上最大和最昂貴的基礎設施,所以如果我們能推掉一些那會很好。但很多會在雲上運行。主持人: 獲得計算資源對你來說有多令人驚訝?Sam Altman: 我的意思是我們已經變得非常擅長它,但這是我們從零開始,chatgpt.com兩年半前甚至不存在,到像世界第五大網站,在某個時候希望將成為第三大,如果我們當前的增長率繼續,希望有一天成為第一大。我認為做到這一點無論如何都很難,就像你通常比我們得到的時間更長來擴展一個新公司的基礎設施。但你知道有很多人想要幫助。主持人: 嗯,你們一直在做的工作令人難以置信。我們看到像O3和O4 mini這樣的推理模型與像4o這樣的多模態模型平行發展。當這兩個執行緒匯聚時會發生什麼,GPT-5及以後的願景是什麼?Sam Altman: 我的意思是我們不會在GPT-5上完全實現,但最終我們確實想要一個整合模型,可以在需要時推理,在需要時生成即時視訊。如果你問一個問題,你可以想像它非常努力地思考,做一些研究,編寫一堆程式碼,及時為你建立一個全新的應用程式,或者渲染你可以互動的即時視訊。所以我認為這會感覺像一個真正新型的電腦介面,AI在某種程度上已經做到了,但當我們得到一個具有真正完整多模態性的模型時,如完美的視訊、完美的編碼、一切和深度推理,這會感覺相當強大。主持人: 看起來這可能是向體現方面的跳躍,你知道擁有視覺、語音和推理是向機器人的跳躍。Sam Altman: 我們想要我們的策略是首先掌握這一點,然後確保我們可以將其連接到機器人。但機器人的時代很快就要到來。我認為我對這樣一個世界非常興奮:當你註冊ChatGPT訂閱的最高等級時,我們也會給你免費寄送一個人形機器人。我的意思是,那個未來將會非常瘋狂。能夠擁有在現實世界中做真正工作的機器人,我認為我們現在離這個目標不遠了。機器人的機械工程一直很困難,認知部分的AI也很困難,但感覺觸手可及。我認為在幾年內,機器人將開始做超級有用的事情。製造十億個機器人仍然需要一段時間,但我不知道,我對這個問題很感興趣:你需要多少機器人來完全自動化供應鏈?比如如果你用傳統方式製造一百萬個人形機器人,它們能運行整個供應鏈,駕駛採礦裝置,駕駛集裝箱船,運行鑄造廠並製造新機器人嗎?然後也許你實際上可以快速在世界上獲得很多機器人,但世界對人類機器人的需求將遠遠超過我們目前供應鏈所能想到的。主持人: 我想當你坐在我的位置時,你主導的事情之一是在YC對硬科技的更多投資。坐在我們現在的地緣政治位置,我們需要做什麼來確保美國實際上能夠擁有製造業和工業能力?你知道,我們甚至不能製造精密螺絲和大型鈑金而不產生瘋狂的成本超支。我們能做什麼來確保這種情況在這裡發生?Sam Altman: 有所有這些人們一直拋出的答案,一段時間以來一直拋出同樣的東西,顯然沒有奏效。所以我認為所有的政策都值得嘗試,但我的直覺是我們需要嘗試新的東西,我們不應該繼續嘗試同樣失敗的東西。你知道,AI和機器人確實給我們一個新的可能性,以一種真正重要的新方式將製造業帶回這裡,將這些複雜的產業帶回這裡,我會說這至少值得嘗試。主持人: 是的,在這裡防禦性看起來像什麼?你知道經典問題之一是,你知道我如何創辦一個不會被OpenAI碾壓的初創公司,這是我們聊天中的第一個問題。Sam Altman: 我們不想碾壓你。看,我們要做我們的事情,希望做得很好。我們要嘗試從ChatGPT中製作最好的超級助手,我們要加入我們認為需要加入的東西。但這只是我們面前機會的一小部分,當人們說我要創辦一個新的初創公司,我要製作ChatGPT的一個版本時,這讓我們感到難過,因為我們認為我們會做得很好,我們有一個相當大的領先優勢。但還有很多空間可以追求,有很多令人難以置信的其他公司使用我們的平台建立起來。我們希望讓你們所有人更容易,我們希望做更多的事情,比如現在你可以想像ChatGPT可以為新的初創公司帶來很多流量,我們可以在ChatGPT內部做一種新型的應用程式或代理或任何你想稱之為商店的東西,為新的初創公司帶來流量來幫助。你可以想像我們可以做一個用OpenAI登錄,人們可以帶著他們的個性化模型,輕鬆連接到新的初創公司,這可能在很多方面都會有幫助。所以我們想成為其他人建造東西的平台。我們的建議是不要建造我們的核心聊天助手。但還有另一個問題,這對我見過的每種創業歷史時刻都是一樣的,人們同時對同樣的事情感到興奮。所以與其去建造你想到的每個人都在做的事情,我們是非常社會化的生物,我們受到其他人正在做的事情的很大影響。我打賭如果Gary列出他最常聽到的人們想用AI建造的五個想法,房間裡一半的人會為其中一個舉手。希望在這個房間裡有一天會創辦一家比OpenAI大得多的公司的人,我敢打賭那個人不在這五個中的任何一個上工作。所以如果其他人都試圖做同樣的事情,很難建立可防禦的東西。有時候它會奏效,這不是不可能的,但最好的、最持久的公司通常不會做與其他人相同的事情。這給你時間在你必須回答防禦性問題之前弄清楚什麼是偉大的產品,如何建造技術。我們花了很長時間才弄清楚如何回答ChatGPT的防禦性問題。我們建造了這個東西,很長一段時間唯一的防禦性是我們在市場上有唯一的產品。然後我們開始有一個開始知名的品牌。現在我們有記憶和連接以及一大堆其他真正可防禦的東西。但你知道,在很長一段時間裡,這對我們來說是一個公平的批評,我們沒有任何防禦性策略,我們只是有市場上唯一好的東西。然後你有一些窗口,在此之前你必須建立防禦性。主持人: 我們過去談論過的一件事是我們都是Peter Thiel的忠實追隨者,他談論了很多關於逆向思維但正確的問題。Sam Altman: 我認為Peter是個天才,絕對是。主持人: 你以真正根本的方式逆向思維。我的意思是回到對話的開始,人們認為哦,擴展定律有價值的想法,今天它被視為基本真理,但不是很多年前,它與基本事實完全相反。當你得到那種推回時,你和你的團隊感受到什麼?你說你知道,我不會做你告訴我的事情,你知道我要推回,得到推回意味著這是一個逆向思維的領域,我們要在這裡下注,我們要是對的?Sam Altman: 面對很多其他人告訴你你錯了時保持信念是很困難的,我認為說這很容易的人不誠實。隨著時間的推移會變得更容易,但就像我記得有一次我可以說這個,因為它被公開了,在OpenAI早期不是早期,幾年後,Elon給我們發了一封真的很刻薄的郵件。我們已經合作了一段時間,說我們有零%的成功機會,不是零,零,我們完全失敗了。我們最近向他展示了GPT-1,他說"這是垃圾,不會奏效,沒有意義。"他當時是我的英雄,我記得那天晚上回家時想"如果他是對的怎麼辦,這糟透了。"你知道你在這件事上如此努力工作,就像你把生命力傾注其中,你有這些聰明的人,你尊敬的人,他們說"你完全錯了。"或者你知道這永遠不會奏效,或者你沒有防禦性,有人會殺死你,這會發生,那會發生。我沒有神奇的答案,除了這真的很艱難,隨著時間的推移會變得更容易。但這會發生在你們所有人身上,你就像被擊倒,站起來,拍掉身上的灰塵,試圖繼續前進。主持人: 讓我們談談AI代理,你知道那是AGI的第三級。我認為Greg Brockman最近談到了這是代理的一年。使用像操作員程式碼直譯器這樣的工具,你認為什麼樣的工作流程會消失或出現,我們還沒有準備好?Sam Altman: 很長一段時間,ChatGPT就像Google的替代品,你可以問它大約和Google查詢一樣長的東西,你知道也許像半小時的Google查詢,它可以組裝在一起,這仍然很好,但它仍然感覺像搜尋的更高級版本。但現在你開始看到事情,比如你可以真正給程式碼直譯器一個任務。或者深度研究,你有這個東西去做一堆事情,然後帶著提案回到你身邊。這就像一個非常初級的員工,可以在短時間內工作,如果你想想世界上有多少工作是可以在電腦前完成的,在幾小時的時間段內,然後有人說好,這足夠好或不夠好,這是相當多的。所以我認為這將會發展,這是我們之前談論的那種積壓的一部分,但我認為這將會走得很遠,我認為用當前的O3,更不用說我們的下一個模型,你可以建造很多這樣的體驗。主持人: 你如何看待人機互動和介面的未來,是什麼樣的介面限制激勵了你?Sam Altman: 你知道我認為科幻小說正確的一件事是介面幾乎融化的想法。就像今天的語音介面,我們認為是有點糟糕的東西,因為它們不能很好地工作。但理論上,如果你能對電腦說"這就是我今天想要發生的事情,如果有任何變化,如果我被延遲,如果你知道發生了什麼,我相信你去做所有這些事情,但我不想被打擾,我不想考慮它。"它就做了這一切,你相信它奏效了,那將是一個幾乎融化的介面,除了當它你知道就像一個超級棒的人類助手需要和你交談時。但你會真的很興奮。當我今天使用我的手機時,我感覺就像我在紐約時代廣場走下去,被人撞到。我愛我的手機,這是一個令人難以置信的技術,但就像這裡的通知,這件事發生,你知道這件事彈出,像明亮的顏色,像各種閃爍的東西在我身上,這只是壓力。我可以想像一個介面,電腦大部分融化,它做我需要的東西。但我真的相信它會做一個很好的工作,向我展示資訊,判斷什麼時候不行動,代表我行動。我對此非常興奮。主持人: 我不會告訴你新裝置是什麼,嗯,我會一對一告訴你,但我不會告訴房間,但這非常像我希望我們能向人們展示與電腦不同的方式。Sam Altman: 這是你帶來地球上最偉大的在世設計師之一Johnny Ive的原因之一嗎?主持人: 是的,他真的很棒。他真的不負所有的炒作。Sam Altman: 我認為在過去50年中,我們在電腦介面方面真的只有兩次大的革命。所以我們有鍵盤、滑鼠和螢幕,然後我們有觸摸和手機,做一個新的機會並不經常出現,我認為AI真的完全為完全新的東西打開了競技場。我認為如果你必須選擇一個人來押注弄清楚這一點,他是明顯的選擇。主持人: 是的,所以我們在YC一直在辯論的一件事,你知道不知道這是否好,對很多想要建立B2B SaaS的軟體工程師來說可能很可怕,這個想法是如果在未來你有你的底層資料庫,你有一個API層,是你的存取控制並強制執行你的業務邏輯,然後介面是LLM,就像你的電腦字面上是代理,你有及時軟體,它們就像複雜的流程,你只是要進去,它會為你編碼生成一個工件或一個窗格,做你想要的事情,如果你需要它,它會進入檔案並帶回來。Sam Altman: 這會發生。看,這裡有兩種方式可以看待這個。首先,假設你們所有人都像創辦初創公司或已經創辦了初創公司,想想創辦初創公司,這是技術史上創辦公司的最佳時機,絕對是有史以來最好的時期。是的,這是,但它之所以是最好的部分原因是地面在搖晃,確實有很多這些挑戰。所以一方面,你可以看像這樣的東西說我們一直是一家SaaS公司,現在所有的程式碼都可以在有人需要時及時生成,這對我們意味著什麼。或者你可以看著它說哇,這會發生,但它會發生在每個人身上。初創公司獲勝的方式是當它們可以比大公司更快地迭代,它們可以以更低的成本做到這一點。就像大公司有很多優勢,但它們迭代非常慢。如果某樣東西非常便宜,那麼它們的很多大優勢就會消失。所以你可以以一種或另一種方式看待所有這些問題,但我建議看待它們的方式是每個人都將面臨同樣的挑戰和機遇,但當行業的時鐘周期改變這麼多時,初創公司幾乎總是獲勝,我們可能從未見過它改變這麼多,從那個方向行動,我認為你會處於令人難以置信的狀態。主持人: 也許你可以邀請我有時做一個關於你可以隨著時間建立的防禦性領域的演講,因為我認為這是人們的內在問題,他們說"哦好的,你知道我是一家SaaS公司,將會有及時軟體。"我認為問題背後的問題是"什麼是實際的防禦性策略?"所以有一天那會是一個有趣的演講。我想後台在我們最後一次活動中,你知道我們在談論這本書,有點像經典的麥肯錫著作《七種力量》,我只是想著,我從未想過我們兩個技術專家會坐在那裡實際引用一本麥肯錫顧問知名的書。Sam Altman: 感覺很不對,是的,我不知道,從美學上感覺很糟糕,但是的,七種力量。主持人: 我想我們正在進入這個智能時代,我喜歡你的那篇文章,你認為這個時代對我們如何生活、如何工作以及作為一個社會如何為彼此創造價值意味著什麼?Sam Altman: 你知道,在某種意義上,技術的整個弧線是一個故事,即我們發現更多科學,建造更好的工具,整個社會就像把腳手架建得更高一點。我們有了這個更令人印象深刻的工具鏈,重點是一個人可以做比以前多得多的事情。這已經持續了很長很長時間。每一代人,當然我的意思是,如果你比較今天的一個人和100年或1000年前的一個人,一個人的能力要強得多。社會契約是你投入一些東西,你知道你建造下一層腳手架,但現在有人可以用這套新工具,用這個你知道的新層次做的事情是相當令人難以置信的。我認為接下來10年與過去10年最不同的感覺之一是單個人或有很多主動性的小團體能夠完成多少事情。這比聽起來更重要,因為協調成本是巨大的。當我們能夠用更多知識、更多工具、更多資源等等來賦能人們時,我認為我們不僅會看到稍微多一點的東西被建造,而且由於人與人之間的這種協調成本,我們會看到真正的變化。所以我認為一個人或小團隊能完成的數量,做這件事的滿足感,最重要的是我們都會為彼此獲得的東西的質量將是相當了不起的。主持人: 當我回想OpenAI的故事時,我經常想到做出了驚人工作的關鍵幾十個人,這些工作導致了我們現在所擁有的一切,但我試圖記住,我也總是必須想到歷史上可能更多的數千萬人,他們開始挖掘岩石,弄清楚半導體是如何工作的,建造電腦,建造網際網路,等等,讓這個小團體能夠在如此高的影響力水平上工作,如果沒有社會的集體產出,他們永遠無法做到。你對這種程度感到驚訝嗎?我的意思是這個房間是你在向皈依者傳教,但這很棒,順便說一下,我的意思是這就像將要創造未來的人的集合,但從未有過像這樣的聚會在一個地方,這很酷。但與此同時,你知道我們在某種程度上,這是整個社會的前沿,因為有75億人可能甚至還沒有嘗試過這些東西,不僅如此,他們與它的主要互動是它不起作用,它產生幻覺。你對現在面前的3000人有什麼要說的?Sam Altman: 這是矛的薄刃,我們字面上是第一個教導人們並給人們這項技術的,首先這是一個很好的位置。在YC工作最有趣的事情之一是你可以生活在前沿,你可以在先鋒隊周圍。這只是一種有趣的生活方式,你可以看到即將到來的事情,你知道希望對塑造它有一些小的影響。但我不知道,我認為AI現在有點主流。它不是的負面方式是大多數人仍然把AI想成ChatGPT,很多人使用ChatGPT,但他們像聊天機器人一樣使用它,他們還沒有理解接下來會發生什麼,可能你們都有。但我不知道,能夠稍微生活在未來是一種巨大的特權,你知道去為其他即將到來的人建造東西。主持人: 所以你是世界上最擅長聚集最聰明的人的人之一,關於招聘你必須學到的一些最困難的教訓是什麼?這個房間裡的很多人,他們從未管理過一個人,更不用說讓某人辭掉他們在大公司的六到七位數工作來為他們的革命工作。Sam Altman: 招聘真正聰明的人,他們顯然真的有動力,真的有生產力,可以作為團隊的一部分工作,我認為確實能讓你走90%的路。人們專注於其他要招聘的東西的程度總是讓我驚訝。所以我認為你知道,鑑於我們現在不能做完整的45分鐘,真正聰明的人,有動力,好奇,自我激勵,勤奮,有良好的成就記錄,可以作為團隊的一部分非常好地工作。與公司的願景保持一致,所以每個人至少朝著同一個方向前進,這效果很好。主持人: 我的意思是通過強有力的記錄,你是指那個像你知道的在頂級機構做了20年管理員的人,還是因為你走了另一條路?Sam Altman: 我不,特別是在初創公司早期,我不相信招聘那些人。那裡的經驗是有價值的,有時候你真的需要那個,但我沒有成功,坦白說,像YC也沒有太多成功,試圖從像非常資深的知名管理員開始,作為初創公司的第一個僱員之一。我會選擇年輕的、有衝勁但顯然能完成事情的,而不是有極其完美記錄的人。會有一個時候你以後需要一些那樣的人,但我不知道你怎麼做,但當我在閱讀YC申請時,我從不看簡歷項目。你知道你在Google工作或去了這所大學,我從不在乎,我總是直接去看你做過的最令人印象深刻的事情。然後有時我不會被那個說服,去看簡歷,但那對我來說總是次要的事情。主持人: 所以看看他們實際編碼了什麼,他們建造了什麼,比如他們的速度,他們如何思考問題和解決問題。我看到PB在那裡,他有這句話,我希望這是他的話,因為我已經把它歸因於他很多次了,"僱傭斜率而不是y截距",我認為這是令人難以置信的好建議。讓我們談談作為OpenAI的CEO,總體上一些最困難的教訓是什麼?主持人: 我不推薦它。沒有單一的挑戰會那麼困難,但我們必須同時做的事情數量和以各種方式針對我們的其他大公司的數量,就像比我認為可能一次處理的上下文更多,更多的從大決定切換到完全不相關但也是巨大的決定。Sam Altman: 展望未來10到20年,你個人最興奮的是什麼,人們現在應該建造什麼來使那個未來成為可能?你知道有科學家,有軟體工程師,有人,我的意思是這是一個全技術人群。主持人: 看,有很多。你知道在10或20年內,除非出現嚴重錯誤,我們將擁有難以想像的超級智能。我非常興奮看到那會如何發展。被迫選擇一件事,不把它留作模糊的答案,我認為科學AI是我個人最興奮的。我相信,從一階近似來看,世界上所有長期可持續的經濟增長,像一切導致人們生活變得更好的東西,基本上是發現新科學並擁有相當好的治理和制度,這樣科學就可以得到發展並與世界分享。但如果我們能用AI大幅增加新科學發現的速度,我相信這將復合到每個人生活的令人難以置信的增長和奇蹟。所以我認為在那個時間框架內我會選擇那個。主持人: 我想你個人招募Helion來做Y Combinator的事情之一,他們在聚變方面做著令人難以置信的事情,這是你當時就在思考的事情嗎,還是你知道顯然能源和氣候甚至在那時就是每個人擔心的一部分?Sam Altman: 但這有點尷尬,我長期以來一直痴迷於能源和AI,作為我認為將是兩個最重要的事情,或者至少是我感到最熱情的事情。真正像我知道我想要集中時間和資本的兩個領域。我不能回憶起在開始OpenAI之前我曾經想過它們會如此明顯相關,你知道能源最終會成為我們能擁有多少智能的根本限制因素。我不知道我怎麼錯過了這一點,因為我通常善於思考這樣的事情,但我真的把它們當作非常獨立的,你知道我們需要AI來擁有所有想法,需要能源讓所有事情在世界上發生,我顯然在開始OpenAI後立即痴迷於AI的能源,但像2015年之前我認為我把它們當作正交向量。主持人: 我的意思是我確定你看過那個圖表,所有房間裡的有效加速主義者都看過,基本上有高生活標準,真的是我痴迷於這個圖表,我長期以來一直痴迷於那個圖表。它直接關係到任何給定的人可以獲得的能源量。Sam Altman: 是的,我認為這是在很長很長的人類歷史時期內最令人驚嘆的圖表之一,生活質量和能源豐富度以及能源成本的相關性。所以那個圖表和類似的圖表是我首先痴迷於能源的重要原因,它就是這種瘋狂的高影響事物。主持人: 聽起來這不完全是相互依賴的,更像是你有雙重興趣,但你字面上把它們編織在一起了?Sam Altman: 我有一個興趣,就是極端豐富,就像什麼是技術槓桿點,讓未來變得瘋狂不同和更好,這是兩個關鍵的東西,但不是作為同一個向量。現在我很多思考我們實際上能在地球上建造多少能源,在運行GPU產生的熱量讓地球過熱之前,我們能走多長時間,在我們必須把所有GPU放在太空之前。但在那時,是的,我真的把它們想得不同。主持人: 我的意思是,技術專家獨特地理想擁有的一個定義信念似乎是他們相信我們實際上可以創造那種豐富,你知道如果你有按需的智能,然後你有按需的能源,那麼會如何發展?就像你知道所有被愛心機器監督,我從未參加過歐洲的那些去增長會議之一或其他什麼。但我一直有點想去一個。這是反去增長,這完全是反去增長會議。但我會喜歡坐在黑暗中,在寒冷中,沒有人拿出他們的手機,只是談論一切有多可怕,沒有希望。我想體驗一次那種心態,因為我從未感受過。我認為這是對我來說最難認同的運動之一。顯然這就像我的團隊和我的世界,但初創公司的樂觀主義,舊金山的,技術行業的,AI的,你們所有人將要做的。那是我大腦自然居住的空間,對我來說很難真正同情另一邊,但我很確定我們是對的,他們是錯的。主持人: 但我們如何到達那裡呢?對吧,你這個令人難以置信的技術真正為他人創造豐富的願景,我的意思是你已經做了這麼多,但你知道為我們指明道路,你知道我們如何其他地到達那裡,我們如何讓它更快,你知道政府在這方面發揮作用嗎?Sam Altman: 幾乎就在五年前,差不多就是這一周,我們把GPT-3放入API,人們開始玩它。它幾乎不能使用,相當尷尬。在五年內,我們從這個幾乎不能寫句子的東西發展到像你知道的在大多數領域都是博士級智能的東西。再過五年,我認為我們將能夠保持同樣的進步速度,我認為如果我們這樣做,如果我們也建造基礎設施來為人們服務,那麼這個房間裡的每個人都會弄清楚如何採用那項技術並將其適應每個人需要的東西。我最喜歡的AI類比是電晶體,就像歷史技術類比。你知道一些人發現了新的真正重要的科學發現,社會、經濟或任何你想稱之為的東西只是開始工作,做它的事情,那個魔法只是想出如何為人們創造令人難以置信的價值,真的在相當短的幾十年內顯著提高生活質量。我認為這將更快更陡峭,但我認為它會朝著同樣的方向發展。你知道我們需要製造偉大的技術,弄清楚剩餘的科學東西,我不認為還剩下很多。我們需要弄清楚如何建造你們所有人需要的基礎設施來提供服務。然後你們所有人都必須去弄清楚世界上的人們用這個新魔法需要什麼。主持人: 所以讓我們回到2005年,Y Combinator的第一批。你是如何聽說Paul Graham的,你在讀他的文章,我在讀他的文章。Sam Altman: 所以我聽說過他在網際網路上有這種崇拜追隨,但我從Blake Ross那裡聽說了當時被稱為夏季創始人計畫,現在只是叫Y Combinator,我和他住在同一個新生宿舍,他在Facebook上發佈了關於它的資訊。然後我想Paul說"哦,你是新生,你知道有另一批即將到來。"主持人: 你通過電子郵件回覆了他什麼?Sam Altman: 你知道有趣的是你提起這個,我幾天前剛剛挖出了那封電子郵件,因為我感覺我隨著時間被錯誤引用了,我很好奇。他對故事的講述是我說我是二年級學生,我要來,但我寫的比那好得多,就像哦,也許有一些誤解,你知道實際上我是二年級學生,我仍然可以做到,如果第二天還可以來的話,我很想來。主持人: 所以在某種程度上,你知道瘋狂的事情是你坐在3000個有點像你的人面前,你知道他們坐在你2005年的位置。鑑於你知道的所有事情,你看到的所有事情,自那以來你學到的所有事情,你會對那時的Sam Altman說什麼,你知道你最驚訝你不知道的事情是什麼?Sam Altman: 我的意思是只是需要,我的意思是你經歷過,你知道你做過,我希望有人教過我在長期內信念和韌性的重要性。人們真的不談論那有多困難,一開始很容易,但你的儲備會耗盡,以及如何在長期內保持下去。也只是相信它最終會奏效。就像顯然我的第一個初創公司並沒有那麼好。我認為很多人在一個失敗的初創公司後就放棄了,但初創公司一直不奏效。學習如何繼續前進,繼續工作,我認為真的很重要。發展對自己直覺的信任,隨著時間的推移,當你完善你的決策和直覺時增加那種信任,我認為這真的很重要。有勇氣從事不時髦但是你相信和關心的東西,我認為這真的很重要。我最近有了一個孩子,每個人在你有孩子時告訴你的事情是這是你將做過的最好的事情,但也是你將做過的最困難的事情。就像好的部分比你能想像的要好得多,困難的部分要困難得多,這都是完全正確的。這也基本上是我對做企業家的感覺。好的部分真的很棒,比你想的要好,困難的部分像令人震驚地比任何人能以對你有意義的方式表達的要困難得多,你必須繼續前進。主持人: Sam Altman,大家感謝,感謝。 (出海研究院)