推廣活動

Google發佈世界模型 Genie 4:打一行字,視訊裡就下雪;再打一行字,人物開口說話

RexAA
•
AI速讀
Google DeepMind 正式推出新一代世界模型 Genie 4,實現了從「視訊觀看」到「場景導演」的跨越。使用者可透過自然語言即時改變環境(如天氣、物體),且場景內含原生音訊與可對話角色。技術上,該模型結合 Gemini 的推理能力與 Genie 的渲染能力,旨在為 AGI 提供模擬訓練場。儘管在創意預演與原型開發上展現巨大潛力,但目前僅對受信任測試者開放,且在物理一致性與長期穩定度上仍有明顯侷限,且缺乏公開的第三方性能參數。

昨天深夜(美國時間 10 月 27 日),Google DeepMind 發佈了 Genie 4。

看完官方頁面和演示,我的判斷是:世界模型這次從“能走進去看”,變成了“能邊走邊導演”。畫面、環境聲和角色對白一起即時生成,你打一行字,世界就跟著變。

官方的說法是:“我們新的世界模型,帶來前所未有的真實感,並改進了即時互動模擬。”

官方說 Genie 4 畫面更真實,動作更流暢,還有原生聲音。視訊裡的聲音全部由 Genie 4 直接生成。

世界模型和視訊模型不一樣。視訊模型生成一段視訊,你只能看。

世界模型生成一個能走進去的場景。你按鍵盤走動、轉鏡頭,畫面即時跟著變。

▲ 圖:視訊模型和世界模型的區別

DeepMind 做這個,不只是為了好玩。官方說,理解和模擬世界是通往 AGI 的關鍵一環。

模擬出來的世界,可以給機器人和 AI 代理當訓練場。AI 先在模擬裡練、在模擬裡測,再進真實世界。

Genie 4 背後接了兩類 Gemini。Gemini Omni 負責讓畫面裡的樣子和行為貼近真實世界。另一類 Gemini 負責推理,讓模擬前後連貫。

官方把這次的進步分成四塊:即時改世界,物理和人物,聲音,多步驟事件。下面一塊一塊看。

即時改世界:鍵盤走,打字改

官方頁面的演示都是即時互動的錄屏。使用者用鍵盤控制移動和鏡頭,用文字提示改變場景。

畫面左下角是 WASD 按鍵,右下角是方向鍵,中間會彈出輸入框。

最有代表性的是湖上吹薩克斯這段。

一個男人站在湖中的平台上吹薩克斯。使用者輸入“一條鯨魚的尾巴在他身後升起”,水面翻起水花。

使用者再輸入“開始下雪”,雪落下來,慢慢積在他的外套和頭髮上。整個過程裡,鏡頭一直在動,人一直在吹。

官方原話是:你可以用自然語言即時修改模擬,比如改天氣、移動鏡頭、加一個人或物體。Gemini 會按周圍場景調整你的提示。兩次輸入之間,Gemini 還會監控並引導場景,讓世界連貫地往下走。

這一點在官方演示裡看得見。使用者只打了半句“開始下……”,右上角的“推理步驟”框裡,Gemini 把它擴成了一整段:使用者要求持續的大雪;把大雪融進場景,同時保持角色的薩克斯演奏、16mm 紀錄片的質感和環境的一致。

也就是說,你打的字不是直接交給 Genie 4。中間先過一道 Gemini,它把你的話改寫成適合當前畫面的指令。

物理和人物:西瓜被砸開,站務員會說話

官方說,Genie 4 能模擬空氣動力學、碰撞這類物理場景。

下面這段,石台上放著一個西瓜。使用者輸入“把一尊沉重的白色大理石古典半身像砸在西瓜上”。

▲ 圖:一句話,石像落下砸開西瓜

官方認為,人物是這次“最大的飛躍”。角色動作自然,會對環境做出反應,也能被即時引導。

官方放在這一組的還有一段 80 年代日本鄉下車站。站台上擠滿了人,一列紅色的列車停在最近的軌道上。

使用者輸入“站務員提醒乘客”。站務員轉向鏡頭說:“請注意站台邊緣,下一班車兩分鐘後發車。”

聲音:角色會接你的劇情

官方說,Genie 4 是他們第一個原生生成音訊的即時世界模型。每個世界都帶自己的環境聲,從樹林裡的風聲到海灘的浪聲。

官方認為,真正的前沿是人說話。Genie 4 加入了即時對話,角色會對你的輸入、對世界裡發生的事做出反應。

兩個年輕人騎摩托車過橋。使用者輸入“他回頭看。她問他覺得他們能不能挺過去”。

後座的女孩隨後開口:“你真覺得我們能挺過去嗎?”

使用者又先後輸入了爆炸和“巨大的外星觸手”。遠處的城市冒起濃煙,巨大的觸手從樓群裡伸出來。

多步驟事件:Gemini 在旁邊盯著

這一塊用到的是 Gemini 3.8 Flash,Gemini 系列裡偏快的一個型號。

官方說,它在循環裡當“引導代理”。Genie 4 即時生成世界時,Gemini 持續觀察畫面,把目標拆成一串步驟,再看新進來的畫面,確認每一步有沒有成功。

世界變了,或者使用者插手了,它就當場調整計畫。

下面這段能看到這個過程。右上角的“推理步驟”框,就是 Gemini 寫給 Genie 4 的指令。

▲ 圖:右上角是 Gemini 的推理步驟

玩家拿著魔杖,盒子裡站著一隻孔雀。使用者輸入“一道閃光把孔雀變成貓”。

右上角的框隨即寫出:玩家把雕花木魔杖向前一揮,一道魔法閃光,把木盒裡的孔雀變成一隻三花貓。畫面跟著變了。

官方還拿它做了機器人實驗。這次負責拆步驟的換成了 Gemini 4 Argon。它和 Genie 4 一起,模擬 Apptronik 的 Apollo 人形機器人下跳棋。

Argon 把使用者佈置的任務拆成步驟,以文字的形式穿插著交給 Genie 4。Genie 4 一邊接收,一邊渲染。

注意,這是在模擬裡下棋,不是真機器人在下。官方說,這為在想像出來的世界裡模擬各種場景開了一條路。

受信任測試者拿它做什麼

官方說,Genie 4 還是一個早期、實驗性的模型。他們和創意行業、新聞、教育、遊戲、工程領域的測試者合作,看它能用在那、還差在那。

官方列了四類用法:

第 1 類 · 共 4 類

創意預演

電影人可以走進一個即時模擬的場景,拍好幾條,現場調鏡頭、燈光、台詞和動作。


第 2 類 · 共 4 類

歷史場景

攝影記者在試,一張歷史老照片能不能在幾秒內變成走得進去的場景。團隊也在試用它看山洪、山火這類短時事件怎麼發生。


第 3 類 · 共 4 類

互動體驗原型

遊戲開發者在寫引擎程式碼之前,用自然語言測視覺風格、材質和玩法,幾秒鐘從想法到可以探索的原型。


第 4 類 · 共 4 類

模擬

企業夥伴在評估用它快速生成“從零到一”的場景。

上面四類用法,都是官方轉述測試者的說法,沒有具體案例和效果資料。

拿到的人怎麼說

能用的人不多。下面幾位,要麼拿到了早期訪問,要麼就在 Genie 團隊裡。

華頓商學院的 Ethan Mollick 說,Genie 4 是“相當瘋狂的體驗”,邊玩邊生成遊戲一樣的環境。

“它不是完美的,但我輸入‘住著機器人和馬的新哥特粗野主義城市’,一分鐘就造出來了。然後我讓它加龍,再加一隻友好的水獺 NPC,全是即時的。”

▲ 圖:機器人和馬,再加龍,再加水獺

他的錄屏裡能看到 Project Genie 的介面。右上角有一個影格率讀數:每秒 24 幀左右,最低 21、最高 25,每幀約 41.7 毫秒。官方沒公佈影格率,這是目前能看到的唯一數字,只來自他這一次錄屏。

他還造了一間到處在跑 DOOM 的辦公室:每台電腦在跑 DOOM,牆上也在跑 DOOM。接著他輸入“我那個是惡魔的同事出現了”“他拿著鏈槍”“他給了我一筆獎金”。

▲ 圖:惡魔同事出現,拿著鏈槍

Justine Moore(@venturetwins)說,從一個起始提示就生成了帶環境和角色的可互動世界,能用提示改,帶原生音訊,是“一大步”。

Genie 4 的核心作者之一 Aleksander Hołyński,發了一個更私人的用法:走進老照片。

“它代替不了真正的記憶,但走進老照片會讓人釋懷,尤其是照片裡有已經不在的家人。”他走回的是和媽媽在波多黎各海邊夜裡散步的一張老照片。

▲ 圖:Hołyński 用老照片生成的海邊夜景

他說,原圖是舊相簿裡一張很暗、很糊、解析度很低的照片,生成出來卻挺接近真實。他還特意讓它別顯示媽媽的臉。

有人在下面留言,說這以後可以拿來重建犯罪現場,對警察和司法會是革命性的。Hołyński 自己的回覆是:短期內應該避免。

“這些畫面看起來很真,它們本來就是要看起來真,但並不總是符合事實。我會避免用它們去做後果嚴重的事。”

參與過 Genie 早期研究的 Jeff Clune 回顧了這條線。Genie 1(2024)勉強能用,Genie 2 八個月後還行,Genie 3 又過九個月變得驚人。到 Genie 4,“看起來已經可以用在好萊塢和 VR 上了”。

質疑也有。The New Stack 在 X 上的說法是:Genie 4 讓 AI 代理在生成的世界裡練習多步驟任務,但“不穩的物理限制了它有多可信”。

這些都是個人體驗或媒體判斷,沒有一條是同一批提示的對比測試。說話的人裡,Hołyński 和 Clune 跟 Genie 團隊有直接關係。

誰能用:現在只有受信任測試者

官方原話是:Genie 4 已作為研究預覽,發給了受信任測試者。

接下來“即將”開放給兩撥人。一撥是 Google AI Ultra 訂閱者,在 Project Genie 裡用,官網的候補名單就開在這裡。另一撥是 Gemini API 和 Google AI Studio 的早期訪問夥伴。

Logan Kilpatrick 也說,它即將首次通過 API 提供。價格、地區、商用條款,目前都沒公佈。

▲ 圖:三個入口,現在只有一個已開始

沒有能比的數字

上一代 Genie 3,官方給過數字:720p,每秒 24 幀,場景能保持幾分鐘一致。Genie 4 的頁面沒有這些數字。前面 Mollick 錄屏裡的每秒 24 幀左右,是個人使用時的讀數,不是官方參數。

Artificial Analysis 也還沒收錄 Genie 4,目前沒有第三方成績。

▲ 圖:Genie 3 有數字,Genie 4 沒有

演示視訊本身也要打個折扣。每段視訊畫面底部都有一行小字:“結果僅作示意,片段已剪短。”

也就是說,我們看到的是剪短的片段,不是連續玩半小時的樣子。

官方自己寫下的短板

官方在“當前侷限”一節寫得很直白。短時間內場景能保持連貫,但時間一長,畫面細節和物體持續性會變、會漂。

物體持續性,指的是東西離開視線再回來,還是原來那個樣子。

模擬跑得越久、複雜編輯改得越多、在場景裡走得越遠,越明顯。複雜的物理互動、即時音訊的精準度、可讀的文字、空間精準度、長期一致性,都還在研究中。

▲ 圖:DeepMind 自己寫下的短板

安全上,官方說上線前做了內部安全評估。先發給受信任測試者,是為了在更大範圍開放前拿到早期反饋。

Genie 4 生成的所有視訊和音訊,都帶 SynthID 水印。這是Google自己的隱形水印,用來識別 AI 生成的內容。

這幾條短板正好對著賣點。聲音有了,准不準是另一回事。能打字改世界,改多了會不會亂,官方自己也說會。

最後

DeepMind 在文末說了他們看好的方向:混合世界模型。程式碼和語言模型負責邏輯和結構,像素級模擬負責感官。

具體到 Genie 4,Gemini 在後台規劃結構和劇情時間線。Genie 一個像素一個像素地渲染世界長什麼樣、聽起來怎樣、怎麼反應。

官方說,這是往這個方向走的早期一步。

它強在方向:畫面、聲音、對白一起即時生成,還能邊玩邊改。弱在證據:沒有第三方成績,沒有可比的參數,演示是剪短的,普通人也用不上。

等 API 放出來,有人拿同一批提示連續玩上十分鐘,才知道它到底走了多遠。 (AI范兒)