李開復、張亞勤爐邊談話：中國大模型在C端的機會更多，技術不會帶來永久領先

以下為本次對話的要點：

①李開復和張亞勤都認為大模型是AI領域當前最重要的革命，其中最關鍵的是規模效應和資料的高效壓縮。儘管大模型在智慧上取得了顯著進步，但仍面臨效率低下、對物理世界理解不足以及邊界問題等挑戰。

②李開復強調，科學理論和工程實踐對於AI發展都是不可或缺的。零一萬物內部堅持打通科學和工程，只有瞭解科學原理，才能有效評估和優化模型。同時，工程實踐能夠確保科學研究成果轉化為實際可用成本可控的產品。

③李開復分析了ToC和ToB市場在AI時代的應用場景，認為中國ToC市場短期內有更多機會，而國外兩者都有機會。他也提出了TCPMF（技術、成本、產品、市場契合度）的概念，並強調在開發應用時需要綜合考慮這些因素。

④張亞勤認為無人駕駛L4+是具身智慧的最大應用，可能會是第一個實現新圖靈測試的領域。大模型的發展為無人駕駛提供了數據生成和端到端學習的幫助，預計在未來幾年內會有顯著進步。

⑤兩位專家對AGI的實現整體持樂觀態度，他們認為AGI的定義因人而異，但關鍵在於AI的能力要超越人類，並且具有自我學習和進化的能力。同時隨著AI能力的提升，失控的風險也在增加，需要現在就開始考慮如何管理這些風險。

以下是騰訊科技整理的演講全文實錄：

黃鐵軍：近年來，圍繞大模型的討論非常火熱，大模型是目前人工智慧領域最成功的案例，那麼請問兩位老師，大模型到底做對了什麼，還有哪些欠缺的地方？

李開復：大模型肯定是AI有史以來最大的革命，我認為裡面最重要的就是scaling law，我們能夠用更多的計算和數據不斷的增加智慧，變強，這一點已經被驗證，而且還未到達頂峰。

第二點，大模型本身的智慧來自於接近無損的壓縮。這一點我覺得也是非常的重要，這可能不是當年我們許多做人工智慧的想到會把壓縮和智慧能夠連結在一起。因為我們scaling law的過程中不能就盲目的去丟更多的GPU，所以我們會需要有一個方法來去評估我們有沒有越做越好，兩個方法哪個做得更好，所以在我們零一萬物的內部，我們其實是有一個數學嚴謹的方法論，是用壓縮的理念去評估，這樣就讓我們從一個做實驗，或者甚至有人說煉丹的過程中，把它變得有科學和數學的根據了。

那麼，我覺得大模型可能面臨的一些挑戰就是僅僅去用更多的算力來把它往前推動，這個如果是主要的方向的話，那麼我覺得如果未來會繼續看到它的快速上升，這樣的話會導致只有那些特別有GPU的公司或國家能夠在這方面獲勝。當然我覺得話說回來，我們也驗證了國內的許多大模型都已經是接近甚至在有些例子裡打平，或者偶爾會超過美國的大模型。所以我還是認為其實同樣重要的是需要專注的，它就是裡面的工程問題，怎麼能夠去用工程來讓我們不是進入一個盲目的丟算力，達到更高的結果。

當然還有很多挑戰，大模型剛推出的時候，就像每個技術剛出來一樣，一定會有一些問題。例如說大模型剛開始的時候，不知道最近一年發生了什麼，reasons的問題，還有記憶的問題，窗口不夠長的問題，還有它的幻覺的問題……但是我們可以看到的就是當這麼多聰明的大腦在全球湧入這個領域的時候，這一個個的問題都大部分不能說完美的，但是非常好的被解決了，所以我對未來還是非常樂觀的。

張亞勤：我講三個做對的，三個目前還需要改進的。第一個就是剛才開復講的，規模效應本身首先是利用了海量的數字化和資料，加上算力的提高，加上現在這個架構很好地利用了算力和這個資料，所以我覺得scaling law現在可能有人說我2年3年是不是就不成立了，我自己認為的話，這在將來可能5年左右至少還是我們行業大的方向。

第二的話就是一個統一的表述，所以token based，我認為也是我們現在大模型裡面的很根本的元素，不管你是文字、語音、圖像、視頻或者是自動駕駛、激光雷達的信號，在生物裡面，蛋白質、細胞都最後可以抽象化成一個token，然後token之間的這些訓練、學習、生成是一個核心。其實跟我們大腦很像，大腦神經元都是一樣的，不管是做什麼事也是一樣。

那麼第三點的話就是它所謂的通用性關係。現在通用不只可以用到文字，可以用到我們的多模態，也可以用到生成比如說蛋白質，可以用到物理世界具身智能，還可以用到生物智能。

如果是有問題的話，第一個效率還太低，如果看一下我們人類大腦的話，目前的最大的模型是我們人的860億個神經元，每個神經元差不多幾千個突觸連接可能比我們小100倍甚至1000倍，但是我們大腦只有三公斤重，決策效率很高，所以未來的話需要大幅提高效率，這樣的話才會有真正的商業模式。目前不管是微軟也好， OpenAI還有主流大模型，整體來講的話，它還是一個在買輝達晶片的過程，就真的商業模式還需要建立，效率需要大幅度提高。

第二點就是針對現在的大模型，還是沒有真正的理解物理世界，推理等各個方面還是比較差一些，包括當然這裡面的透明性，包括剛才開復講得幻覺，這些我覺得很多的研究都在不斷的做，這裡麵包括很重要的問題。我們的大模型做得再好，它在生成式和對世界真實的表述之間有一個矛盾，就是怎麼能把我們生成式的這種機率大模型和我們現在已有的原理或者現在的真實模型、知識圖譜結合起來，現在有一些像用RAG、微調有些這樣的進展，但還我不認為這是一個根本，所以我認為下面5年會有一個全新的架構，使得可以替代現在的transformer和defusion。

那麼最後一個欠缺的地方，我覺得是邊界問題，我們現在大模型他搞不清楚我知道和我不知道什麼，這是我們目前我覺得要解決的一個大的問題。

黃鐵軍：謝謝亞勤關於三個做對和三個不足，剛才開復老師沒講，但是我想再追加問一下，因為有些人認為大模型就是一個實踐、一個工程，是經驗主義做的東西，沒有理論基礎，所以說的不好聽叫不靠譜，我不知道你怎麼看這個問題？

李開復：我覺得科學和工程缺一不可，如果是只做工程，不理解這個第一原理，沒有數學的根據，不知道怎麼做評估，沒有辦法判斷不同的方法哪一個好。最後這樣的摸索，這麼大的算力和它的成本是肯定做不出一個好的模型的。但是如果只是在實驗室裡雕花，然後寫一些不錯的論文，就期待有一批工程的人我把它扔過去，他們做成產品，這個肯定也是不行的。我們在零一萬物的經驗就是我們每一個做AI、做模型的都要懂infrastructure，都要懂推理，都要知道成本的問題。所以當你在做科研的問題的時候，就要知道會怎麼樣實現在什麼產品裡面所需要的速度跟反應是有多快，做完了實驗就可以確保這樣你做出來的模型可以得到很好的工程結果。還有我們做整個訓練模型的過程中，絕對不只是寫paper做出結果來，還要同時考慮到我們怎麼樣系統化的、工程化的去做數據工程，因為數據的訓練、數據的篩選這些是非常重要的。還有就是底層的infrastructure，因為GPU這麼昂貴，如果能把一張GPU當做兩張或三張來使，我覺得任何公司都會得到好處，所以這兩者真的缺一不可。

黃鐵軍：好，謝謝開復老師。第二個我覺得可能大家很多人都特別關心的就是AI 2.0了，我們叫大模型產業化時代，最大的場景在哪裡？ ToB or ToC對吧？移動互聯網都這麼多年，這兩種賽道兩個大賽道哪個更有機會？為什麼？這個想請兩位發表你們的看法。

李開復：好的，簡單的說，我覺得中國ToC短期來更有機會，國外兩者都有機會。我覺得從ToC講起來，大模型我們認為其實就像是移動互聯網或PC時代，一個新的技術新的平台帶來新的應用，這是巨大的機會，但是這些應用一定是按部就班的會過來的從PC到行動網路時代，我認為AI時代也是一樣。

第一個階段應該是生產力工具，第二個階段可能會是娛樂、音樂、遊戲，第三個階段可能會是搜尋，再下一個階段可能會是電商，然後可能會有社交短影片，還有OTO，這是不變的定律。它的理由很多，其中一個理由就是剛開始你要能夠賺錢，要能夠解決問題，所以是工具。越往後難度越高，需要的使用者量越高，而且商業模式往往是先堆積使用者DAU，再找商業模式，所以你的成本一定要壓低，試錯的難度高所需要的投資就會更多，所以它按照這個順序來也是自然的，還有一些細節比如你的用戶不多，怎麼做社交等等，所以我認為這個定律是不會改變的，所以ToC我們會堅決的從工具一直走向未來的短影片。我考慮ToC就是它要產生大量的使用者，我想這不是說不能做大模型的視頻的研究或者產品，只是說如果要普及的話，按照我剛剛講得這6個的順序，我是堅決相信，然後一定也會發生。

當然這裡面有一個挑戰就是做這些應用，在大模型領域它跟PC網路時代不一樣，但推理成本還太貴。所以最近我們也推出了新的想法叫做TCPMF。就是當你考慮他的PMF的時候，你還要把技術的需求跟難度，還有它的成本考慮進去，所以做應用一定要考慮到同時剛才這6個階段誰先誰後，你應該什麼時候做，然後要提早做。

第二就是你做的時候要考慮到一旦做完了，技術會不會夠好，還有它的成本會不會夠低，這些要綜合考慮，所以做這方面的ToC應用，不是過去移動互聯網路的產品經理一個人就可以做主算的，它的難度會很高，你還會需要做infrastructure、做推理引擎的人，還會需要做大模型AI的專家一起來打磨TCPMF，但是它難度高，回報也高，機會也更大。

最後一點我想講的就是我不相信科技可以帶來一個永久的領先，而且它帶來的領先是非常短暫的。因為有很多巨頭，他一旦看到了你的PMF驗證，他會有更多的方法來超越你。所以一旦你驗證出TCPMF來，你要把握一個一定的時間窗口，把你的品牌打出來，最終勝出的ToC的應用一定不只是技術做得好，技術做好是需要的，還需要抓到一個時間窗口，然後在這個時間窗口打造一個可持續的優勢，比如說是品牌優勢，比如說是一個社交鏈，比如說是用戶的資料，讓他不能離開你這個平台，如果你思考一下過去比如說抖音怎麼在微信這麼強大的時代能做出來，就是他抓住了這個窗口。

好，再說一下ToB的應用。我其實覺得ToB是大模型帶來更大的價值，而且應該更快實現，但很可惜，ToB的領域面臨了幾個巨大的挑戰，一個就是傳統公司，他不敢採取看不懂的技術，不敢採取這種特別巨大顛覆式的東西，大公司習慣每一年增加5%，然後繼續做去年做的事情，這種顛覆式的東西大公司有點難擁抱。

還有第二個問題，也是最大的問題，對企業帶來的價值是降本，而不是創造價值。降本說實在就是取代人類的工作。那麼大公司會有很多主管或中層的管理，他不願意做這個事情，因為這個做了可能它的團隊就要被砍掉了，他在公司的政治資本就沒有了，他的權力就變小了，甚至自己工作都沒有了，所以大公司有時候是CEO很想做，但下面的人會產生阻力，所以這些理由造成ToB理論上應該馬上可以落地的，但是沒有那麼快。

還有一個問題，這個是在中國比較嚴重的問題，就是有些大公司它沒有認識到軟件的價值，不願意為軟件付費，而且有這麼多大模型公司就來競標，然後大家就越競越低，競到最後做一單賠一單，都沒有利潤，我們在AI 1.0時代就看到這個現象，現在很不幸在AI 2.0時代又重現了。我覺得有些大公司會覺得你們願意競價我就挑最低的，或者我把所謂的商務變得比技術更重要，評估的時候你技術不好，但是賣得很便宜，我可能還是會選你，還有有些大公司會覺得我用了你的大模型，你用我的品牌去做融資很划算啊，我為什麼要付錢給你？所以這種很不幸的心態就變成一個race to the bottom，也就是說，大公司因為這些理由給很低的價錢，那麼大模型公司拿了這麼少錢，他不能賠那麼多錢去給你拚命的做，他就丟一個模型過去，然後看你運氣好不好，能力好不好，這樣的話就做不出效果來。

所以在零一萬物我們是堅決的要做ToC，要堅決的不做賠錢的ToB，所以我只要能找到能賺錢的ToB我們就做，賠錢的我們就不做，所以我們會在ToB方面是更精挑細選，找那些真正公司上下都a line，大老闆跟VP都願意接受這個概念，或者是大老闆權力很大的這種公司，無論在國內還是國外去做。

最後一點我想講的就是無論做ToC 、ToB它裡面的API都很重要，最近國內很多模型降價了，我們在零一萬物也推出了我們的elarge的這樣的一個模型的API，也希望跟各位有機會合作， 這個API它背後的模型大概接近GPT-4的能力，這是真實的，你可以去測。然後它的價格是GPT-4的1/4，所以我相信這可以幫助更多的公司或創業者達到所謂的TCPMF。

黃鐵軍：謝謝開復老師，剛才ToB 、ToC分析得很透徹，還有最後這個價格也很好用。我想問一下前面關於剛才ToB、 ToC的觀點，特別是剛才還有一個大家關心的問題，大模型產業的最大場景會在哪裡？不管是ToB 、ToC我們在什麼地方能夠落地發揮作用？

張亞勤：在應用和服務層的話，剛才開復講的先ToC後ToB， ToB時間長一些，ToC的話馬上就有應用的產品了，這個和當時的PC互聯移動互聯基本上是一致的。但如果再分細一點的話，目前真正賺錢的是ToB。在這個基礎硬體、在晶片、在基礎設施層，賺錢最多的目前是做像輝達、AMD這種做晶片的，是做這個服務器的，是做HBM存儲的，所以我覺得這個的話目前已經在發生了，但從應用來講是先ToC先ToB，還有一個就是我把現在的AI分成三個世界，一個是資訊智能，一個是物理智能，現在時髦的名字叫具身智能，另外一個就是生物智能。到了具身智慧的話， ToB的應用可能會更快一點，可能比ToC的可能更快一些。到了生物智能的話可能是相反，ToC可能會高於快於ToB，可能每個領域不太一樣，但整體來講的話ToC 、ToB包括我們現在有開放源碼的模型，有商業的模型，有基礎大模型，也有垂直產業的模型、邊緣模型都會存在。

黃鐵軍：剛才已經談到已經提到具身智能，今年特別熱，大家關注度都特別高，具身智能通常像機器人對吧？人形機器人包括人身機器人這是一大類，第二大類就是車子對吧？車本身是身體也是駕駛場景上的一種具身智能，當然還有無人機對吧？在空中飛將來也是一種形態，甚至大家可以想像出更多的身體形態，更多的具身智能的這種未來的可能性。我想請問因為自動駕駛已經做了這麼多年，今年也已經看來希望已經很大了，那麼你們認為到底剛才講的具身智能的這麼多可能性裡邊，到底是我們熱門的人形機器人這個會先有機會，還是像自動駕駛已經有了這麼多年積累有機會？

張亞勤：對，的確可能從阿波羅開始，7、8年的時間我一直在從事這個無人駕駛。我認為無人駕駛L4+是具身智慧第一個最大的應用，而且我最近一直在講，也是第一個去實現新圖靈測試，無人駕駛本身就是一個特殊的機器人，機器去開車。目前無人駕駛最近有很多好的消息，就是在安全性的已經比人類駕駛要高至少10倍，不管是Waymo在舊金山的結果，還是百度、阿波羅，蘿蔔快跑大範圍的商業運營，甚至更高。最早在阿波羅開始的時候，我就想我們安全駕駛一定要比人類駕駛超過10倍。

另外一點的話儘管安全很好，開的特別規矩，但是目前還有一些問題，包括開的安全，但是開的不夠熟練，不像老司機這樣，因為他太守規矩了，你開車不會超速，也不會壓線。我最近一直在想，無人駕駛要變成主流，就通過咱們這個新圖靈測試的話，需要是好司機，也需要是老司機。這個我認為在明年會實現，我覺得第一個真正實現在具身智能或物理智能的AGI就是無人駕駛。

另外我再說一點就是我們大模型的推出，其實幫助無人駕駛解決了許多原來的問題，例如說長尾問題、資料的產生問題。百度海風跑了1億公里了，1億公里很多，但還是少資料，所以可以產生很多資料。還有一個就是端到端，大模型可以做端到端，所以說老司機這方面的話，它會有更高的智能性，幫助我們快速的落地。

李開復：我同意剛才雅琴分析的，他在無人駕駛方面主導了中國特別重要的一個項目多年，然後我們在創新工廠也投了很多家無人駕駛的公司，大概投了6家左右，發展都不錯，現在我覺得無人駕駛面臨的一個巨大的機會就是終於可以落地了，在L2、L3還有一些城市自動的小巴等等，還有特殊場景都是可以真的創造價值，這是很讓人欣慰的。然後到L4、L5真的是可以無限的開到街上，全球都還有挑戰，這方面我在美國的時候看到了Waymo進展也是不錯的，所以依然在往前推進。

不過特斯拉最近推出的服務FSD，可以看到它雖然不是完全大模型，但是它是用了類似的N to N的概念，這個我覺得會顛覆這樣無人駕駛的一個領域。那不用FSD能做到多少，能產生多少產業價值。我希望我們投的五、六家公司，還有亞勤的前公司都能夠證明中國能做得好，也許就是很大的一個市場了。

過去這一年做零一萬物我沒有太研究，所以不太確定這個市場到底是實現的有多好。但我覺得FSD它會帶來一個新的機會，簡單的說也就是基本把大模型的概念放到了無人駕駛裡面，這是我非常期待下一階段能看到的。但這個投資是巨大的，也不見得適合初創公司來做，所以這個是我現在對無人駕駛的看法。他已經用舊的方法做出了比較成熟的產品，在面臨市場化的過程，新的演算法出來了，但可能還要有一段時間。

說到具身智能，他就跟亞勤說的一樣，是物理世界和AI的結合，但是我也必須說大模型非常適合虛擬世界，比如說在金融公司用後台客服等等，很快就可以落地產生價值，因為它就是一個軟件，如果你的資料是軟件，出來的結果是虛擬的是數字，你就直接對接大模型就好了。你一旦要接到物理世界就有各種的問題，安全問題是不是？他的機器的問題，機械的問題，故障的問題，engineering的問題，撞到人的問題，難度就非常大。

所以從創業者的角度來說，雖然現在具身智能一時比較熱，有一些創業者就湧入了，但是大部分的創業者如果是希望看到短期的落地，產生價值能賺錢，肯定還是做虛擬世界的，要遠遠容易很多，所以雖然我覺得具身智能是重要的，而且它可以把這個多模態結合了，你一旦具身以後就產生資料了，那就可以有資料，飛輪可以有閉環，所以這是有很大的想像空間，但是短期要做好難度是很大的，我們看無人駕駛做了多少年，現在做到什麼程度，具身智能肯定也要走這樣的一些彎路和很長的道路。

而且對於人形機器人我也有一些特別的看法就是說，我覺得絕大多數的應用並不需要人形機器人，你炒菜機器人應該長得像鍋子，對吧？你的吸塵器長得像是一個地上跑得小小圓圓的東西，它長得不像人，不會說我要做吸塵器，機器人就做一個像人一樣的機器人來吸塵，沒有必要。那些很酷的Boston dynamic的跳來跳去翻覬鬥的，那些真的有很多應用嗎？絕大多數的場景幾個輪子不是讓你更能容易走到嗎？你真的需要兩條腿嗎？除了爬樓梯等等的真的那麼需要嗎？

而且它帶來的難度跟成本提高那麼多，我覺得可能很多科學家和創業者都是從小熱愛這種科技，希望能複制一個人也無可厚非，但是我覺得最後一句話就是，簡單的問一個VC，你相信什麼？就不要問了，你就問我說：開復你創新工場投了幾個無人駕駛？ 6家。投了幾家具身智能？ 0。投了幾家人形機器人，0。

張亞勤：我再補充一下開復剛才講的，最近常常有人問我，通用人工智慧到底什麼時候可以實現？我比較樂觀，我講一下大致的時間點，和開復講的很一致，我還是分成資訊智能、物理智能和生物智能來講。

在資訊智能方面，我認為5年左右就可以實現，現在其實在文字方面，基本上已經實現了，圖靈測試已經通過了，在視頻方面可能還需要幾年，所以5年之內我覺得這個有可能達到在虛擬世界或是資訊世界的AGI。

然後到具身智能或物理智能的話可能需要10年，比較樂觀的話10年，在生物智能我覺得還需要15-20年或者更長一些，要是三年前問我這個問題，我可能會說50年，會乘以2，現在我把它除以2。

李開復：我非常同意。那很糟糕，我們投了一些生物智能的公司該怎麼辦？你要不要接去？開玩笑的，我覺得每個領域都有低垂的果實。剛剛還應該再補充一點，如果問我們投了幾家機器人，我們可能投了七八家，但是它不是具身智能，它是比較能夠確實解決一個場景裡的應用，而且可以能夠帶來價值的這樣的機器人。所以我是相信機器人的，只是具身智能，我覺得他我同意亞琴的十年以後的事情，我們做投資的肯定不能現在去投資一個10年以後才能夠發生的事情。

張亞勤（補充）：是5-10年。

李開復：我們一旦看到接近，我們就開始投資。

黃鐵軍：這個概念我再和兩位確認一下，因為我們叫通用人工智慧，通用人工智慧比如說大模型，包括今天已經實現的，包括剛才說未來幾年資訊空間大模型的認知能力，通常的評測，比如說到了大學、到了博士、到了專家、到了學者甚至於科學家，這是一個我們叫通用性，不管什麼學科他都可以做，這是一種理解。但剛才雅琴講到後邊進入物理世界，甚至於將來像生物一樣的這種智能，這個時候的概念跟我們今天講的通用智能可能又有所不同，也就是大家講AGI和GAI，通用人工智慧我們叫它GAI好了，去年智源大會我也是這麼講的，具有通用性的人工智慧，和我們AI領域說了這麼多年的AGI，AGI是要超越人類的，是有自我意識的，是一個獨立的，不只是智慧程度超過了人類，而且他有自我意識，他要做出自己的目標自己的判斷，你們剛才談到的是指這樣的AGI嗎？還是說只是說前面一種？

李開復： AGI的定義，其實真的見人而異，如果我們把它定位成為能做人所有做的一切的事情，我今天沒有辦法做任何的預測，因為它有太多未知的東西還沒有被解決，但是我覺得只把人當做一個金標準，似乎就是說車什麼時候能跟人跑得一樣好，跑得一樣快，車在很多場景已經比人跑得快很多了，但是有些場景它就沒法做。所以我覺得只要是sacring law繼續，只要AI一年比前一年更聰明，他會多做比如說5倍的事情，IQ會提升20個點，但是他聰明的方向能做的事情，也許是人從來都不能做的，不一定是把人做的每件事他都要做，因為我是做投資和創業的，我想看到的是體現巨大的商業價值，從這個角度來說我們不會太糾結，是不是能夠做到100%人類做的；還是世界上1萬件事情，9000件AI能做的比人好，然後1000件人做的比較好，這樣也挺好的，要給人留一點空間。

談到虛擬跟物理世界，我還想再補充一點，在虛擬世界裡其實agent還是非常需要的，因為我們人的intelligence不是只是回答問題，是要知道怎麼能把事情做出來，而且從商業價值的創造， agent真的能夠做出事情，幫你把東西買了、幫你把事情解決了，我覺得這個商業價值很大，貼近API也是會再走重要的一步。

張亞勤：我剛才講20年什麼的，不包括你所講的意識或情感，我覺得AGI的定義，第一點就是要有巨大的能力，就是大部分的一些任務方面能力要比人類強，不會是100%的，第二點的話它要是通用的。過去比如說每一個任務用於不同的模型，現在是要有通用的一個大的底座，當然上面你可以有小的模型。第三點就是它不斷的去升級，不斷學習、不斷進化的，他就像人一樣，但我不認為我們現在scaling law或我們現在做的所有這些事可以產生意識，而且我也不認為我們應該在這個方面做研究，我覺得我們還是要解決真正的問題，把人工智慧當作我們的工具作為延伸，作為我們的agent，而不是另一個物種。

黃鐵軍：因為時間咱們已經過了，最後問題，我就是因為明天一天AI的大會還要討論，但是我想最後還是想問兩位資深專家一個問題，因為剛才講從工程、從應用、從商業、從所有的角度，可能沒人想做一個超越人類有自我意識的這種AGI。但是最近OpenAI發生的事情從去年年底開始，伊利亞和奧特曼他們的爭論其實就是兩種觀念，就是你不想做他可能就出來了，然後出來之後我們就面臨著不可失控的這種巨大的風險，這件事你們認為這種風險存在還是不存在？

李開復：我覺得存在的，它的發生的機率不是很高，但是一發生是個毀滅性的事情，尤其是在reward model方面，如果我們越來越走用reward model，然後AI自己找路的話，那這個發生的可能性就會增高，但今天我們的訓練方法似乎還不至於。所以我短期內最擔心的還是壞人用了它去做壞事。

張立勤：對，現在隨著能力不斷的擴大的話，風險也在不斷的擴大，所以我覺得現在考慮到未來的風險是很重要，明天我們專門一節討論問題。我總結一下的話，我對這個API實現之後比人更聰明，會掌控人類，我沒那麼擔心。我擔心的是會失控，由於我們大模型裡面，比如說我們的可解釋性的問題，我們的大模型到了物理世界以後，我們機器人比人要多得多，我們以後生命世界、腦機介面，這些如果大模型用到基礎實體設施、用到金融系統，包括國家安全、軍事系統，這個時候的話它失控的風險比較大，所以我們現在開始應該把這些東西要考慮進去，但我是樂觀的，我認為我們人類一直講這兩種智慧，一個是發明技術的智慧，一個是引導技術走向的智慧，我覺得我們會達到一個平衡，但是現在要採取行動。

黃鐵軍：好，謝謝兩位資深專家高屋建瓴的真知灼見，謝謝。 （騰訊科技）