AI真正走進大眾視野不過2年,卻掀起了全球性的科技風暴。
最開始的那幾位,是如何組起了這場牌局?後來能坐上牌桌的玩家,又具備那些特質?以及那些“天才思想者”的路,普通人有可能複製嗎?
去年,時代雜誌公佈了AI領域最具影響力的100人。四大板塊中,入選年齡最大的是76歲的傑夫·辛頓。
人工智慧簡史在被神經網路重塑之前,辛頓在符號主義大行其道的80年代,一頭紮進神經網路默默耕耘。
符號主義基於規則,模仿的是人心,生成的是一個白盒系統,可解釋,可觸達,確定性更高,但神經網路主張模仿人腦,生成的是一個黑盒系統。
可當時有一大難點,就是多層神經網路中存在的隱藏層和計算量問題,在一開始就勸退了一大批精英,所以別說發展,在那個年代,神經網路流派的生存都是問題。
但是,如果在辛頓的履歷裡,找一件對AI貢獻最大的事,並不是他讓神經網路成功度過生存危機的誤差反向傳播演算法,也不是他後來以受限玻爾茲曼機為基礎,進一步演化出來的深度信念網路,而是他用了四十年的時間,堅持不懈,開創了一個新的分支:機器學習。也為後來所有的研究者,守著這扇通往新世界的大門。
2006年深度學習正式提出,辛頓已然著作等身,但關於AI究竟要走那條路線的偏見,依然根深蒂固,多倫多大學電腦學系,當時就流傳著對新生的一句忠告:不要去辛頓的實驗室,那兒沒前途。
當然,這句話沒有勸退真正眼光毒辣的學生,比如伊利亞。
早在2003年,大家還對神經網路流派嗤之以鼻的時候,本科二年級的伊利亞,就帶著驚人的直覺和更深入的研究,敲開了辛頓辦公室的大門,也代表著他對這一路線,早就深信不疑。
2004年,辛頓在輾轉多個大學工作後,終於在加拿大高等研究院拿到了50萬美元的經費,這可能是當時唯一還在支援神經網路研究的機構。
50萬美元,對於科研來說確實有些微薄,但是卻足夠讓辛頓結束漂泊的訪學生涯,並安頓下來,召開了一場研討會。
當時辛頓的半個學生楊立昆,和另一位徒孫約書亞·本吉奧,也加入了他的隊伍。所以早在20年前的2003年,“深度學習三巨頭”(楊立昆、約書亞、辛頓),就已經坐上了同一張牌桌。
但是,只有演算法上的創新還遠遠不夠,橫在三巨頭眼前難以踰越的還有兩座高山:算力和資料。
2012年,64歲的辛頓去Google做暑期實習生,這次入職,是應吳恩達邀請,接手Google貓項目。
如果只是識別一隻普通的貓,傳統的電腦視覺自然不在話下,可是貓有可能長得千奇百怪。
雖然當時Google在動用了16000個CPU後,識別精準率已經高達74.8%,辛頓卻仍然認為:他們的神經網路用錯了。
幾個月後,辛頓和自己的兩個學生:Ilya Sutskever、Alex Krizhevsky,帶著新演算法AlexNet,以及兩塊輝達GTX580顯示卡,參加了電腦視覺領域最受關注的世界賽事,ImageNet,並以84%的識別精準率,拿下冠軍。也是這一年後,曾經只拿來玩遊戲的GPU,憑藉超強的平行計算能力,來了個180度大翻身。
神來一筆的兩塊GPU,算力這座大山被鑿開了口子。那麼資料問題又該如何解決?
實際上,這場圖像識別比賽(ImageNet)本身就是一塊高品質的資料試金石,比賽的主辦者,就是後來被稱為AI教母的李飛飛。早在2000年,她就意識到,卡住神經網路脖子的,可能不在於演算法的精度,而在於缺少大規模、高精度的資料。
於是,ImageNet資料集的構想產生了。
最開始她用WordNet中的名詞作為索引,來篩選和分類圖片,但只依靠本科生,這項任務大概90年後才能完成。
就在所有人都陷入僵局的時候,馬遜土耳其機器人這個網站步入研究者的視野,也沒用什麼新鮮方法,亞馬遜找來十萬名“人類智能”,一招人海戰術,在短短兩年時間內,就標註了超過300萬張圖像。
2010年,第一屆圖片識別大賽舉辦。2012年,資料庫裡的圖片,就已經擴充到了1500萬張。
也是這一年,資料集的概念出現,逐漸成為未來所有人工智慧的核心養料。
所以當李飛飛看到了辛頓的AlexNet獲獎,立刻就意識到,歷史即將改寫。她在頒獎當天,買了最後一班飛機票,親自趕到現場給辛頓團隊頒獎。
多年以來壓在深度學習身上的三座大山:演算法、算力和資料,在這一年被集中解決,第三次人工智慧浪潮也從沉澱中甦醒,時刻準備爆發。
拿下大賽冠軍幾個月後,辛頓三人的“空殼公司”DNNresearch,也在四位買家(Google、DeepMind、微軟、百度)的角逐中,被Google以4400萬美元的價格收入囊中。
這次競拍也讓深度學習技術,逐漸走入資本視野,從學術界主導,正式進入企業主導的時代。
值得一提的是,參與競拍辛頓的四家公司中,還有一家小公司,DeepMind。當時的DeepMind自己都在四處籌錢,創始人哈薩比斯竟還想和大廠掰掰手腕,買下DNNresearch,可見他非同一般的眼光和野心。
但AI的吞金能力遠超大家想像,所有AI初創公司都面臨巨大的融資壓力,楊立昆當年關於這一點,沒有說錯。果然兩年後,DeepMind也被Google用6億美元拿下。後來的故事,大家也有所耳聞了。
2015年,GoogleDeepMind團隊推出了Alpha Go,第37手,漂亮的“神之一手”,也一舉成名。
但是,距離人工智慧真正爆發,還缺少一個關鍵契機。
2017年,一篇終結了CNN(摺積神經網路)和RNN(循環神經網路)的論文問世,(《Attention is all your need》https://arxiv.org/pdf/1706.03762),八位作者都來自Google。
回過頭來看,注意力機制,作為後來主導大語言模型的根基,被Google這家,全世界最大的注意力商人發佈,好像也在情理之中。
第二年,Google就發佈了BERT模型。大模型的狂潮,也正式拉開了帷幕。
所以不難看出,2012年的那一次實習、一場比賽、一局競拍,讓深度學習走出學術界,正式進入商業市場裡摸爬滾打。由於深度學習長期無人問津,領域裡的頂尖學者也屈指可數,
學術界就乾脆以超級學者為核心,形成了幾大AI高校研究陣地。
這些稀缺的大佬同時化身最佳獵頭,帶著自己的學生,從實驗室,走進了AI領域的前沿公司。只不過,這一次他們不再是玩家,而是換了個身份,繼續這場遊戲。
新的牌局上,Google可以說開局就有皇家同花順的底氣,畢竟接連拿下辛頓團隊、DeepMind,
之後又連續發佈Alpha Go、Transformer、BERT。手握最強AI資源的Google,是當時AI領域絕對的頭號玩家,很長一段時間,風頭無兩。
但為什麼後來坐上了王位的,會是當時連一間像樣辦公室都沒有的Open AI呢?
Google輸在了那兒?
Google作為一家號稱只招收精英的科技巨頭,成立了20多年,去年裁員後仍有18萬員工(Alphabet)。
不缺資金、不缺人,也不缺資源,但與之對應的,是精力分散、過分謹慎,以及團隊磨合的問題,船大難掉頭。
相比於Open AI產品的一目瞭然(Open AI官網),Google的產品開發可以用眼花繚亂來形容。這個網站上:https://killedbygoogle.com/ 記錄了被Google砍掉的295個項目(包含AI與非AI)。
Google一直在各種不同的技術路線上廣撒網,卻並沒有帶來與之對應的收穫。
技術開發什麼最重要?選對路線,並持續加碼。這幾輪翻牌,在GPT模型上(BERT線)持續加碼的玩家,只有一個,就是Open AI。
Google後知後覺,在GPT-3出現後才下定決心All in,但此時它的身份已經從領頭羊,變成了追趕者。不僅如此,由於手上的籌碼太多,Google還面臨另一個難題,就是優等生陷阱。
由於Bard機器人發佈後頻頻翻車,而市場對大公司的小失誤又極其敏感,直接導致股價跌了8%,損失高達1000億美元,也留下了非常嚴重的後遺症,就是內部越來越傾向保守,論文一篇篇地發,但產品落地不聲不響。
好在去年3月,Google終於把Google Brain和Google DeepMind合併,哈薩比斯統一領導,全力開發Gemini系列,但是內部磨合問題,必然會消耗一定的時間和精力。
哈薩比斯當初賣身Google,是因為只有10%的時間搞研發,其它時間都在找錢,現在倒是不缺錢了,但管理問題同樣令人頭大。
原先DeepMind實驗室的核心成員陸續離開,創立或者加入新的公司,當初的Transformer八子也是一樣選擇。
儘管Google已經開始亡羊補牢地召回人才,但是相較於山姆·奧特曼的氣勢如虹,錢,已經不是吸引頂級人才的主要因素。
微軟成最大贏家?Open AI能贏到最後嗎?
頂尖的大腦,才是致勝的關鍵。而從一開始就踐行這一點的,就是開頭那場晚宴上遲到的年輕人,布羅克曼。
他那場他還不是主角的晚宴結束後,第一時間就給當時AI行業的領袖人物們一一打了電話,
可惜的是,辛頓已經去了Google,楊立昆也被Facebook收入麾下,只剩下致力於學術界的約書亞·本吉奧。
本吉奧也是神助攻,直接給他提供了一份年輕研究者名單,雖然當時AI界的聚光燈都在大佬們身上,但布羅克曼依然租了輛大巴車,把名單上的研究人員,帶到一個與世隔絕的葡萄酒莊,度過了一整個周末。
三周之後,因為布羅克曼在人才招攬上超高的執行力,再加上馬斯克+山姆·奧特曼的人格魅力,可以說OpenAI從一開始就擁有雙重Buff,而且那時候的他們,言辭裡充滿對技術的浪漫主義情懷,一種奧本海默式的理想氣質蔓延在整個酒莊。
最終,10個人裡有9個,都同意了加入Open AI,當然也包括拒絕了Google兩到三倍薪酬誘惑的伊利亞。就這樣,在一眾巨頭的搶人大戰中,OpenAI成功拿下了大批現如今的頂級學術大牛。
AI公司起步,人不在多,必然得精。
有了這些人在前,Open AI的人才軍火庫也形成了自己獨特的篩選標準,一不重學歷,二不重資歷。相比遍地博士的大型研究機構,ChatGPT研發團隊裡的本、碩、博人數雨露均霑,當然其中絕大部分,也都是頂尖名校的學位。
但他們仍然認為只要能解決問題,甚至高中畢業的也能上。
雖然如今OpenAI的創始團隊已經七零八落,布羅克曼本人也宣佈了長期休假,但Open AI在人才上的先發優勢依然不容小覷。
看到這裡可能有人會有疑問,Facebook怎麼缺席了?
去年5月,華盛頓白宮,美國副總統賀錦麗拉著這幾家AI巨頭開了個閉門會(Google、微軟、OpenAI和Anthropic),卻沒出現Facebook的身影。
要知道當年DeepMind賣身,Facebook也是出價者之一,這家公司不僅成功將GAN改造成了工具,推出了PyTorch,也拿下了大將楊立昆。
但問題就是,在GPT風起雲湧的時候,Facebook還有一堆自己的麻煩沒處理好,VR和元宇宙業務出師不利,社交媒體業務陷入監管危機。直到去年,才推出了LLaMA。
但相比遲到,Facebook有一點倒是值得肯定,不僅在商業路徑受阻時,還持續向AI團隊提供足夠的資金支援,也始終沒忘當年對楊立昆的承諾,堅持開源路線。
因為Facebook堅信,AI牌局裡,開源是隱藏的王牌。只要自己一直在牌桌上,就還有機會。
而當初那場決定了AI未來走向的關鍵競拍中,還有一個熟悉的身影,百度。而且中國實際上是當時最早拋出橄欖枝的一方。
但那個時候,中國公司還陷在技術研發和投資回報那個更重要的問題中,無法自拔。最直接的體現就是主打電腦視覺的AI四小龍(商湯、雲從、依圖、曠視),一直在估值和股價的質疑裡浮浮沉沉。直到,GPT出現後,事情才有了轉機。
清華系逐漸進入大眾視野,如今的中國AI大模型五虎(智譜AI、百川智能、月之暗面、零一萬物和MiniMax),三家出身清華,這一批AI創業者身上標籤也更明顯,那就是像極了OpenAI:
年輕、根正苗紅的技術背景,以及更成熟的AI落地思路。
代表人物,就是月之暗面的創始人楊植麟,師從智譜AI首席科學家唐傑,博士生導師分別是Google和蘋果的AI負責人。
從辛頓到楊植麟,從矽谷到清華,從學術界到企業界,在主題為AI的這場牌局中,我們也能一窺其中的玩家風格。
就像楊立昆最早質疑的一樣,年輕,沒經驗,但他沒料到的是,正是這樣的玩家,才有更強的學術延伸性,偉大確實很難被計畫。也是因此,才會出現創業公司和大廠同台競技的畫面。
同樣也是阿里這類巨頭,多方押注創業公司的原因(上述五虎,阿里全部都投了)。
模型公司繫結巨頭的玩法,已經在美國走通,(微軟+OpenAI、亞馬遜+Anthropic、特斯拉+xAI),可一旦出現突破性進展,最直接的可能,就是脫離大廠,重新洗牌,提前預定新一代大廠。
所以AI這場牌局,從辛頓30年坐冷板凳開始,就已經註定了會是一場長期遊戲,只有最具想像力的玩家,才有勝出的可能。
比如Open AI成立之初,就只有兩個目標:一是訓練一台機器,在《魔獸爭霸》裡打敗頂級玩家;二是打造一隻五指機械手,用來還原魔方,這只機械手還出現在了布羅克曼的婚禮上。
未來,或許很難再有第二個Open AI,但草台班子的戲台上,總有耀眼的角兒能殺出重圍,也正是新奇和有趣,才造就了出色和有戲,這或許才是新技術行業,應有的題中之義。 (36氪Pro)