李飛飛最新CHMLive現場訪談全文萬字記錄


對於那些我不認識的人,我叫丹·萊文,是博物館的首席執行官,已經在這裡工作了大約六年半。今晚的節目讓我特別興奮,因為它與我們的新使命完美契合,稍後我會詳細介紹。但首先,我想感謝所有的成員、受託人、支持者、志願者以及組織這些節目的工作人員。沒有你們的支援和幫助,我們無法做到這一切,所以感謝大家。

今天我們這裡幾乎座無虛席,並且正在進行線上直播,歡迎遠道而來的觀眾。如果你不知道,博物館大約六年前就制定了它的使命。我們將繼續像所有收藏機構一樣收藏和保存,為子孫後代而努力。但我們也非常關心人類,因為起初人類是電腦的創造者,後來我們發明了電腦。現在沒有電腦,生命就無法想像。因此,該機構的使命已經演變為解碼技術,解碼計算的過去,從中獲得啟示;數位化的現在,這是一個不斷變化的目標;以及未來對人類狀況的影響。

今晚的節目將從個人角度深入探討這一點。我很高興歡迎李飛飛博士參加今晚的節目。她在《我眼中的世界》一書中的故事在個人層面上非常深刻,以世界級和權威的專業水平講述了計算對人類狀況的影響。我們確實相信所有這些技術都可以用於更大的利益,這也是我們在該機構的目標,即幫助人們認識到並考慮如何最好地利用這些技術來造福社會。

我還要感謝今晚的贊助商帕特里克·J·麥戈文基金會。我們無法大規模開展這類項目,麥戈文基金會一直是了不起的支持者。帕特·麥戈文不久前去世了,他是這個博物館的創始董事之一,他的家鄉是波士頓,博物館最初就是在那裡建立的,顯然在20多年前搬到了灣區。所以我們要感謝他們對人工智慧和人類狀況系列的支援。

事不宜遲,我想你們來這裡是因為你們對人工智慧和人類狀況理解很多,或者你們有興趣理解更多。讓我先介紹一下李飛飛的背景。她是史丹佛大學的紅杉電腦科學教授,也是史丹佛以人為本的人工智慧研究所的Denning聯席主任。她曾擔任史丹佛大學人工智慧實驗室主任,休假期間擔任Google人工智慧和機器學習首席科學家副總裁。在那段時間裡,她也做了大量的研究。她還在國會和白宮委託的國家人工智慧研究資源工作組任職。所以,請允許我歡迎李博士上台。

謝謝,丹尼斯。湯姆·哈利爾將主持這次對話。很久以前,我有幸在白宮科學、技術和工程辦公室工作時認識了湯姆。他在技術和政策方面經驗豐富。在歐巴馬政府期間,他曾與克林頓政府和歐巴馬政府合作,在政策領域擁有豐富的經驗,並在國家納米技術計畫和大腦計畫中積極工作。他現在是復興慈善組織的首席執行官,這是一個新組織,專注於考慮這種新的復興。我們正在經歷這種復興,在許多情況下,我們正在社區中創造這種復興。所以我要為此感謝湯姆和feifei。感謝大家參加這個節目,和我一起歡迎他們上台。

謝謝。好的。每個人都必須衝出去買這本書,也給你的朋友和親戚買一些。這是一本很棒的書。所以飛飛,我們必須看看這個觀眾有多書呆子。那麼你們當中有多少人可以向別人解釋隨機評級、異議和反向傳播是如何運作的呢?舉手。好的。

飛飛,你在書中談到的一件事是關於人工智慧的歷史。所以,我想知道你是否可以從1956年發生的事情開始?當時的研究人員花了多長時間才意識到他們能夠解決人工智慧問題?

好的。首先,謝謝你。謝謝電腦歷史博物館。謝謝Daniel和Tom邀請我。我想對那些慶祝農曆的人說,今天是中秋快樂。好的。現在,讓我們回到1956年。那不是達特茅斯研討會,對吧?

是的。

李飛飛:好的。我以為那是1959年。好的。所以,我的記憶已經模糊了。所以,在座的有真正的歷史學家。我知道。 1956年,達特茅斯學院一個悶熱的夏天。人工智慧的創始人約翰·麥卡錫、馬文·明斯基、克勞德·香農。第四個人是誰?還有一個人。對不起。我們會記住這一點。此外,還召集了一群電腦科學家,我想是在DARPA的一小筆資助下,討論未來的計算。當時,約翰·麥卡錫剛剛開創了這個領域,稱之為人工智慧。他們在那個夏天的研討會上撰寫了一份關於人工智慧是什麼的白皮書,探討了人工智慧的功能、解決問題的方法,特別是推理和演繹推理,試圖讓機器像人類一樣思考、回答問題、做出決定。

這是一段相當漫長的旅程,已經有70多年了。我們經歷了起起落落,見證了多次炒作周期。例如在20世紀70年代,關於專家系統的炒作周期,當時開始看到在人工智慧中使用一階邏輯和專家系統的實際應用。但後來那個泡沫破滅了,因為它沒有實現。當時有雜誌封面談論機器人接管社會,但這並沒有實現。資金真的枯竭了,學術界和工業界的資金都枯竭了。雖然軍事資金或國防資金仍然存在,但一些研究人員實際上避開了這些資金來源。總的來說,整個領域都萎縮了。

到了20世紀90年代,人工智慧領域開始發生一場靜悄悄的革命。雖然公眾仍然將那段時期視為AI冬季,但我個人認為那是初春。 David Plylar, Jr.:所以綠芽萌發。沒錯,雪還沒有完全融化。這場革命首先是由統計建模所驅動的。統計建模與電腦程式設計相結合,我們開始稱之為機器學習。人工智慧和機器學習領域找到了自己的語言,透過統計和機器學習,開始破解自然語言程式設計、電腦視覺、語音識別等各個領域。研究人員開始以相當深入的方式研究這些領域。

就我個人而言,我在2000年進入加州理工學院攻讀博士學位,進入人工智慧領域。許多公眾仍然認為那是AI冬季,但對我來說,在我攻讀博士學位期間發生了兩件事,這兩件事定義了我這一代人工智慧研究人員。一個是統計機器學習。我在研究所的第一堂課,實際上是我走進的第一堂課,叫做神經網路和模式識別。我們閱讀了反向傳播的論文,同時也研究了支援向量機、貝葉斯網路、增強方法和核方法等。這是我們經歷的一部分。我們利用這些工具開始研究電腦視覺等人工智慧問題。

然而,我認為在我們的實驗室和學術界之外,網際網路在人工智慧的發展中起到了決定性作用。 Google大約在1999年或2000年成立,網際網路開始提供我們資料。大約十年後,GPU開始出現,事情逐漸一致。我認為,2010年至2012年左右,人工智慧的公共時刻真正到來。至少在矽谷,當Google和其他公司試圖收購一家可能甚至沒有名字的小型新創公司時,公眾開始關注它。這家新創公司來自多倫多大學,贏得了ImageNet挑戰賽。從那時起,我們進入了現代人工智慧時代,人工智慧迎來了重生。

對。你參與的一個項目在改變人們對可能性的看法方面發揮了非常重要的作用,那就是ImageNet。你和同事建立了一個包含1500萬張照片的資料集,並給它們貼上了標籤。為什麼這在幫助啟動現代人工智慧浪潮中發揮瞭如此重要的作用?

對。對於不知道的人來說,ImageNet是一個資料集項目,始於2006年,花了幾年時間,於2009年發布。它成為人工智慧領域最大的一個資料集,由1500萬張網路圖像組成,經過人工分類、整理、組織和分類,涵蓋22,000個自然物體類別。在我們發布ImageNet作為開源資料集後,我們立即讓研究界參與了年度ImageNet挑戰賽,邀請全球的機器學習研究人員和電腦視覺研究人員參與這個我們稱之為物體識別的年度挑戰賽。

這項年度挑戰賽始於2010年,並於2012年取得了成果,那一年挑戰賽的第一名就是現在眾所周知的AlexNet。這是多倫多大學研究人員的成果,包括Geoffrey Hinton、Ilya 和Alex 。那一刻對人工智慧世界來說具有像徵意義,因為現代人工智慧的三個基本要素匯聚在一起。其中之一是首次聚合的能力,那就是神經網絡。這就是Tom 考你反向傳播的原因,因為那是神經網絡的底層數學。所以第一個元素是神經網絡。

第二個元素是使用ImageNet 的巨量資料。第三個元素是GPU 計算。當時,有兩個GPU。 ImageNet 的重要性在於,它在今天看來微不足道。每個人都知道人工智慧是由資料驅動的,但在ImageNet 之前,人們不相信資料。每個人都在研究完全不同的人工智慧範式,只使用少量資料,有時甚至沒有資料,就像手工製作的特徵工程。

這個非常激進的想法是,從頭開始就擁有了所有這些,在數據模型中使用數據,用數據驅動的方法驅動高容量模型,並推動人工智慧的泛化。許多人對此深表懷疑。因此,沒有這種觀點,認為神經網絡是一種通用函數逼近器。如果你給它們足夠多的例子,它們就可以在輸入之間進行對應,學習一個在輸入和輸出之間進行對應的函數。

這不是主流觀點。很多更資深的同事都想知道你為什麼這樣做。我認為這是一個很好的例子,如果你相信某件事,有時你應該堅持做下去,因為它會產生巨大的影響,即使你當時沒有得到同事們的喜愛。

我並不是從消極的角度寫的。我認為這是科學進步,就是受到挑戰,無論是你的前輩、後輩還是你的學生。我不斷受到學生的挑戰。我可能每天都有99 個愚蠢的想法,也許偶爾會有一個好主意。受到挑戰是件好事,因為這是一個未經檢驗的想法,所以沒關係。

特別是對於年輕人來說,僅僅因為你受到挑戰並不意味著你應該放棄。所以這是這裡重要的一課。

那麼,從2012 年到2024 年,您認為在此期間我們取得了那些最重要的進展?在人工智慧領域,對。信不信由你,2012 年也是Jennifer 懷疑的同一年,她的同事發現了CRISPR。 2012年是一個重要的年份。當時我與人討論,發現同年出現了兩個重大科學技術突破。從2012年到現在,已經過去了12年,這期間發生了許多重要事件。

在這個領域,尤其是更多的研究領域,我認為Alex和ImageNet的出現是一個重要時刻。它為先驅者打開了大門,包括像Google這樣的科技公司,開始加倍投入深度學習。這標誌著深度學習時代的開始。

2016年1月,AlphaGo與圍棋大師李世乭對戰並贏得比賽,這是一個公開的時刻。我認為那是公眾第一次意識到機器足夠強大,可以在人類認為只有我們才能完成的任務上挑戰人類。此外,它還引入了一種稱為強化學習的新演算法,這種演算法位於深度學習之上。

從2016年到2022年,對人工智慧、大型科技公司和創業的投資逐漸增加。這段時間也與技術衝突的首次出現相吻合。對我們許多人來說,技術衝突發生在劍橋分析公司事件之後,也就是2016年大選期間。那時,機器學習偏見被指出,自動駕駛汽車死亡事件也發生在2017年左右。因此,我們開始進行社會對話,在對科技的興奮與對科技的擔憂之間產生緊張關係。

所有這些都積累在2022年10月底,當時ChatGPT出現了。對於我們這些研究人員來說,我們看到了這種情況正在發生。你可能會認為我在虛張聲勢,但我會告訴你為什麼。作為史丹佛人類中心研究所聯席主任,我們在2021年成立了世界上第一個基礎模型研究中心,因為我們看到了GPT-2的結果。當時,公眾還沒有意識到,但像我們這樣的研究人員已經意識到這一點。我的同事Persi Leong和Chris Manning也意識到,這種情況將會改變。所以我們立即投入資源組建這個中心。

當ChatGPT出現時,我們很慶幸我們開始了這件事,但我們也對媒體關注度的上升感到震驚。我認為,AlphaGo時刻和ChatGPT時刻在公眾意識方面的差異不僅僅是人數的問題。這是人工智慧第一次如此親密地掌握在個人使用者手中。 AlphaGo並不在圍棋大師以外的任何使用者手中,但ChatGPT就在你指尖。這是一個覺醒的時刻,不僅對每個人來說都如此,對政府來說也是如此。

在ChatGPT之前,我們研究所的部分使命是彌合技術世界和政策世界之間的差距。所以,你在華盛頓,我不會自然而然地一直飛往華盛頓,但我去華盛頓只是為了繼續對話。但在ChatGPT之後,華盛頓就像在召喚我們一樣。就像,發生了什麼事?沒錯。所以,我認為這10年真的…我的意思是,公眾將其視為離散的事件點。我們認為這是一個連續的過程,只是越來越多的投資和運動。

研究界是否仍在爭論這些大型語言模型是隨機鸚鵡還是它們有實際的推理在進行?是的。那麼,你對這場辯論有什麼看法?我理解你為什麼使用「隨機鸚鵡」這個詞,因為它來自一篇批評大型語言模型的論文。我認為重要的是要認識到我們確實需要從不同角度批評這些模型,包括其能力、能耗、侷限性、偏見等等。

但我不會稱它為「隨機鸚鵡」。從科學的角度來看,我認為重要的是使用更中性的語氣,而不是稱它為上帝或鸚鵡。它確實是一個大型模型,不僅具有模式匹配、模式學習的能力,而且還具有預測能力,並且能夠展示某種程度的推理能力。因為它能夠向你解釋事物是什麼。我知道幾天前剛剛發布了一個新版本,我個人還沒有時間測試它。它將推理能力提升到了另一個階段。所以我認為可以說它確實具有模式識別能力,有些人可能稱之為鸚鵡學舌的能力,但它也具有一定程度的推理能力。

作為一名教育工作者,我總是非常小心,不要誇大這種推理是什麼,包括一些更誇張的推斷,例如感知或意識。那麼,在未來三到五年內,你認為可能會發生什麼?你認為目前存在的系統最大的限制是什麼?你認為我們可以更好地利用那些領域?我們如何在提高其性能方面取得真正的進展?

湯姆,我不確定你是在狹義地問語言模型還是在問人工智慧。

不,是關於一般的人工智慧。

好的。例如,有些人認為,只要購買更多GPU,我們就能取得令人難以置信的進步,例如購買兩百萬個GPU 而不是兩個GPU。還有,更多的資料,更多的合成資料。

我們知道,Transformers 和注意力機制是當前技術的核心。有些人認為,只要擴大現有的技術規模,我們就能取得令人難以置信的進步。還有一些人認為,今天的人工智慧版本有根本性的限制性,我們將不得不探索新的方法,例如神經符號方法或類似的東西。那麼,你對這場辯論有什麼強烈的看法嗎?

嗯,首先,所有的觀點都有其合理性。事實上,我確實認為我們正處於一場真正的人工智慧數字革命中。未來三到五年將繼續是技術非常令人興奮的時期,但也會給我們的社會(包括政策)帶來緊張局勢。

您所問的更多是技術方面的問題。首先,我從根本上相信,在人類歷史的每個階段,技術和科學都是有限的。我們總是可以推動前沿向前發展。就我個人而言,我對空間智能感到非常興奮,這遠遠超出了語言的範疇。如果你看看人類和動物的智能,語言只是智能的一部分。即使我們研究的是高級智能,人類也建立了超越語言的文明。從金字塔的建造到第一次工業革命的機器的複雜設計,DNA結構的發現,電影攝影的創造等等,其中很多都是建立在超越語言的空間智能之上的。所以,除了語言之外,肯定還有新的大門打開了。

從技術上講,數據的縮放定律仍然有效。我們仍然看到數據縮放定律的非常健康的證據。但同樣非常有趣的是,我們越來越多地聽到關於我們在何處達到數據極限的消息,尤其是互聯網上基於文字的資料。我們很可能已經到達極限。但就我所處的高等教育領域而言,我還看到,在許多科學發現領域,資料甚至還沒有被妥善收集。從這些數據的數字化到這些數據的建模,我認為在未來三到五年內,由於人工智慧和機器學習,我們將看到不同領域的科學發現蓬勃發展,不僅僅是大型基礎模型的商業化。我們將看到更多的空間智慧。我個人參與其中,並對此感到興奮。未來三到五年不僅僅是技術發展的歲月,也是我們如何部署和管理這些模型的關鍵時期。

在加州,正在討論人工智慧法案。就我個人而言,我既支援安全措施,也支援政策措施。但我也擔心,即使是善意的法案也可能對科學和開源社區產生意想不到的負面影響。這一切肯定會在未來三到五年內顯現出來。

我想回到政策問題上,但首先請你為觀眾多描述一下你所說的空間智能。電腦能夠看、做、學習意味著什麼?我們如何知道我們在空間智能方面是否取得了進展?

你在史丹佛大學的一位同事切爾西芬恩說,我們距離讓機器人出現在它從未見過的房子裡還很遠。那麼,比如說,距離吃早餐還有多遠呢?非常遠。我等不及了,但還很遠。

追溯人類語言的發展,這仍然是一個科學研究領域。人類語言歷史上最早的原始語言大約是在一兩百萬年前發明的。很多人說我們今天使用的語言是在過去30萬年內發展起來的。

但是,如果追溯到觀察空間、三維世界、理解正在發生的事情,觀察障礙物、觀察食物、理解如何導航和推理的能力,它可以追溯到5.4億年前。那是水下動物世界首次發展出光傳感器的時候。有了這種能力,感知就開始了。動物開始以一種專注的方式移動,而在那之前,它們只是漂浮著。它們可能觸摸了一些東西,因為早期有觸覺傳感器,但那非常非常冷。

一旦你能看到,你就開始發展空間智能。你開始規劃你的生活,開始看到食物,開始躲起來,不成為別人的食物。而智力的進化過程才剛剛開始。

空間智能總結了所有這些能力。用今天的話來說,它是理解、推理、生成和與3D世界互動的能力。現在,我們同時生活在物理世界和數字世界中,這種空間智能適用於這兩個世界。

如果你想要一個可以到你家做早餐的機器人,機器人需要具備的最重要的能力之一就是空間智慧。因為機器人需要知道你的冰箱在那裡,爐子在那裡,雞蛋在那裡,如何打開雞蛋並把它放進鍋裡等等。這些都是空間智能的一部分。

關於人工智慧的概念有很多討論。我想知道你是否認為這是一個有用的概念。人們通常認為這將是可能的。也許讓我們把機器人放在一邊,因為那有點遠。但是,如果你想像一個遠端工作者,你將能夠擁有一個人工智慧,它可以做人類所做的每件有用的、經濟上有用的事情,我們就可以用一些AGI來做。

首先,您認為這是一個有用的概念嗎?第二,有些人說,哦,那將在三年內實現。你認為這有點過於樂觀嗎?

這是個好問題。這也是一個矽谷問題。這就是我們現在的處境。有時在我的腦海裡,我會與人工智慧的先驅約翰·麥卡錫、馬文·明斯基,還有艾倫·圖靈對話。他可能不會稱自己為人工智慧的先驅,因為當他向人類提出思考機器的問題時,最終轉化為圖靈測試,他還沒有考慮人工智慧這個詞。它還沒有被發明出來。

但當我與這些巨頭對話時,我認為他們對人工智慧的定義會非常相似。它是智慧的一般能力。因此,如果他們這樣稱呼AI,那麼作為學者,我很難區分AI和AGI,因為我認為它們有很大的重疊。如果你看看AGI這個術語的出現時間,那可能還不到10年。它更多來自行業,行業營銷世界。這沒有什麼不好的。

但從學術、科學、技術研究人員、教育工作者的角度來看,你們中一些讀過我書的人知道我經常使用北極星這個詞。作為科學家,我們追逐那些我們一生中可能永遠無法解決的最難問題,但它們激勵著我們。我認為,人工智慧領域的北極星始終是那種通用能力。那麼,我對AGI(通用人工智慧)這個詞有什麼看法呢?沒有人問我他們什麼時候發明了這個詞。沒關係,但我們熱愛並仍然相信的人工智慧領域與這個定義在很大程度上是重疊的。

現在,三年後,我們會實現這個目標嗎?如果我站在創投家面前,我當然會說是的。但實際上,你不會這麼說。所以我認為我們需要負責任。這意味著什麼?機器會在重要任務上超越人類嗎?我們已經在一些任務上做到了。

例如,2006年,DARPA的無人駕駛汽車大挑戰中,我的同事Sebastian Thrun和他的團隊駕駛一輛汽車在內華達州的沙漠中行駛了138英里。這是一種令人難以置信的能力。然後我們有可以翻譯數十種語言的機器,這簡直是超人般的能力。我們在許多任務上已經超越了人類,像是AlphaFold和AlphaGo。即使是ImageNet,也有1,000個神秘的物體類別,例如星鼻鼴鼠和各種種類的狗。這些都是超人的能力。

所以我認為我們已經取得了一些成就,並將繼續取得更多成就。但是,如果沒有明確的定義,我不相信在三年內我們能實現像人類一樣聰明、像人類一樣錯綜複雜的整體性。

那麼,讓我們來談談你在史丹佛大學以人為本的人工智慧計畫中所做的工作。首先,您所說的以人為本的人工智慧是什麼意思?這個問題問得很好。我認為,以人為本的人工智慧對我來說,是一個思考我的、你的人工智慧工作的框架。因為人工智慧是由人製造的,由人使用,將影響人們的生活,那麼思考這項技術的指導框架是什麼?

在2018年3月,我還是Google的首席科學家時,我寫了一篇《紐約時報》文章,將這一框架稱為以人為本的人工智慧,正是因為我在Google的工作給了我很大的啟發。我有機會與許多企業交流,從日本的個人開發者、使用人工智慧的黃瓜種植者,一直到希望利用人工智慧徹底改變整個商業模式的財富50強公司。我意識到這項技術比我想像的任何東西都要大。這項技術將以如此深刻的方式影響我們的生活、企業和世界,這種認識實際上讓我不寒而慄。意識到一個工具可以如此強大是令人恐懼的,我們最好考慮其中的含義。

對我來說,這種深刻的意義必須植根於人類的意義。當我想到這一點時,我和史丹佛大學的同事們提出了一個觀點:我們需要用以人為本的框架來處理人工智慧。在史丹佛大學HAI,我們用三個同心圓來思考人工智慧對人類的影響:個人、社區和社會。

首先是個人層面。這項技術對每一個人有什麼影響或好處?如果你是藝術家,你是如何利用它來增強你的創作?還是它剝奪了你的知識產權?如果你是病人,這項技術是否讓你在不剝奪你的人格尊嚴的情況下更好地康復?如果你是學生,你是如何透過這項技術的幫助學習你感興趣的任何內容的?這些都是對個人的影響。

接下來是社區層面。如何利用人工智慧作為工具來幫助資源不足的社區?例如,對於那些無法去醫院就診且醫生不足的社區來說,人工智慧加遠端醫療是一個非常好的用例。同時,有偏見的人工智慧是否會對一個社區產生比另一個社區更大的影響?我們已經看到了這一點。

最後是社會層面。今天我們不能停止談論人工智慧在11 月的影響。我們的民主處理程序、人工智慧、深度偽造和資訊戰將如何改變這一切?我們不能停止談論工作,從軟件工程到卡車司機再到放射科醫生,人工智慧正在影響整個社會。

所有這些都是人類的問題。數學是乾淨的,但人類世界是混亂的。人工智慧已經從擁有乾淨數學和程式設計的世界進入了混亂的人類世界。有人曾經說過,科技很容易,人類很難,尤其是小孩。

您最期待的人工智慧在環境健康等方面的潛在優勢和應用有那些?謝謝你的提示,因為這是我書的第10 章。確實,這個領域真的是無邊無際的。就我個人而言,我非常受啟發,因為我的父母病得很重,已經病了幾十年。我在初級保健、急診科、手術室外和門診護理環境中度過了無數個小時,照顧我的母親。這讓我意識到,我們的醫療保健系統充滿了照顧他人的人。然而,這些醫療工作者——從護士到醫生再到看護者——他們沒有足夠的時間和幫助。

因此,醫療保健環境中的環境智慧實際上是我和史丹佛醫學院的同事之間合作的產物。我們希望利用科技提供額外的眼睛和耳朵,幫助醫生、護士和照顧者確保病人的安全,並防止他們的情況迅速惡化。

例如,很多人的家人和朋友都曾經跌倒過。這是一種非常痛苦且代價高昂的傷害,尤其是對老年人來說。那麼,如何預測這種情況呢?如何發出警報?如何幫助他們?如何幫助我們的老年人或患者?讓一個人24小時看護很難,但電腦和攝像機可以提供幫助。環境智慧可以幫助監測COPD患者的病情,並在氧氣快速變化或某些情況發生變化時提醒醫生。

這只是人工智慧幾乎成為守護天使的一個例子,它可以增強我們的照顧者,照顧人們。我們在教育和個性化學習中也看到了令人興奮的用例。人工智慧可以成為導師、助教,在不同的學習環境中成為老師的助手。我記得你的一位前研究生安德烈正在研究這個問題,我幾天前才見過他。

不僅如此,農業領域也有很多用例。幾年前,在深度學習革命開始之前,我曾有一個學生與他人共同創辦了一家初創公司,使用電腦視覺技術檢測田地裡的雜草,從而讓農作物更健康。我還聽說鮭魚養殖戶使用人工智慧來幫助養殖鮭魚。人工智慧的積極用途不勝列舉。

那麼,我們該如何讓更多的人既擁有計算背景,又成為領域專家呢?例如,你的同事Daphne Culler有機器學習背景,但她也學到了很多關於醫療保健和藥物發現的知識。在我看來,那些在計算專業知識和領域專業知識兩個領域都有涉獵的人將能夠幫助識別更多這些引人注目的用例。

這是一個很好的觀點,湯姆。我深信跨學科和多學科方法的重要性。即使你不想獲得交叉領域的博士學位,我個人是在人工智慧和計算神經科學的交叉領域,或者人工智慧和計算生物學的交叉領域,或者人工智慧和政治學的交叉領域獲得的知識。即使你沒有博士學位那麼深入,跨學科的知識仍然非常有價值。在你作為學生的整個旅程中,擁抱計算、STEM領域以及你熱愛的領域(無論是生物學、藝術、政策還是化學等等)都具有很大的價值。

對於在校學生來說,無論你是在學校、考慮上大學還是已經在大學,我認為湯姆所說的真正有價值的是擁抱這種跨學科性。

從廣義上講,人工智慧是計算的新語言。我曾說過,只要有晶片的地方,就會有或將會出現人工智慧。小到裝有晶片的燈泡,大到機器人、汽車等等,都會有人工智慧。

鑑於這項技術的重要性,我確實相信要從小教育我們的孩子,教育來自不同背景、各行各業的學生,教育我們的公眾這項技術,至少如果不是編碼,也要知道這是什麼。

即使你的熱情不在計算、電腦程式設計或人工智慧的技術細節上,如果你的熱情在藝術上,或者在政治學、法律、醫學上,你也會有一席之地,因為領域專家將使用人工智慧在你的領域做出改變。所以不要害怕從你的角度接受它,並用它來做出積極的改變。

人們列出了很多潛在的風險。你已經談到了一些:人們將會失去工作,人們會利用深度偽造來擾亂選舉,現有的偏見會進一步加深。有些人有更多推測性的擔憂,例如工具收斂的想法。如果我們給人工智慧係統一個目標函數,即試圖實現某個目標,那麼它就會有子目標,想要複製自己並獲得更多的計算能力。

在這些風險中,我最重視的是那種風險?是的,風險很多。每一項技術,每一項強大的技術都可能造成傷害,被用於傷害,即使是善意的也會產生意想不到的後果。我們必鬚麵對這一點。

但如果你強迫我選擇一個風險,作為教育工作者,我會說擁抱人工智慧新時代的最大風險是無知。這不僅僅是基本的無知,例如不知道如何拼寫人工智慧這個詞。即使是一些學識淵博的人,當他們忽略細節和細微差別,並以誇張的方式傳達人工智慧時,也會對社會構成風險。

如果我們對這項技術太無知,我們就會錯過利用它為自己謀利的機會。如果我們對這項技術無知,我們就無法指出或認識到實際風險。如果我們傳播無知的資訊,我們也在誤導公眾或政策制定。

這些問題的根源實際上源於缺乏理解,所以我們沒有正確評估風險,或者我們誇張地傳達它,或者我們完全錯過了它。這就是我的意思。

你現在看到那些例子,人們說的話你認為完全不著邊際?

好吧。

我認為,任何說人工智慧都是好的人,好像在說技術都是好的,它只會帶來好處,永遠不會做壞事。我認為這是對過去的無知。回顧人類使用工具的歷史,每一種工具都被用於有害的地方。因此,我們必須認識到,如果你的資料集有偏差,那麼在公平性方面,你會受到非常嚴重的下游影響。如果你不知道人工智慧在那裡、如何製造,那麼你可能真的太無知了,在不知情的情況下使用深度偽造。這些都不好。

但還有另一個轉折點,那就是,這是一個惡魔,它的存在危機,它會自我擴散、自我複製,關閉電網等等。此外,我認為這是誇張的,它忽略了人工智慧不是一個抽象的概念,它實際上存在於物理系統中。即使它是虛擬軟件、數字程序,它也存在於物理系統中,它存在於數據中心,它存在於電網中,它存在於人類社會中。有太多的東西是相互聯絡和情境化的。

但是,提出這些更具推測性的擔憂的人中,有些人是像傑弗裡·辛頓(Jeffrey Hinton)這樣的人,他們大概理解這項技術。那麼,你為什麼認為,過去幾年,那些深入參與這項技術的人變得更加擔憂?

首先,傑夫,我非常非常尊敬傑夫。我從讀研究所的時候就認識傑夫了。實際上,去年我在多倫多,我和傑夫辛頓就這個問題進行了公開討論,視頻在YouTube 上。我認為這是傑夫和我,或者傑夫和任何人就這個問題進行公開討論的極少數幾次之一。如果你仔細聽他說話,你會發現他很擔心。他還指出了潛在的風險。

但是,他的擔憂還有一層放大。我們必須分開。我完全尊重與Jeff 的討論。我同意他的觀點。不負責任地使用這項技術將會導致非常可怕的後果。他對不負責任的使用有自己的看法。我有自己不負責任的使用版本。我還認為,我尊重每個人以自己的方式呼籲這些風險。但我也想成為一個負責任的傳播者和教育者。我想讓大眾知道,駕馭和管理這項技術仍然是我們人類集體的責任。對,而且絕對有,不只是時間。絕對有時間。還有,你知道,我們所做的一切都是在我們手中。我們不應該放棄。

對,所以你談到了治理。您在將國家研究雲的想法納入政治議程方面發揮了非常重要的作用。如果您確實有機會向下任總統做簡報,而他們問您,feifei,我該怎麼辦?關於美國最重要的事情,您會給下一任總統什麼建議?政府可以做些什麼來努力促進利益,同時也理解和管理風險?

對,我可能會說去年6月和今年早些時候我對拜登總統說的話。當我在國情咨文演講中遇到他時,我相信我們的國家需要一個非常健康的人工智慧生態系統。當我說它是一個生態系統時,它包括公共部門、學術界和企業家精神。我們現在稱小科技和大科技為技術。

我們的國家是一個非常強大的民主國家。我們相信這種民主的價值。我相信擁有健康的人工智慧生態系統可以發揮我們的優勢,並且可以發揮非常積極的作用。但是,我們可以做些什麼來嘗試呢?公共投資。是的,公共投資。公共投資真的非常重要。

現在我部分在私營部門工作,這讓我更加確信私營部門投資和公共部門對人工智慧的投資之間的差異是如此巨大,對吧?就像我的史丹佛…我與其他幾位教員共享的史丹佛電腦視覺實驗室沒有H100。它也沒有A100。我們仍在使用A6000和其他較舊的晶片。然而,正如你所說,大型科技公司擁有數十萬和數百萬個晶片。

我認為公共部門投資是思想花園和鮮花盛開的地方。如果不是公共部門,我們今天就不會在這裡,我也不會在這裡。還有,Jeffrey Hinton 是什麼時候開始研究人工神經網絡的?幾十年前?是的,他在CMU工作過,甚至可能更早,對吧? ImageNet來自公共部門,你知道,未來三到五年,我們談論的是科學發現。我們將看到令人興奮的事情出現,其中許多將來自公共部門。而且來自公共部門、學術界的最好的東西,你猜怎麼著?我們的人民,就是這樣。所以我們需要投資公共部門。

是的,太好了。好吧,我們的聽眾非常聰明,所以我相信你已經提出了很多非常好的問題。讓我們看看其中一個關於你新公司的問題。你將如何收集足夠的資料來建構一個支援即時定位的世界空間地圖?顯然,數據是關鍵,沒有數據,你將無法在空間智能方面取得進展。也許你可以解決這個問題。

我們尚未公開討論細節,因為我們還沒有準備好。當我們準備好時,我們會的。我覺得有趣的是,有人已經知道我們在做什麼了。那是他們的故事版本,我對此不做評論。但你說得對,人工智慧是由數據驅動的,這很重要。我們公司的空間智慧絕對是基於像素的,因此,大量像素資料將推動這項技術的發展。

這是艾米提出的一個很好的問題,這和你從事的一項工作有關,即全民人工智慧。她說:「我是一個12歲的中學生。我們可以做些什麼來鼓勵更多的女孩學習人工智慧,並更好地為人工智慧時代做好準備?」這是個好問題。我認為應該鼓勵每個12歲的孩子接受這一點。不管你是女孩還是男孩,不管你住在農村還是矽谷,如果你喜歡它,就接受它。

對艾米來說,我12歲的時候還沒有人工智慧,至少我不知道有人工智慧。我喜歡數學和物理。今天,我感激父母和老師對我做的一件事,我會告訴艾米和所有的學生,那就是追隨你的激情,追隨你的好奇心,保持堅韌。如果有負面的聲音,就忽略它。有很多人,從你的父母到你的老師,從你的朋友到你的榜樣,都在支援你。繼續做下去,繼續前進。

除了做早餐之外,用空間智能解決的最重要的人類問題是什麼?午餐?不,只是開玩笑。空間智慧真的可以為很多事情提供動力,從創造到設計。你們有多少人只想要一個應用程序,可以想像所有的家具重新佈置,機器人、AR、VR,到特定領域,無論是教學、學習、醫療保健、工廠、製造業等等。所以它真的是一種非常普遍的橫向技術,可以影響所有這些領域。

我們還有一個關於小模型和AR眼鏡結合的問題。這是你考慮過的事情嗎?我對新媒體感到非常興奮。我知道現在還為時過早,對吧?就像我們又回到了矽谷一樣。

我相信你們中的許多人都熬夜購買了Vision Pro,所以我非常興奮。實際上,蘋果稱之為空間計算,因為當時我已經考慮空間智能很多年了。我認為,空間計算需要空間智能。雖然目前的形式可能只是眼鏡或耳機,但我真的相信眼鏡,可能是耳機,但眼鏡對我來說非常令人興奮。

邊緣計算或小模型也非常令人興奮。小模型不僅對眼鏡和耳機有用,它對邊緣計算非常強大,無論是智慧型裝置、機器人,尤其是家用機器人。你不能在後備箱裡攜帶伺服器,對吧?所以小模型有很多用途。

我對多模態模型和智慧眼鏡在勞動力發展方面可能發揮的作用非常感興趣。我們沒有足夠的電工,所以你可以想像那種耳塞、人工智慧和智慧眼鏡,能夠提供某種及時的培訓,作為學徒計劃的一部分,提供足夠的培訓。

我們能做什麼?研究界能做什麼?公司能做些什麼來解決英語以外的其他語言代表性不足的問題?這是一個很好的問題。這涉及到數據偏見和所有這些。首先,我確實認為,每個國家都應該有公共部門在人工智慧方面的投資。這本身與當地文化、當地語言有關。

從這個角度來看,個人研究人員的關注很重要,但能夠部署大量資源的政府和大型組織也應該關注這一點。英語確實佔主導地位,我們應該意識到這一點。這又回到了我對公共部門投資的觀點。即使在這個國家,我相信我們也有出色的研究人員和學生在思考其他語言,但現在他們缺乏資料集和計算資源。我們需要解決這個問題。

觀眾提出了一些哲學問題。我想知道,您是否可以談談您為吸引史丹佛人文和社會科學人才所做的努力。作為電腦科學家,他們能夠提供那些讓您感興趣的見解?

實際上,這是我過去五年建立和共同運營這個研究所最有趣的部分,真正影響了整個校園。史丹佛大學有大約八所學院,從法學院、商學院、醫學院,到現在的可持續發展學院、人文和自然科學學院、工程學院,與同事交談,接觸校園裡的學生、研究人員和學者,非常有趣和富有啟發性。 ### 我學到了什麼?

例如,與人文學科的同事交談確實開闊了我對人類表現和創造力的理解。

我們如何看待人工智慧與具有深度創造力的人的關係?尤其是當ChatGPT 和Sora 問世時,從好萊塢的編劇罷工,到對聲音、藝術家、個人版權的關注,再到那些走在擁抱這一工具前沿的藝術家,這一切都顯得非常複雜。

我沒有受過正規教育,甚至無法完全理解這些複雜性,但他們教會了我如何思考。我確實學到了一件事,再次與在座的各位交談,可能是非常技術性的。我認為技術人員傾聽並接觸人文主義者和社會科學家非常重要。在您的工作環境中,這可能涉及法律、產品、營銷等許多不同的功能。因為技術不是存在於真空中的,需要復雜的人類努力才能使技術變得仁慈和善良。帶著謙卑和尊重的態度,給予對方應有的尊嚴,是我們能做的最根本的事情,以建立這些橋樑。

您認為我們在可解釋和可解讀的人工智慧等領域取得進展有多重要?這是一個很好的問題。我認為總的來說,這很重要。但同樣,我們必須進行一些細微的探討。例如,即使是可解釋性也具有不同的層次。

例如,每個人都知道泰諾可以緩解發燒和頭痛。但如果讓我解釋泰諾的分子途徑,事實上,即使在今天,科學家也不知道所有的細節。然而,你永遠不會說泰諾是一種無法解釋的藥物。這是因為圍繞藥物開發、監管措施、批准過程有一個完整的系統,這個系統有足夠的解釋讓你或大多數公眾信服並感到信任。

另一種可解釋性是,例如,你從拉法葉開車到山景城,Google地圖會給你選擇。這條路線需要付費,但快了四分鐘;這條路線風景優美。雖然這並沒有向你解釋從A 點到B 點的演算法,但身為人類使用者,你會覺得你的選擇有足夠的可解釋性。

再說回醫學,我們這些不是醫生的人幾乎都不知道治療。然而,你的醫生用某種人類語言向你解釋這種治療是什麼。我用這個例子來和你分享,思考案例和用例非常重要。思考可解釋性的定義也同樣重要。特定用例的特定定義確實需要匹配。有時我們不需要機械分子通路等級的可解釋性,有時我們需要不同層次的可解釋性。所以,回答你的問題,這很重要,但這取決於具體的用例。它在不同的情況下有不同的重要性。

我們有很多觀眾想理解你為世界實驗室制定的商業計畫的細節,但我們會跳過這些問題。他們是觀眾席中的風投。有一個問題是,你提到除了研究人工智慧,你還研究神經科學。有些人對這個問題很感興趣:人工智慧能從神經科學中學到什麼?

摺積神經網路至少在某種程度上受到了人類視覺系統運作方式的啟發。人們研究過多巴胺獎勵回路,這是強化學習的靈感來源。你認為神經科學和人工智慧在其他領域有潛在的合作嗎?顯然,大自然已經解決了低功耗計算的一些問題,因為我們的大腦只使用20瓦。

當我們成立史丹佛HAI時,三大研究支柱之一就是神經科學。對我來說,神經科學和人工智慧之間的跨學科合作是我們領域發展的基礎,也是兩個領域未來發展的基礎。我非常幸運能夠與Surya Ganguly、Mike Frank和Noah Goodman這樣的同事一起工作。史丹佛大學的許多同事都處於這項跨學科研究的前沿。

例如,幼兒的發展,在早期,孩子們會進行大量的好奇心驅動的學習。這如何轉化為人工智慧系統?這是一個靈感。我們也知道,反向傳播是對我們大腦中兩個神經元之間發生的事情的一種非常簡單的翻譯。除了突觸連接外,還有許多樹突連接實際上與大腦有著深厚的連結。我們有非常電氣、化學和非常微妙的東西,今天的機器學習演算法還沒有結合這些複雜、新穎、有趣的突觸和神經元通訊管道。

另一方面,我們的神經科學家同事,無論他們使用動物模型還是細胞模型,都在收集大量材料,並使用這些資料進行研究。這就是為什麼機器學習或人工智慧是一種幫助他們發現科學的迷人方式。最後但並非最不重要的一點是,即使是我的實驗室,我們現在也正在與心理學家合作。使用來自人類的非侵入性電腦電波來驅動機器人,這令人著迷。這是一種完全非侵入性的方式。關鍵在於,這兩個領域有許多交叉融合,對我來說,這是跨學科研究最令人興奮的領域之一。

飛飛,我們有足夠的問題讓你在這裡待到10點。但請和我一起感謝飛飛的精彩採訪。謝謝。記住,我看到的世界。是的,這是肯定的。非常感謝你們倆。再次,這是一個很棒的交流,我個人有很多收穫。

我認為公眾支援確實是一個非常、非常根本的因素。湯姆,你在政府中為這些事情做了很多任務作。如果沒有公眾支援,我們就會不知所措。在這個階段,很多事情都與社會影響有關。

你要找的人,第四個人…哦,是的,出席達特茅斯會議的是納撒尼爾‧羅切斯特(Nathaniel Rochester)。當時他在IBM 工作。我想告訴所有最近沒有參觀過展覽的人,樓下有一台霍勒裡斯機器,這是赫爾曼·霍勒裡斯(Herman Hollerith) 在解決美國面臨的一個問題後建造的機器。政府曾試圖將1890 年的人口普查編纂成法典。因為人口增長導致人口增加,因此採用的技術無法及時進行人口普查。透過公眾號召和私人倡議的結合,他發明了一種基於打孔卡的機器,這種機器是為工業革命時期的提花織機設計和製造的,用於儲存所有這些織物和窗簾的圖案。

所以我們回到話題,無論是DARPA 的資助還是其他什麼,都需要社會對此的呼籲。如果不是現在,我不知道什麼時候。你在台上為大家闡述了一些很棒的想法。我想再次感謝你們兩位。請 (Web3天空之城)


最近長文
關於鉅亨號
「鉅亨號」是《Anue鉅亨網》以AI 大數據和推薦引擎所推出具影響力的自媒體社群平台,從投資理財為主題擴展到金融財經、房地產、汽車、數位虛擬貨幣、影音視頻及Podcast的數位生活圈。讀者可透過一面牆及個人化功能關注一天的大小事;對創作者而言更是一個直接能與1,000萬用戶互動的舞台。
最好用的投資平台,幫你找到最適合自己的標的
看真實的投資分享文章,跟隨達人腳步取得最佳利益
多元投資社群平台,掌握最新市場動態熱門議題