史丹佛李飛飛最新專訪：AI不會對人類造成「滅絕性危機」
在北京時間5月10日凌晨舉行的彭博Bloomberg Tech活動上，著名華人電腦科學家、美國史丹佛大學教授李飛飛（Fei-Fei Li）接受了彭博社記者Emily Change現場專訪。
這場15分鐘對話中，李飛飛表示，所謂擔心人類被AI 滅絕的風險被過度炒作，“這已經被誇大了”，所謂“滅絕性的危機”有點太過了。不過，她依然認為需要對AI 模型進行限制，擔憂、評估和審查這些AI 模型。
這是外界公佈李飛飛創業後的首次專訪。
李飛飛是AI 領域的先驅性人物，也是電腦領域的華人女科學家，目前還是史丹佛大學首位紅杉講席教授、美國國家工程院院士、美國國家醫學院院士、美國文理科學院院士、ImageNet的首席科學家和首席研究員、史丹佛以人為本人工智慧研究院院長、AI4ALL聯合創始人。她的專業領域是電腦視覺和認知神經科學。
李飛飛一直被稱為「AI 教母」——源自與圖靈三大「AI 教父」一樣的稱號。她透過開發一種名為ImageNet的大規模圖像資料集在AI領域名聲大噪。該資料集幫助開創了新一代能可靠識別物體的電腦視覺技術，也是ChatGPT底層技術之一。
2016年11月，李飛飛加入Google，擔任Google雲AI/ML首席科學家。 2018年9月，返回史丹佛任教，現為Google雲AI/ML顧問。 10月20日史丹佛大學以人為中心的AI計畫開啟，李飛飛擔任共同負責人。
先前報導稱，她創立了一家「空間智慧」企業，並完成了種子輪融資。投資人包括矽谷創投公司Andreessen Horowitz（a16z）、加拿大基金Radical Ventures等。
李飛飛強調，她看到越來越多的女性，和多樣化背景的人進入科技和人工智慧領域，多樣化背景人員將有可能成為傑出的思想家、創新者、技術人員和教育家，發明家，科學家。因此她完全接受「AI 教母」這個稱號。
以下是對話全文：
歡迎李飛飛博士登台，她是史丹佛大學電腦科學Sequoia 教授，人工智慧中心聯合主任。
Emily Chang: 李博士被譽為人工智慧的教母。你對這個稱號有何感想？這是我要提的第一個問題。
李飛飛：Emily，我自己從未自稱為任何事情的教母，但當我被授予這個頭銜時，我確實停下來思考了一下，我想，如果男性可以被稱為某事的教父，那麼女性也可以，所以我完全接受這個稱號。
Emily Chang: 百分之百。
Emily Chang: 你是我們這個時代最有影響力的電腦科學家之一。你撰寫了大量的學術論文。你是ImageNet 的創造者，這個包含大量圖片及其描述的資料庫為現代AI 奠定了基礎。你有想像過它的影響力會有多大嗎？
李飛飛：ImageNet 於2007 年被設想出來，它可能是AI 演算法中巨量數據的關鍵轉折點。從科學的角度來看，我堅信巨量資料會從根本上改變我們進行AI 研究的方式，但我從未想到巨量資料、神經網絡和GPU 的融合會催生出現代AI，我也從未預想到從那時起的進步速度。
Emily Chang: 你經常和那些正在決定這項技術未來的人們在同一房間裡，例如拜登總統，Sam Altman，Sundar Pichai，Satya Nadella。你在國會作證，你參與了各種工作小組。你對那些有權力的人，他們應該如何使用這種權力，有什麼主要的建議嗎？
李飛飛：Emily，很好的問題。實際上，無論我是在K-12 夏令營，還是在史丹佛大學的AI 導論課程中，我的資訊都是一樣的，那就是要認識到這項技術，它是什麼，以及如何負責任和審慎地使用它。理解並接納它，因為它是一種橫跨各個領域的技術，正在改變我們的文明，推動商品流通，科學發現的快速進展，尋找治療癌症的方法，繪製生物多樣性地圖，和我們一起發現新材料。但同時，也要認識到所有可能產生的後果，包括可能的非預期後果，以及如何負責任地開發和部署它。我認為，在現今的對話中，保持平衡，理性深思的聲音非常重要。無論是在白宮還是學校。
Emily Chang: 現在，我不知道你會否稱這為一場危機或一個轉折點，但AI 模型的訓練數據正在耗盡，然後有些公司開始轉向使用AI 生成的數據和合成數據來訓練他們的模型。這個問題有多嚴重？有哪些風險？下一步該怎麼做？
李飛飛：首先，我認為AI 模型的訓練資料正在耗儘是一種非常狹隘的觀點。我知道你在暗指那些消耗大量網路資料的大語言模型，特別是那些來自網站、Reddit、維基百科等你能取得的資料。即使在談論語言模型，我們也不應侷限於此。我認為還有很多可以探索的。
我們看到，不同的數據可以用來建構定製化的模型，無論是用於新聞業還是在諸如醫療保健等不同的行業領域。其實我們並沒有耗盡資料。實際上，還有很多有許多行業還未進入數字化時代。我們並未充分利用資料，不論是在醫療、環保或教育等領域。因此，即使在語言模型這個領域，我不認為我們的資料已經用盡。
Emily Chang: -您認為現在使用AI 產生的數據來訓練模型是好事，還是這可能會讓我們逐漸遠離原始資料，以一種可能危險的方式進行？
李飛飛：-這是一個需要更深入探討的問題。這是個好問題。 AI 有很多產生資料的方法。例如在我的史丹佛實驗室，我們做了很多機器人研究，對吧？機器人學習。在這裡，模擬資料非常重要，因為我們根本沒有足夠的資源或機會去收集由人類產生的動作等等。模擬真的非常重要。這會讓我們走向危險的道路嗎？
我認為，即使是使用人類產生的資料，也可能讓我們走向危險的道路。同樣，如果我們對模擬資料的處理不負責任，或者沒有進行深思熟慮，那麼當然可能會使我們走向危險的道路。我的意思是，我甚至不需要特意指出。你知道有哪些是人類生成的不良資料，對嗎？就像整個暗網。所以問題不在於模擬本身，問題在於數據。
Emily Chang: -你正在涉足熱門且競爭激烈的AI 創業領域。你正在啟動一些項目，你能透露一些資訊嗎？
李飛飛：-不能。
Emily Chang: -好的。那就期待後續吧。我們就AI 時代的信任度進行了一項調查。可以公佈那項調查的結果嗎？問題是，你對科技公司能否安全開發AI 有多大的信任？
李飛飛：我完全信任他們，0%。我持懷疑態度，所有人。一點也不信任。有很多人在做這個。
Emily Chang: 是誰在做？
李飛飛：- 這個房間裡的人。
Emily Chang: 如果你要對AI 領域的主要參與者進行排名，你最信任誰，最不信任誰？
李飛飛：我的信任並沒有寄託在某個參與者身上。我信任的是我們共同建立的整個系統以及我們共同建立的機構。所以這可能是你的陷阱問題，但我無法指出我覺得，你知道，我是說，想想美國的開國元勳們。他們並沒有將信任寄託在一個人身上。他們建立了一個我們所有人都可以信任的系統。
Emily Chang: 我們在做這個嗎？
李飛飛：我們正在嘗試，至少史丹佛人類中心AI 研究所正在嘗試。我認為很多人也在試圖做這個。我常被問到這個問題，Emily，你對AI 還抱持著希望嗎？首先，這是一個非常悲傷的問題，但我確實會說，我的希望並不在AI 上。我的希望在於人。我並不是一個妄想的樂觀主義者。人是複雜的。我是複雜的。你是複雜的。但我的希望在於人，在我們的集體意願，在我們的集體責任，很多事情正在發生，我們正在前進，我們中的許多人正在努力使這項技術成為一項可靠的文明技術，以便提升我們所有人。 Emily Chang: 人們談到的風險有很多，如人類滅絕，壞人，種族偏見，被誇大的各種偏見。你最擔心的是什麼？
李飛飛：我更擔心的是更為緊迫的社會災難風險。我也擔心人類滅絕風險被過度炒作。我覺得這已經被誇大了。這屬於科幻世界的事情，只是在思考它。對於思考這些問題並沒有什麼錯，但相比之下，實際的社會風險，無論是對我們民主過程的錯誤資訊和虛假資訊的干擾還是勞動力市場的轉變，或者存在偏見的隱私問題這些都是我們必須面對的實際社會風險因為它們影響真實的人們的真實生活。
Emily Chang: - Meta 正在領導一個開源AI 運動。你認為什麼應該是開放的，什麼不應該開放？
李飛飛：- 這是一個很複雜的問題。我確實相信一個開放的生態系統，特別是在我們的民主世界。我認為回顧我們國家在過去一百年甚至更久的歷史中的亮點無不體現在創新、企業家精神，以及資訊的自由流通。所以，我們需要倡導這種開放的生態系統。
Emily Chang: - 在AI 中，沒有人談論的最大的事情是什麼？我們應該談論什麼？
李飛飛：- 我認為我們應該更多地談論，天哪，實際上有太多的事情。我們應該談論我們如何真正想像我們如何使用這項技術。我跟醫生、生物化學家、老師談話。我跟藝術家、農場主交談。有這麼多我們可以想像的方式。有這麼多我們可以用來改善人們生活改善工作的方式。我不認為我們談論得夠多。我們正在談論的是末日的陰暗面而且只有少數人在談論末日的陰暗面然後媒體在放大這種聲音。
Emily Chang: - 我不知道你在說誰。
李飛飛：- 我無意中揮了揮手。我不認為我們給了足夠的聲音給那些真正以最具想像力、創造性的方式試圖用AI 給世界帶來好處的人。對過度管制的擔憂 Emily Chang:有沒有任何人，任何事情你想指出就是任何人或任何公司，讓你感到惱火？
李飛飛：- 我知道你在說什麼。我已經指出過他們，我不會說是胡說，只是我覺得我們對「危機」關注得太過了，哦，不對，是「滅絕性的危機」。
Emily Chang:存在主義引發的滅絕危機。
李飛飛：是的，就是這個意思。這就是我們過於強調的問題。我擔心我們國家不同地區，例如加利福尼亞，正在推進的一些法案，過於強調這個問題。這些法案可能出於善意，但它們對AI 模型設定了限制，甚至可能無意中將開源視為違法，而沒有真正思考如何評估和審查這些AI 模型。我對此感到擔憂。
Emily Chang: - 你是不是認為我們可能會過度管制？
李飛飛：- 有可能，我們可能會過度管制，而這可能會傷害我們的生態系統。但同時，在醫療、交通、金融等實際應用領域，我們應該考慮設定適當的防護措施。
Emily Chang: - 你跟拜登總統談過這個問題嗎？我知道你可以直接跟他聯絡。
李飛飛：- 我不能告訴你我跟他談過什麼。其實，在跟拜登總統的交談中，我們討論了投資公共部門AI 的重要性，因為我們現在就在矽谷，大家都知道，無論是人才、資料還是計算能力，都主要集中在科技產業中，尤其是大型科技公司。
而美國公共部門和學術界在AI 資源方面正在迅速落後。史丹佛自然語言處理實驗室只有64 個GPU，只有64 個。想一想這個對比。我們談論了公共部門的資源問題，因為公共部門是我們國家的創新引擎，它創造了公共產品，發現了科學知識，並且為公眾提供了對這項技術的可信賴和負責任的評估和解釋。
Emily Chang: - 所以最後一個問題，我知道你非常關注這個問題在你的實驗室和其他地方這個領域沒有足夠的女性和有色人種掌控權這個風險有多大，可能會引發什麼問題？
李飛飛：-是的，Emily，我知道你一直在倡導這個問題，看，還不夠。實際上，我認為文化並不一定變得更好，我們看到越來越多的女性和多樣化背景的人進入科技和人工智慧領域，但我們也看到男性的聲音被更多地傳播。人們會說，飛飛，你在這裡發言，但有很多人比我更好。有很多年輕的女性，來自各種多樣化背景的科技人員，他們的聲音應該被聽到，應該有更大的發言平台。如果我們聽不到他們的聲音，那就真的是在浪費人力資本，對吧？這些都是傑出的思想家、創新者、技術人員和教育家，發明家，科學家，如果我們不給他們發言的機會，不聽他們的想法，不提升他們的地位，就是在浪費我們集體的人力資本。
Emily Chang: -我認為教母是一個非常好的稱呼。大家怎麼看？你們同意嗎？
所有人：是的。
Emily Chang: 好的，謝謝您。人工智慧教母。 （鈦媒體AGI）