AI教父Hinton：曾為了兒子賣身Google，如今擔心AI 會毀滅人類

AI 教父Hinton 陷入了矛盾之中。

Geoffrey Hinton，這位被譽為「深度學習教父」的科學家，最近在The Diary of a CEO播客中袒露了一個鮮為人知的故事：他當年把自己的神經網路公司賣給Google，竟然是為了給有學習障礙的兒子攢夠養老錢。

這位75歲的老人在播客中坦言：

我有一個有學習障礙的兒子。為了確保他永遠不會流落街頭，我需要幾百萬美元。作為學者是賺不到這些錢的。我試過了。所以我教了Coursera課程，希望能賺很多錢，但那裡沒有錢。所以我想，賺幾百萬美元的唯一方法就是把自己賣給一家大公司。

無奈之下，65歲的Hinton做了一個改變AI歷史的決定。

當時，他的兩個天才學生——包括後來創立OpenAI的Ilya Sutskever——開發出了AlexNet，這個神經網路在圖像識別領域取得了突破性進展。Hinton看到了機會，和學生們成立了一家小公司，然後搞了一場拍賣會，讓各大科技巨頭競價。

最終，Google贏得了這場競標。

Google對Hinton相當寬容：

他們對我很好。他們說，基本上你可以做任何你想做的事。我研究了一種叫做蒸餾的技術，效果非常好。現在一直在使用。

但正是在Google的這段經歷，讓Hinton意識到了AI的可怕之處。

這與意識到為什麼數字系統在共享資訊方面比模擬系統好得多相結合，突然讓我對AI安全非常感興趣。這些東西真的會比我們聰明得多。

75歲時，Hinton離開了Google。

他澄清說，離開並不是因為對Google有什麼不滿——恰恰相反，他認為Google表現得非常負責任。當Google擁有大型聊天機器人時，他們沒有急於發佈，可能是擔心損害自己的聲譽。

反觀OpenAI，Hinton說：

OpenAI沒有聲譽。所以他們可以承擔這個賭注。

Hinton 的話裡透露出一個無奈而諷刺的現實——Hinton的學生Ilya Sutskever離開Google創立了OpenAI，並開發出了ChatGPT，引領了這場AI革命。

而Hinton本人，卻成了最大聲疾呼AI 風險的人之一。

但Hinton對AI的態度並非完全悲觀。

在另一段採訪中，他描繪了人類與AI共生的美好願景：

AI將被廣泛使用，而且會變得非常智能。如果我們能達到人類與AI共生的狀態，AI將讓世界對人類來說更加有趣。平凡的事情將由AI完成，這種共生關係將讓人們學得更快，生活更有趣。這是好的場景，我希望我們能實現它。

然而，他也清醒地指出了現實的殘酷：

這很快就涉及到政治，因為將要發生的是，平凡的智力工作將由AI完成，這將取代很多工作。在某些領域這很好。例如在醫療保健中，如果你能讓醫生和護士更高效，我們都可以獲得更多的醫療保健。我們都想有個隨時可以詢問的醫生。

他警告道：

但在其他領域，你只需要那麼多，這將導致失業。我相信有些人認為不會。有些人認為會創造新的工作。我不相信。擔心的是，生產力會大幅提升，這本應是好事。但生產力大幅提升帶來的商品和服務增長不會惠及大多數人。許多人會失業，少數人會變得非常富有。這不是AI的問題，而是AI在我們現有社會中發展的問題。

Prashan Agarwal(@prashan_agarwal)評論稱：

Hinton的軌跡幾乎像神話。先點燃火焰，然後警告大家小心燒傷。進步和謹慎不是敵人，它們只需要保持對話。

FanTV AI(@FanTV_official)也感慨：

技術界的師承關係就是這樣迴響。一代人建造工具，下一代人拿著它們狂奔……有時候跑得太遠了。

更讓人深思的是Hinton對AI 末日的機率評估。

AIFRontier(@EdgeOfFiRa)在聽完播客後指出：

值得注意的是，一直被描繪成AI末日論者的他，實際上只給末日場景分配了10-20%的機率。值得反思的是，專家的不確定性是如何被壓縮成二元的末日/繁榮框架供公眾消費的。

但misaligned hominid(@ra75293)認為：

他的末日機率超過50%。他說10-20%只是因為Yann LeCun說得更低。但他基本上認為我們完蛋了。

關於AI未來的爭論還在繼續。

有人擔心我們正走向滅絕，有人則認為沒人真正知道未來會怎樣。

cptbhb(@werwt5yvh)悲觀地說：

歷史上好幾次，我們離核末日如此之近，最後都是靠某個隨機的人違抗命令才倖免。有權勢的人都是徹底的傻瓜。沒有大人在房間裡，也沒有人在掌舵。

Hinton的故事也揭示了AI 發展中的悖論。

一個為了兒子的未來而投身商業的科學家，最終成了警告AI可能毀滅人類未來的先知。他的學生們推動著AI革命滾滾向前，而他卻在努力讓這列火車慢下來。

Hinton 仍在警告著AI 風險——

而Sam Altman 領導下的OpenAI，正在引領他點燃的AI 革命。 (AGI Hunt)