本周聚焦AI教父傑弗裡·辛頓的最新訪談

人工智慧發展趨勢與預測：

• 快速發展與超預期：

人工智慧（尤其是深度學習）的發展速度超出許多研究人員的預期，正在快速進步。

• 超越人類智能的可能性：

傑弗裡·辛頓（Geoffrey Hinton）預測，在未來幾年內，人工智慧有相當大的機率（他估計為10%到20%）超越人類智能。他此前曾給出更高機率 [Me]。

• 推理能力的提升：

神經網路已展現出強大的推理能力，並非僅僅依賴直覺，而是可以直接通過學習實現。

• 數位化優勢：

數位化的AI系統在知識共享方面比人類效率高得多，這使其能夠快速積累和超越人類的知識和智能。

• 未來圖景複雜：

人工智慧的未來發展複雜，可能出現技術進步與失業、普遍基本收入等多種情況的混合。

• AI將勝過人類：

達里奧·阿莫代伊（Dario Amodei）認為，未來AI在幾乎所有方面都將超越絕大多數人類的能力。

• 通識教育到專業培養：

AI的發展經歷了從“通識教育”到“專業”培養的階段，專業AI將大量湧現。

• AI原生應用：

未來的AI應用可能是AI原生的，不再需要傳統介面，甚至能在使用者未提問時就預測並滿足需求。

• AI與硬體結合：

AI與硬體的多模態結合是重要的發展機遇，將在實體經濟等領域發揮作用。

中國在人工智慧發展中的角色，特別是DeepSeek：

• 快速追趕：

中國在AI發展方面迅速趕上西方，這讓許多研究人員感到意外 [1, Me]。

• STEM教育優勢：

中國在STEM教育方面優於美國，擁有更多受過良好教育的人才，有望繼續趕超。

• DeepSeek的崛起：

中國的DeepSeek模型以較低的研發成本取得了接近西方領先模型的成果，Hinton對此評價“令人振奮”，認為其正在改變全球AI格局。阿莫代伊也認為DeepSeek的出現標誌著中國公司首次能在工程創新方面與美國頂尖公司競爭 [Me]。

• 開放原始碼的爭議：

Hinton對DeepSeek開源模型權重表示擔憂，認為這類似於公開核武器材料，可能被濫用。

• 美國政府的擔憂與潛在限制：

美國政府對DeepSeek的資料安全表示擔憂，正在考慮採取限制措施，包括禁止在政府裝置上使用、從應用程式商店下架、限制雲服務提供商託管等 [68, 69, 71, Me]。

• DeepSeek的技術創新：

DeepSeek通過多頭潛在注意力（MLA）等架構創新，提高了GPU利用率，有效抵消了美國的硬體限制。

• 主權AI的探討：

DeepSeek的快速普及引發了關於“主權AI”的討論，即未來中國是否會擁有由一家或多家公司控制的本土領先AI模型。

人工智慧的風險與挑戰：

• 安全問題：

人工智慧的安全問題至關重要，一旦超出人類控制，可能對人類生存構成威脅。 Hinton呼籲加大對AI安全的研究投入 [Me]。

• 就業衝擊：

AI大模型應用對就業是最大的問題，技術轉型可能導致大量人工被替代，社會需要進行創新以適應這一變化。

• 神經網路的不可解釋性：

神經網路的決策過程難以解釋，這在需要高精準性的關鍵領域存在風險。

• 生成式大模型的成本：

儘管成本在下降，但訓練和運行大型模型仍然昂貴。

• AI替代人類智力的社會性問題：

AI開始替代人類獨有的智力，引發了人類未來角色定位的重大社會性問題。

• 價值觀對齊：

使用AI大模型等技術時，需要做好安全評測和價值觀對齊，確保其符合人類的價值觀和文化習俗。

• 資料安全與隱私：

AI發展涉及大量資料的使用，資料安全和使用者隱私保護至關重要。

人工智慧的監管與治理：

• 監管的必要性：

需要對人工智慧進行有效監管，以應對其帶來的風險和挑戰 [53, Me]。

• 分類監管：

英國提出的《人工智慧（監管）法案》旨在根據風險等級對AI進行分類監管 [Me]。

• 監管沙盒：

建立監管沙盒可以為企業提供測試創新產品的平台，同時確保消費者保護。

• 企業AI負責人：

要求企業指定AI負責人，確保AI的安全、道德使用和資料無偏見。

• 透明度和標籤：

需要提高AI的透明度，並對涉及AI的產品或服務進行明確的標籤和健康警告。

• 公眾參與：

實施長期的公眾參與計畫，就AI帶來的機會和風險進行交流。

• 避免“一哄而上”和“一哄而散”：

推進教育數位化和人工智慧應用要理性務實，因地制宜，避免盲目跟風。

• 國際合作：

基辛格曾指出，中美兩大人工智慧強國需要在AI安全方面展開對話與合作。阿莫代伊也認為，在核安全等高風險領域，與中國進行有限合作存在機會。

人工智慧在教育領域的應用：

• 教育理念變革：

人工智慧推動教育理念從傳統的“傳道、授業、解惑”向“悟道、精業、啟惑”轉變。

• 育人場景創新：

教育將融合物理空間、數字空間和社會空間，形成虛實結合的場景。

• 師生角色轉型：

AI賦能學習者更大的自主權，教師的角色將從“知識傳授者”向“學習引導者”轉變。

• 資源協同共享：

教育數位化促進多元主體優勢資源整合，形成體系化服務能力。

• 賦能高品質發展：

人工智慧是加快實現教育大國向教育強國邁進的重要變數。

• 關注核心能力培養：

在AI時代，更要注重培養學生的審美能力、想像能力、共情能力等超越機器的核心競爭力。

• 高等教育變革：

高等教育的教學模式和學科構成需要適應AI時代的需求。

人工智慧在產業和企業中的應用：

• 生產力工具：

AI被視為強大的生產力工具，正在被積極探索用於提升企業核心業務。

• 流程再造：

AI正在改變和再造企業的業務流程，例如報銷和採購流程。

• 組織結構變革：

AI的應用可能導致企業組織結構變得更加扁平化，減少冗餘部門。

• “AI+”行業：

AI與各個行業的深度融合是重要的投資方向。

• 智能體與機器人：

智能體的出現將帶來數字世界的深刻變革，機器人將在物理世界中扮演重要角色，替代重複性智能工作。

• 個人助理：

未來每個人可能擁有自己的超級個人醫療助理。

• “合併同類項”：

AI將加速企業內部、行業層面乃至國家層面的“合併同類項”，即少數最優秀的人帶著AI完成大部分工作。

關於意識和道德：

• AI是否可能擁有意識：

辛頓認為，如果相信唯物主義，就必須承認機器可以有意識，他通過替換人腦神經元的思想實驗來論證。阿莫代伊也認為應該考慮AI系統是否具有真實且有意義的體驗。

• AI的道德考量：

隨著AI能力的增強，需要考慮其是否可能值得擁有道德考量和保護。

其他重要觀點：

• 對傳統觀念的質疑：

辛頓從小就意識到，大多數人都相信的東西也可能是完全錯誤的，這影響了他堅持研究當時不被認可的神經網路。

• 算力的重要性：

算力不足是早期神經網路表現未達預期的主要原因。

• AI for Science：

有觀點認為，“人工智慧科學”是AI最具價值的方向，應該鼓勵注重底層能力的突破。

• 人與AI協同：

未來人類需要更多地思考如何與機器協同工作，避免在機器擅長的領域競爭。

• 心力工作者：

在AI時代，人類需要轉向更注重“心力”的工作，例如創造力、領導力、情感價值等。

• 碳基與矽基融合：

碳基生命與矽基技術的融合是未來不可避免的趨勢。 (開放科學OS)