大模型的勝與敗

對話回顧：Harry Stebbings vs Rich Socher（You.com 創始人，斯坦福博士，前Salesforce首席科學家）

⸻

部分摘錄

• “基礎LLM 會像電信營運商：支撐了網際網路，卻分不到 Uber 的利潤/Infrastructure LLMs will look like telcos: they make the internet possible but don’t get a cut of Uber”
• “聊天廣告效果比搜尋廣告差 10–100 倍，算力成本卻高出 2 倍。”
• “DeepSeek 發佈當天，開源抹去了數十億美元的護城河估值。”
• “未來只要你做某事超過十次，就會問：AI 為什麼還沒學會替我做？”

1.  Rich Socher 是誰？

• 學術背景
• 斯坦福大學博士；曾在“神經網路用於 NLP 仍具爭議”時期率先引入該方法。
• 共同建立了兩套最常用詞向量之一；主導了上下文嵌入（ELMo → BERT）和提示工程的早期工作。
• 產業履歷
• 創辦 MetaMind 並被 Salesforce 收購；隨後出任 Salesforce 首席科學家兼執行副總裁。
• 2020 年創立 You.com，最初打造以 LLM 為核心、答案優先的搜尋引擎；現已轉型為面向企業的 LLM 智能體與搜尋平台。

2.  LLM 版圖現狀

• 浪潮 vs. 泡沫
• 整體能力穩步提升，但 hype 周期（如 DeepSeek、Llama‑4 等）會引發情緒尖峰。
• “智能”上限
• Socher 將智能分成 10 個維度。
• 其中一些（如目標檢測）已解決約 90%；而世界知識、推理等離物理極限仍“遙不可及”。
• 同質化正在發生
• 單純“算力‑模型”提供商將類似電信營運商：資本開支巨大，創造巨大價值，卻只捕獲有限利潤。
• 抓住終端使用者關係者才能獲取價值（OpenAI 的 ChatGPT 已佔據消費端；Anthropic 因 Claude 消費端份額小，反而被迫強化基礎設施）。
• 開源 vs. 閉源
• 開源（如 DeepSeek‑V2）大幅縮小差距；完整訓練成本估計在 1–2 億美元，而非幾百萬美元。
• 隨著開源質量提高，單純“賣模型”的估值（Anthropic、xAI 等）若無強黏性產品，將不再符合 VC 偏好。

3.  搜尋、廣告與拆分

• 使用者往往提出簡單查詢（天氣、比分、股價），Google 已能毫秒級返回，難以做到 10× 提升。
• 聊天廣告轉化率比搜尋廣告低 10–100 倍，算力成本卻翻倍。
• 網際網路仍處於拆分周期：人們樂於跳轉至 Yelp、TikTok 搜尋、Amazon 等垂類。
• LLM 答案在複雜或企業專屬查詢中表現最佳 → You.com 現向企業出售“答案 + 智能體”方案（內部網路部署）。

4.  企業落地與“智能體”現實檢驗

• 大企業 DIY / OpenAI 試點常以失敗告終：

1. 啟動率低（購買 1000 席位後一周留存僅 6%）。
2. 流程轉譯困難：員工需把隱性知識顯性化，成為 AI 的“經理”，而多數人缺乏此技能。

• 行動型智能體的“幻滅谷”
• 預訂行程、自動退款等演示很炫，但在混亂的現實場景頻繁出錯；缺乏深度個性化。
• 目前，垂直或任務明確、帶清晰護欄的智能體效果優於“萬事通”助手。

5.  經濟學、投資與護城河

• 純模型公司 ≠ 理想 VC 標的（稀釋、期權開支、開源壓力）。
• Socher 青睞早期、技術導向的創始團隊，聚焦垂直 AI 應用，尤其生物科技與藥物發現領域（“AI + 生物學是完美風暴”）。
• 預計市場估值壓縮：部分僅賣 API 的初創公司當前按 180× ARR 交易，未來將被重估。

6.  超越 LLM —— 機器人、量子、生物與政策

• 人形機器人：

僅在任務多樣且規模小（家庭雜務）時才有利；高規模、重複性場景更偏好定製形態（如配雷射器的拖拉機）。

• 生物學突破：
• AI 將攻克複雜系統空白（微生物組、細胞模擬）。
• 需量子或超大規模經典計算來模擬完整細胞 → 醫療與長壽的巨大解鎖。
• 經濟學新前沿：

AI‑Economist 項目證明 RL 能搜尋數十億種稅收政策，但經濟學界進展緩慢。

• 監管：
• 歐盟 AI 法案或削弱本土初創；Socher 倡議強制電腦科學教育、放寬退出管道（IPO & 併購）、設立全球投資的主權財富基金。

7.  職業與社會建議

• 即便 LLM 會寫程式碼，也應學程式設計：能建立思維模型，管理 AI“員工”。
• 入門級崗位消失最快；具長遠視野的公司仍須培養新人，以便未來的高級人才瞭解流程。
• 職位替代短期內會帶來陣痛（當今的“盧德分子”＝插畫師）。政府需在不扼殺技術的前提下緩衝轉型。
• 給學生的建議：

將專業知識（法律、醫學、化學）與 CS/ML 結合，未來幾十年需求旺盛。

8.  個人與哲學札記

• AGI 賭局：

到 2027 年同時滿足：

1. 可購買的家用機器人能像人類一樣清潔；
2. 解決一項千禧年數學難題；
3. 文學作品可被完美翻譯，獲原作者認可。
   （他仍自信能贏，但佩服對手為追賭局已成億萬富翁。）

• 關於意義與 UBI：

擔心無條件基本收入侵蝕目標感；社會應培養以創造為驅動的心態。

• 最期待的未來十年：

長壽醫療、企業級 LLM 智能體普及、量子助力的生物模擬。 (Luis Lens)