•
最近科技圈炸鍋了！DeepSeek 最新發佈的開源模型 R1，整體性能直逼 OpenAI 的 o1！這事兒不禁讓人聯想到一份之前在圈內瘋傳的Google內部檔案——《我們沒有護城河，OpenAI 也沒有》。 這份檔案直言，開源社區的強大創新力，正在以前所未有的速度追趕甚至超越閉源模型巨頭。 DeepSeek 的這次突破，無疑又是一個重磅炸彈，再次印證了這份檔案的預言：通過輕量化微調、聚焦高品質資料以及快速版本迭代，小型團隊也能迅速推出性能出眾的模型。今天，我們就來深度解讀這份“洩密”檔案，看看Google工程師究竟發現了什麼？ 開放原始碼的力量，真的要改寫 AI 格局了嗎？
2023年中，一份據說是Google內部研究員撰寫的報告在網上流傳，標題就夠勁爆—— 《我們沒有護城河，OpenAI 也沒有》。 這份報告語氣略帶焦慮，直指核心問題：Google和 OpenAI 還在閉門造車、互相競爭的時候，開源社區已經彎道超車，把他們遠遠甩在了身後！
報告的核心觀點可以用一句話概括： 開源 AI 的崛起速度和創新活力，超乎想像！ 曾經被我們視為“重大難題”的技術，開源社區竟然已經輕鬆搞定，並且開始廣泛應用了！
不信？ 報告列出了幾個“扎心”的事實：
📱 手機上跑大模型？早不是事兒了！ 有人已經在 Pixel 6 手機上流暢運行基礎大模型，速度還挺快！
🤖 私人定製 AI？筆記型電腦就能搞定！ 花一晚上，用筆記型電腦就能微調出一個個性化的 AI 模型！
🚫 “負責任發佈”？ 開源社區表示“不存在的”！ 各種 AI 藝術網站遍地開花，對內容輸出幾乎沒有任何限制，文字領域也快要“解放”了！
🖼️ 多模態模型？ 訓練速度快到飛起！ 最新的多模態 ScienceQA 模型，一小時就能訓練完成，簡直不可思議！
Google工程師發出靈魂拷問：
“我們的模型質量是好那麼一點點，但差距正在以驚人的速度縮小！開源模型更快、更靈活、更注重隱私、功能還更全面！ 人家用 100 美元 + 130 億參數就能搞定的事兒，我們花 1000 萬美元 + 5400 億參數還在頭疼！ 這，意味著什麼？”
報告一針見血地指出：
🔑 我們沒有“獨門秘方”！ 別再想著靠秘密武器取勝了，最好的出路是向開源社區學習，合作共贏！
💰 免費的午餐來了，誰還願意花錢？ 當高品質的開源模型免費又無限制，使用者憑什麼要為你的“閹割版”付費？ 我們的價值增值點到底在那裡？
🐘 “巨無霸”模型，反而成了絆腳石！ 未來是快速迭代的時代，小而精的模型可能才是王道！ 別再迷信“大力出奇蹟”了！
這一切是怎麼發生的？ 時間撥回到今年 3 月初，Meta 的 LLaMA 模型意外洩露，就像一顆火種，瞬間點燃了開源社區的熱情。 雖然最初的 LLaMA 沒有任何指令微調和強化學習，但社區敏銳地嗅到了其中的巨大潛力。
接下來發生的事情，簡直可以用“瘋狂”來形容！ 短短一個多月，各種創新成果井噴式爆發！ 指令微調、量化、質量提升、人工評測、多模態、RLHF…… 各種變體層出不窮，而且很多成果都是互相疊加、快速迭代的！
更重要的是，開源社區解決了“可擴展性”難題！ 訓練和實驗的門檻大幅降低，從“大型研究機構專屬”變成了“個人筆記型電腦即可上手”！ 無數個人開發者加入進來，貢獻自己的智慧，創新速度自然呈指數級增長！
這一切，其實早有預兆！ 在 LLM 爆火之前，開源圖像生成領域就上演過類似的“革命”。 很多人都說，這次 LLM 的爆發，簡直就是 AI 界的“Stable Diffusion 時刻”！
想想看，Stable Diffusion 的崛起之路，是不是和現在開源 LLM 的發展軌跡驚人相似？ 低成本參與、技術突破（LoRA 微調、潛在擴散等），再加上一個足夠優秀的開源模型，就能撬動整個社區的力量，爆發出遠超大型企業的創新速度！
結果也顯而易見： Stable Diffusion 的文化影響力迅速超越了 OpenAI 的 DALL·E，DALL·E 逐漸式微。 LLM 會重蹈覆轍嗎？ 可能性，非常大！
Google工程師在報告中坦誠反思，他們忽視了開源社區成功的關鍵因素，而這些因素，恰恰也能幫助Google解決自身面臨的困境。
🔑 LoRA 微調技術： 小成本撬動大能量！
LoRA 技術可以將模型更新矩陣的大小縮小幾個數量級，極大地降低了微調成本和時間。 用消費級硬體，幾個小時就能完成語言模型的個性化微調！ 這對於需要快速整合新知識的應用場景來說，簡直是福音！ Google內部對這項技術的重視程度，可能還遠遠不夠！
🔄 “站在巨人肩膀上”的迭代模式： 積少成多，後發制人！
LoRA 等微調技術的“可疊加性”非常關鍵。 指令微調、對話、推理、工具使用…… 各種改進可以層層疊加，不斷迭代，讓模型持續“現代化”，而無需每次都從零開始訓練。
相比之下，每次都從頭訓練“巨無霸”模型，不僅浪費資源，還會丟棄之前積累的迭代改進！ 開源社區的快速迭代優勢，會讓完全重頭訓練的成本變得越來越高昂！
Google真的需要為每個新應用都重新訓練一個全新模型嗎？ 值得深思！
💰 小模型 + 快速迭代 = 彎道超車！
LoRA 微調的成本極低，大約 100 美元就能搞定！ 這意味著幾乎任何人都能參與模型微調和分發。 一天就能完成訓練，這樣的迭代速度，簡直是“光速”！ 小模型的快速迭代，完全可以彌補規模上的劣勢，甚至超越“巨無霸”模型！
一味追求“全球最大模型”，可能反而會讓我們陷入被動！
💎 資料質量 > 資料規模： “小而美”的資料集才是王道！
許多開放原始碼專案使用小而高品質的資料集進行訓練，效果卻出奇的好！ 這表明資料質量的重要性，遠超資料規模！ 開源社區已經開始流行使用合成資料、篩選模型輸出等方法建構高品質資料集，而Google在這方面似乎還不夠重視。
好消息是，這些高品質資料集大多是開放原始碼的，我們可以免費使用！
Google工程師在報告中發出警告： 與開源正面競爭，註定失敗！ 原因很簡單，現代網際網路建立在開源之上，開源模式擁有我們無法比擬的優勢！
🤝 我們更需要開源，而不是相反！
技術保密？ 在人才流動的今天，幾乎是不可能的！ 與其死守秘密，不如擁抱開源，與社區合作共贏！ 開源社區的創新廣度和速度，遠超任何一家公司！
🧑💻 個人開發者，才是真正的創新引擎！
開源社區的創新，很多都來自於個人開發者。 他們不受版權限制，可以自由使用 Meta 洩露的模型權重進行創新。 而且，當使用者本身就是開發者時，他們更能理解使用者需求，創造出更貼合實際應用場景的模型！ 看看圖像生成領域那些使用者自制的模型，就知道開源社區的潛力有多麼巨大！
報告最後給出了建議： Google應該擁抱開源生態，成為開源社區的領導者！ 就像 Chrome 和 Android 一樣，通過開源策略，Google鞏固了行業領導地位，掌握了話語權。
與其被動防禦，不如主動出擊！ 與其嚴格控制模型發佈，不如開放一部分模型權重，與開源社區深度合作！ 這或許意味著放棄一部分控制權，但這卻是推動創新、保持領先地位的必經之路！
Google，應該成為開放原始碼的弄潮兒，而不是固守城池的“老頑固”！
報告最後也“順帶”提到了 OpenAI： OpenAI 的閉源策略，可能也走錯了路！ 他們在與開放原始碼的博弈中，犯了和Google同樣的錯誤。 除非 OpenAI 改變策略，否則開源替代方案遲早會超越他們！
在這場開源浪潮中，誰能率先擁抱開源，誰就能贏得未來！ Google，或許還有機會先行一步！
開源 AI 正在崛起，速度驚人！
Google和 OpenAI 的閉源模式面臨巨大挑戰！
擁抱開源生態，才是明智之舉！
資料質量、小模型、快速迭代，是未來趨勢！ (博知社)