筆記君說
在DBS（星展銀行，新加坡最大的商業銀行）亞洲未來論壇上，TikTok CEO周受資和主持人做了一場對話。
他不談模型參數，也不談算力，反覆講的是三件事：人還能做什麼，什麼必須交給人，以及怎麼才知道AI的邊界在那。
關於AI會不會取代人，他的回答是現在下結論為時過早。一方面人腦只有20瓦，資料中心是千兆瓦；另一方面，矽比碳更優越的世界確實有可能出現。但即便如此，人類仍然始終處於中心位置。
以下是精編整理，希望對你有所幫助。
一、AI越強，判斷力和創造力就越值錢
今天想和大家聊聊AI時代真正重要的東西，以及TikTok在做什麼、我本人在怎麼用AI。
關於現場那個民意調查，在人工智慧時代什麼最重要？答案有人類判斷力、人際關係、人類創造力、人類目標等等。
我認為這幾件事都非常重要。但有趣的是，我們其實沒必要糾結“人”到底怎麼定義，這個詞太寬泛了。房間裡每個人的判斷都不一樣，來自不同領域的人，判斷也各不相同。但我們很快能達成一個共識：確實存在一種叫“判斷力”的東西。
人際關係、人類創造力，跟AI正在面對的問題正好形成對照。這些東西和我們天生的生物屬性不是一回事，做事的方式也可能完全不同。所以上面這些選項，我基本都同意。
二、最緊迫的不是AI能幹什麼，是怎麼讓它做顯而易見正確的事
現在有很多關於AI對齊（alignment，讓AI的目標和人類意圖保持一致的研究方向）的討論，也有一些非常極端的例子。
那個回形針的例子很有名：你讓機器生產更多回形針，它就只顧著生產回形針，其他一切代價都不管了。這就是“回形針最大化器”（Paperclip Maximizer，AI對齊領域一個著名的思想實驗）。
所以我們面對的挑戰是，怎麼對待AI這麼強大的東西。它已經顯示出解決非常複雜數學問題的能力。
我周末跟一些創業者聊天，我的判斷是：未來兩到三年內，因為人工智慧，我們會在物理學、生物技術、化學、材料科學這些領域迎來一次真正的科學突破。
既然能力可能來得這麼快，問題就落在下一步：怎麼對齊模型、怎麼對齊機器，讓它們去做那些對我們人類來說顯而易見正確的事。那些是你在道德和倫理上該守住的界限，那些事你不該做。
坦白說，這個問題我現在答不上來。它確實非常複雜，但在AI時代，它會變得至關重要。
三、AI能生成一切，但人們還是更想看真的
對TikTok來說，創造力這個話題特別相關。我們已經允許使用者用模型製作大量非常逼真的AI視訊，我自己也做了幾個。
但目前仍然存在一個不平衡：AI生成視訊的創作者比例，遠高於它的觀看量佔比，AI內容目前只佔觀看量的個位數百分比。也就是說，使用者對真人內容的需求依然非常強烈。因為觀看量也是AI推薦演算法跑出來的結果，這是一個非常民主的過程，真實反映了人們到底想看什麼。
從這件事裡我們看到，關於怎麼用AI，大家做了各種嘗試，AI確實能創造更多內容，其中很多比你想像的更有創意。但與此同時，人們對AI生成內容的接受度，還是比想像中低得多。
人們仍然重視真實、原汁原味的東西。所以，人類創造力還會繼續發揮重要作用。
真實性在內容創作裡依然非常重要。人們越來越相信，這應該是人和AI的結合，而不是放任機器把所有決策都接管過去。
隨著技術進步，我們在不斷完善基礎設施，讓Agent替我們做更多事，同時把信任和護欄（guardrail，防止AI越界的安全約束機制）建起來。長遠來看，我們可能會允許Agent自主完成越來越多的事情。但短期而言，至少在未來兩三年內，能不能用好AI，會變得非常重要。
四、常規且低風險的交給代理，高風險又非線性的留給人
關於AI能做什麼，我們內部試著把它簡化成一個2x2矩陣。一個軸看這件事是常規的，還是需要判斷力、高度差異化的；另一個軸看風險是高是低。
結論很快就出來了：常規且低風險的事，Agent可以自動化執行，速度非常快；高風險但常規的事，需要更謹慎一些，但前沿模型大部分也能做；高風險、高度差異化、非常注重細節的事，仍然需要大量的人參與。
舉個例子。TikTok在全球有大量使用者，比如我們想知道，一個說法語的奈及利亞14歲孩子，在TikTok上看到的是什麼。過去我們得讓信任與安全團隊的人去註冊帳號、測試、看100個視訊、寫報告。現在可以部署一千個Agent，一夜之間自動生成報告，告訴你其中有多少違反了我們的準則，整個過程全是自動化的。
再比如內容稽核，直播是最難的。任何時刻都有數千萬個直播流在跑，過去只能隨機抽樣，很難做到既精確又精準。
但現在用VLM（視覺語言模型，能把畫面內容轉成文字描述的模型），可以非常快地把即時視訊流轉成文字敘述，再拿去和社區指導原則比對。比如有人在開車，AI能認出速度表顯示的是160公里每小時，人眼可能看不出來，但AI知道這很危險。這極大提升了我們完成很多工作的能力。
當然，我們也看到了新的風險，比如網路安全風險。但另一方面，AI能給公司帶來的生產力提升，也讓我們非常興奮。
五、別唯讀資料，親自上手才知道邊界在那
1. 不用它，你就不知道它能做什麼、不能做什麼
在公司內部，我們最看重的一件事，是讓所有人，不只是工程師，也包括律師和各個職能部門的人，都能有第一手的體驗。如果你不親自用大模型、AI產品，只是讀資料，你沒法真正知道它能做什麼、不能做什麼。
所以接下來幾年真正重要的，是自己動手去試。我們鼓勵大家保持好奇、自己上手，當然也要清楚界限在那。
我們為內部員工做了很多項目，讓他們接觸最前沿的模型，目的就是鼓勵大家注重實踐，真正把這些新工具用起來，同時密切關注市場上的變化。
2. 我把AI當成傾訴對象
我經常把AI當作傾訴對象。比如我最近成了美國納稅人，美國的稅收制度簡直讓人看不懂，沒有AI幫忙我根本搞不定。
我也用AI當私人營養師。拍一張食物的照片，它會告訴我這個別吃太多、那個可以多吃點。感覺就像身邊隨時有個特別聰明的人可以問。
今年早些時候我肩膀出了問題，我大概問了外科醫生200個問題，其中90%是AI先回答的，幫醫生省了大量反覆解釋的時間。
當然，AI會提醒我，但它不會從身體上攔住我吃不該吃的東西，還沒到那一步。AI提醒，人自己停下來，這就是人機合作，不是非此即彼。
六、風險是真的，但結論別下太早
1. 使用者可能不知道自己授權了什麼
網路安全風險是真實存在的。很多使用者會給Agent很多權限，但並不真正理解自己授權了什麼。比如你讓Agent用信用卡幫你買東西，它可能太想完成任務，結果買了一堆你根本不需要的東西。
我上小學的時候網際網路還沒普及，父母特別怕在網上買東西。後來電子商務慢慢成熟，現在有了很強大的支付功能。我相信這些遲早都會實現，但目前還有大量教育工作要做。
對企業來說，網路安全風險同樣真實。垃圾郵件、平台濫用這類行為，過去幹這些事成本很高，現在成本大幅下降，平台就得有對應的工具來抵禦。但把這些工具建起來需要時間。
員工也需要培訓：不要把商業機密告訴公共聊天機器人，聊天機器人不是真正的律師，給不了法律援助。搞清楚什麼能用、什麼不能用，這個界限非常重要。正因為AI太好用了，人們有時會用過頭。
2. 現在下結論為時過早
關於AI會不會威脅人類、取代或者排擠人類的討論很多，但現在下結論可能還太早。
一方面，今天的技術遠沒到那一步。大家常舉的例子是：人腦的功率只有20瓦，資料中心卻是以千兆瓦計的。但大腦能做的很多事情，這些模型到現在還做不到。比如調取長期記憶，我能回想起小時候的事，現在的大模型還很難做到。人的視覺學習能力也很強，看一遍就能學到很多東西，模型還在追。
但另一方面，技術在不斷發展。你完全可以看到一個矽比碳更優越的世界：壽命更長、更容易擴展、連接更方便。所以AI在某些方面確實有可能比人更強。
不過技術從來不是什麼新鮮事。就算技術一直往前走，人類仍然始終處在中心位置，被增強，能做更偉大的事，也做得更快。 (筆記俠)