很少有力量能像公開羞辱一樣，有效約束人工智慧的使用。如今，Anthropic正讓判斷一段文字是否由Claude生成變得更加容易。

上周，Anthropic 宣佈了一項出人意料的政策變化：該公司大型語言模型 Claude 生成的文字將加入一種隱形水印。如果有人將聊天機器人生成的段落複製貼上到另一份文件中，人工智慧檢測工具便能判斷該段落極有可能經過了 Claude 的處理。當然，人工智慧檢測系統並非新鮮事物；諸如 Pangram 和 Turnitin 等工具早已在學術界和出版領域紮根。不過，這些工具是通過海量資料訓練，以識別構成明顯人工智慧寫作“風格”的統計模式；而 Claude 的水印則直接嵌入到文字本身，甚至精確到單個詞語層面，這使得大型語言模型使用者可能更難通過編輯手段抹去自己使用過人工智慧的證據。

網際網路上，針對機器與其人類提示者之間所謂“破裂合同”的批評如潮水般湧來。難道L.L.M.不正是被專門宣傳為能夠將機器生成的作品偽裝成自己的原創嗎？事實上，許多人最初使用L.L.M.，不正是看中了這種可能性嗎？如今，對於那些早已習慣用聊天機器人撰寫論文的學生、暗中借助L.L.M.起草文章、通訊和書籍的記者與作家，甚至依賴Claude撰寫法律文書和動議的律師們來說，這場騙局似乎已徹底暴露。“這些人一出這趟流程，臉上就烙上了數字紋身，”一位Reddit使用者在一篇迅速走紅的帖子中寫道——而這篇帖子本身看起來也像是由人工智慧生成的。（我用AI檢測工具對其進行了分析，結果確實百分之百是L.L.M.“輔助”創作的。）“污名啊，”這位發帖人繼續寫道，“天那，這污名……”

在缺乏全面的聯邦人工智慧監管法規、且各領域——包括專業、學術與藝術——對其使用規則不統一甚至常常相互矛盾的情況下，鮮有力量能像公眾羞辱那樣有力地遏制人工智慧對人類創造力構成的威脅。“直白地說，使用人工智慧理應讓你感到內疚，”去年，n+1雜誌的編輯們在一篇抨擊大型語言模型的文章中寫道，“污名化是一種強大的力量，而厭惡與羞恥正是我們最有力的武器之一。”隨著生成式人工智慧日益廣泛地滲透到我們的文化與政治生活之中——從備受矚目的短篇小說獎得主，到主流唱片公司的專輯發行，再到總統宣傳——如今，普通民眾不得不肩負起監督機器生成內容違規行為的責任，以盡力守護我們這個物種尚存的一絲倫理尊嚴與批判性思維。當然，指責者有時難免過於激進，提出的指控並不總是確鑿無疑，尤其是在“100% AI生成”這一表述儼然成為一種文化“紅字”的當下。不過，隨著Claude新推出的水印技術問世，或許辨別“真”與“假”的過程將變得更加順暢、更加萬無一失——這也將成為我們邁向與大型語言模型及更廣泛的生成式人工智慧建立一種更為透明、更為審慎關係的踏腳石。

顯然，Anthropic設立水印並非為了勸阻人們使用Claude，也並非為了讓其產品顯得不那麼有吸引力——那麼，它為何還要一開始就讓自動生成的文字更明顯地可追溯呢？該公司在官方公告中解釋稱，這一調整是為了遵守歐盟《人工智慧法案》，該法案要求大型語言模型提供商必須使由人工智慧生成的文字能夠被明確標識。這種標識可以採用水印、中繼資料或加密訊號等形式——即通過統計特徵來建構簽名，以便檢測系統能夠判斷一段文字、圖像或音訊是否由人工智慧生成或經過篡改。例如，GoogleGemini在其人工智慧生成的內容中便採用了名為SynthID的水印技術。目前，OpenAI僅對圖像和音訊實施了檢測手段，但隨著歐盟《人工智慧法案》中的“透明度義務”正式生效，該公司表示正在“努力擴展針對ChatGPT文字的來源追蹤措施”。這些人工智慧公司特別強調，像水印這樣的追蹤屬性對於普通讀者而言是完全不可見的，也無法追溯到實際觸發大型語言模型生成該文字的人——當然，除非此人試圖將該文字冒充為自己的原創作品並被檢測系統識破。

然而，Anthropic的動機或許並不僅限於遵守歐盟規定，以及踐行其標榜的安全與透明價值觀。這家公司很可能單純地希望，讓其模型更容易驗證人類撰寫的文字，並在訓練大型語言模型時排除由人工智慧生成的內容——畢竟，如果用人工智慧生成的內容來訓練人工智慧模型，可能會導致模型的可靠性和質量下降。（這真是個諷刺！）此外，Anthropic或許還意圖通過“來源追蹤”這一備受人工智慧供應商推崇的概念，強化對其大型語言模型輸出成果的控制，從而確立一種智慧財產權，使其產品所創造的內容獨樹一幟、區別於競爭對手。很難不認為，整個標識操作在某種程度上其實是一種人工智慧監控技術的升級——它能夠追蹤聊天機器人的話語在離開機器後流向何處，進而建立起一個詳盡的使用案例資料庫，為未來的引用和推廣做好準備。“你知道這讓我想起了什麼嗎？”那位精神恍惚的Reddit網友在其反水印宣言中寫道，“就像那些警方行動，抓了吸毒者卻放過了毒販。水印技術本質上也是這麼回事。”像Anthropic這樣的公司，或許會合理地將水印技術視作一種無害且合乎情理的演進：它既能為公司的訓練資料錦上添花，又能合法合規地提升人工智慧的透明度，還能幫助判斷某段內容是否源自自家模型。但對使用者而言，水印的痕跡更多意味著一種毫無意義的社會懲罰——一種旨在污名化任何敢於使用人工智慧生成內容、而非深入挖掘自身思想深處的人的手段。

一些評論家指出，這種水印對於識別除明顯使用聊天機器人之外的其他情況，效果將大打折扣。當像Claude這樣的大型語言模型生成文字時，它通常會從一系列統計上可能的選項中挑選詞語。然而，有了水印之後，該模型便會傾向於更預先設定好的一組結果。這些結果累積起來會形成一種統計模式，從而讓檢測系統能夠計算出Claude生成某段文字的可能性。如果有人對大型語言模型生成的文字進行嚴格編輯或重寫，檢測系統或許就難以捕捉到這種模式。但或許這恰恰是一種優點，而非缺陷——畢竟，水印的目的不正是要捕捉那些最明顯的、利用人工智慧進行寫作的濫用行為嗎？或者說，至少應該建立一種比目前完全無監管的體系更為合乎倫理的內部機制，不是嗎？

除了擔心水印不過是障眼法、一種易於規避的合規策略之外，一些反對水印的人還擔憂，這些統計特徵可能會降低聊天機器人的寫作水平。科技博主約翰·格魯伯指出，Claude如今更可能默認使用帶水印的詞彙，而非充分發揮其語言表達的全部潛力，這可能導致生成的文字質量下降，甚至在某些情況下完全無法使用。如果大型語言模型開始傾向於特定的同義詞或短語，從而削弱說明書或醫生處方等檔案的解釋力與精準度——而這類檔案正越來越多地被外包給大型語言模型處理——那麼這種結果確實有可能出現。不過，許多專家一致認為，格魯伯的擔憂有些誇大了。倫敦大學學院安全工程教授史蒂文·默多克在接受《衛報》採訪時表示，這一變化“很可能不會產生任何明顯影響。”

當L.L.M.的擁躉們爭論水印是否會削弱人工智慧的寫作能力時，撰寫了熱門科技與媒體通訊《Stratechery》的本·湯普森卻對“人工智慧居然能被視為作者”這一說法感到極為不滿。（遺憾的是，他的論點並非美學層面的，而是更偏向技術性。）他指出，L.L.M.是由人類“操控”的，因此根本無法被視作任何事物的創作者：“堅持要求標註水印，無異於堅持讓一支圓珠筆自詡為作者——這種觀點顯然荒謬至極。”他對人工智慧創作權的看法可謂目光短淺、令人瞠目。他似乎假定，人們使用L.L.M.的方式就如同使用一支筆一般——將它當作一個空洞的技術工具，單純用來記錄有意識的思想，完全無視任何可能改變思想本身的中介作用，更遑論對語言本身的干預了。然而，拋開那些杞人憂天的擔憂和虛假的類比不談，批評人工智慧檢測系統的論者其實是在呼籲一種再簡單不過的事情：他們認為，與聊天機器人互動存在合乎倫理且毫無爭議的方式，比如進行文字校對或審稿。那些恰當使用聊天機器人的使用者，完全不必每次將一段來自Claude的文字貼上到文書處理軟體中時，就擔心遭到公眾羞辱或污名化。

在當前人工智慧的浪潮中，這種關於真實與虛假、美德與虛偽之間的哲學界定正日益瓦解並扭曲，逐漸演變成科技巨頭們所希望我們理解的——與他們的產品“協作”。儘管湯普森認為，大型語言模型並不創造新思想，而是幫助人類實現他們早已擁有的想法，從而讓人類能夠與人工智慧和諧共進，但顯而易見的是，我們大多數人依然在意區分人類勞動與機器統計輸出之間的差異，也依然珍視全憑自身努力所取得的成就，而非僅僅因為某項成果得到了大型語言模型的“輔助”或“助力”而沾沾自喜。

在文章《詩歌與原始狀態》中，作家加里·斯奈德將詩歌定義為：“以嫻熟而富有靈感的方式運用聲音與語言，去呈現那些罕見而強烈的心靈狀態——這些狀態最初源自歌者的個人體驗，卻在深層意義上與所有聆聽者息息相通。” 這就是為何每當有藝術家被發現使用人工智慧——往往未予披露——便會引發軒然大波；也正因如此，當學生們連最簡單的作業都選擇自動化完成時，教授們仍不免感到震驚不已。無論是撰寫論文、創作歌曲、編寫故事、吟誦詩歌、編寫劇本、撰寫文章、撰寫部落格，抑或傳送電子郵件——無論何種形式的寫作，都不應僅僅淪為達成某種目的的手段，也不應單純以“是否奏效”或“能否實現預期目標”這樣的效率指標來衡量。真正的寫作，應當源自我們自身那些機器永遠無法觸及的內在部分。“一隻按下按鈕的手或許擁有巨大的力量，但那隻手永遠學不會手本身所能創造的一切，”斯奈德寫道，“詩歌必須從真實的經驗中歌唱或訴說。” 安thropic公司的水印技術看似預示著一個未來：人類與機器能夠誠實而合乎倫理地共存，人們使用大型語言模型時也將完全透明公開。也許這一天真的會到來——但願我們對人工智慧的偏見與污名化能繼續守護住我們雙手的尊嚴：它們既能按下按鈕，更能夠成就更多、更深遠的事物。♦

本文作者：Brady Brickner-Wood是一位散文家和文化評論家，他的作品曾發表在《紐約時報》、《時代雜誌》、《Pitchfork》和《德克薩斯月刊》上。 (邸報)

彙整鉅亨號中所有使用「人工智慧水印」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`