如果有一天，你在交友軟體上認識了一個人。對方記得你說過的話，會持續回應，也會在你要求視訊時真的出現在鏡頭裡。過去，這大概足以證明螢幕另一端“確實有人”。
但Anthropic最新發佈的154頁威脅情報報告，給出了一個更麻煩的現實：視訊裡出現的可能是真人，過去幾天一直陪你聊天的，卻未必一直是。
2026年4月，Anthropic發現一家位於中國的應用工作室營運20多款約會應用。在其觀察的兩周窗口內，超過4700個AI驅動的人設至少與2.5萬名真實使用者互動，產生約236萬條Claude消息。匹配池中的帳號約四分之三由AI驅動。更關鍵的是，當使用者要求視訊通話或轉移到其他社交平台時，真人工作人員可以介入。
這不是整份報告裡技術風險最高的案例，卻可能是離普通人最近的一幕：AI負責規模化維持關係，真人負責在最關鍵的時刻證明“我是真人”。
把這一個案例放回Anthropic整份報告，會發現它和網路攻擊、監控、影響力行動甚至武器研發共享著同一條變化：AI正在從“給人建議”，走向參與更長、更完整的執行鏈。過去需要很多人、很多時間和較高專業門檻才能推進的事情，開始被壓縮成少數人加上一組模型或Agent。
先看報告：Anthropic到底發現了什麼？
Anthropic這份《Detecting and Countering Misuse of AI: September 2026》覆蓋2025年12月至2026年8月間被公司發現並處置的濫用活動。它不是Claude整體使用者行為的抽樣統計，而是集中呈現Anthropic認為最值得注意、最具新穎性的威脅案例：
此表更適合被理解為“AI濫用邊界正在延伸到那裡”，而不是“這些風險在所有使用者中有多普遍”。
一、4700個“真人”：AI開始學會在最關鍵的時候讓真人出現
過去我們對網路機器人的識別方式很樸素：頭像可能是假的，話術可能是範本，聊久了總會露出破綻。生成式AI已經讓“聊得像真人”變得容易，但Anthropic披露的約會應用案例更進一步——系統不是執著於讓AI完成100%的偽裝，而是在人最容易起疑的地方引入真人。
這是一種很值得注意的人機分工。AI承擔最耗時間、最需要規模的長期聊天，真人只在視訊、跨平台聯絡等高風險節點介入。換句話說，真人不再負責維持關係，而開始成為大量AI身份背後的驗證節點。
這改變了欺騙的成本結構。過去，一個真人一天能認真維護的關係數量非常有限；現在，同一套系統可以讓數千個身份同時線上、持續回應、保留上下文，再用少量人工去處理機器最難通過的驗證。
報告還顯示，這些應用通過匹配和消息額度推動使用者持續購買虛擬幣。於是情感互動不再只是“AI會不會說甜言蜜語”的產品能力，而被嵌進一條完整的商業鏈：身份製造、持續互動、真人驗證、付費轉化。
需要說明的是，Anthropic披露的是它發現並處置的具體濫用活動，不能由此推斷所有AI陪伴或約會產品都採用類似模式。真正的分界線也不是“AI能不能陪伴人”，而是使用者是否知道自己正在和AI交流。
二、AI從“告訴你怎麼做”，走向“參與把事情做完”
如果只看4700個AI戀人，這份報告很容易變成獵奇新聞。但Anthropic真正反覆呈現的，是另一條更重要的技術趨勢：AI的角色正在從一次性的內容生成，進入連續任務。
網路攻擊是最清楚的例子。攻擊者不再只是讓Claude解釋漏洞或寫一段程式碼，而是把模型放進偵察、利用、資料整理、惡意軟體迭代等多個環節。報告披露的一項疑似與俄羅斯國家背景相關的網路間諜活動，計畫攻擊超過20家組織；當惡意工具被安全產品發現後，AI還被繼續用於修改和重新部署程式碼。
這裡真正變化的是經濟學，而不是AI突然有了“惡意”。對於合法企業，Agent的價值就在於減少人工接力，讓一個人能推進更完整的工作流；同樣的生產率提升落到攻擊者手裡，也會讓少數人完成過去需要更多專業人員才能完成的事情。
因此，AI安全問題正在從“模型會不會回答一個危險問題”，變成“模型能不能在現實系統裡連續行動”。前者主要靠內容過濾，後者則涉及權限、工具呼叫、日誌、身份驗證、人工接管和異常檢測。
三、監控和情報工作也開始Agent化
Anthropic還披露了AI被用於監控與情報活動的案例。一名為馬里國家安全部門工作的顧問曾借助Claude參與開發通訊攔截平台；另一起與伊朗相關的活動則使用Claude處理大量社交媒體資訊，並篩選特定帳戶持續分析。
這類案例之所以重要，不在於模型能夠“讀社交媒體”，而在於它開始承擔過去需要分析人員長期處理的資訊整理和篩選任務。模型越能持續呼叫工具、讀取資料、形成中間結論，風險的單位就越從一條輸出變成一段工作流。
對企業也是同樣的提醒。未來一個Agent能讀取郵件、合同、CRM、程式碼倉庫和財務檔案時，真正決定風險的不只是模型聰不聰明，而是企業究竟給了它多大的行動半徑。
報告中更敏感的一部分涉及常規武器相關研發。Anthropic披露，一個位於葉門北部的團隊同時運行多個Claude實例，讓不同實例承擔研究、編碼和程式碼審查等任務，並用於制導火箭相關的軟體研發。在一次真實測試失敗後，相關人員又使用Claude分析問題。
這部分最容易在傳播中被誇大。嚴格按照報告，能夠確認的是Claude參與了研發鏈條中的若干具體任務，而不是模型獨立設計、製造或部署了某種武器。
但即便保持這個邊界，訊號依然足夠重要：通用模型正在進入過去高度專業化的研發環節。它與AI進入企業的方式並沒有本質不同——先從檢索、程式碼、分析、偵錯和文件開始，只是當應用場景換成高風險領域，同樣的生產率就會轉化為新的安全壓力。
四、最難治理的可能不是明確的惡意，而是“既能救人也能害人”的研究
Anthropic還披露了5組可能支援高風險生物用途的研究活動，涉及病毒功能增強、適應實驗、毒素改造等方向。但報告沒有把這些研究者直接定性為正在製造生物武器。
原因很現實：生物研究具有典型的雙重用途。研究病毒傳播、免疫逃逸和病原體機制，可能服務疫苗、治療和公共衛生，也可能被惡意利用。只看一段模型互動，往往不足以確認研究者最終要做什麼。
這讓AI安全進入了一個比“遮蔽危險關鍵詞”更困難的階段。真正的問題變成：同一種知識，由什麼人、在什麼環境、為了什麼目標呼叫？模型越通用，合法研究和惡意使用之間越難用一條簡單規則切開。
五、從生成一篇內容，到營運一整套影響力機器
生成式AI能夠批次寫文章早已不是新聞。Anthropic這次披露的新變化，是影響力行動開始擁有更完整的自動化基礎設施。
在與中非共和國相關的一起俄羅斯影響力行動中，Claude被用於生成廣播材料、社交媒體內容、合同等檔案，並幫助內容更接近當地記者的表達。其他案例還涉及帳號維護、技術基礎設施和互動操作。因此，AI對輿論操縱最大的改變未必是“假內容更像真的”，而是組織一場持續影響力行動的成本開始下降。寫作、改寫、本地化、資料整理和營運原本需要多人接力，現在越來越多環節可以被模型接住。
AI沒有發明詐騙、宣傳、網路攻擊或間諜活動。它真正可能改變的，是這些事情的單位成本和可複製規模。
Anthropic在報告定位上有一個必須保留的限定：這些是公司發現的最值得注意和較新穎的濫用活動，不代表Claude的典型使用方式。
這意味著我們不能從這份報告推匯出“100萬個Claude使用者裡有多少人在作惡”，也不能據此計算AI讓網路犯罪增長了多少。它更像一本邊界案例集：當最先進的通用模型進入現實世界後，已經有人嘗試把它推到那裡。
但也正因為如此，它有另一種價值。很多技術變化在成為大規模社會問題之前，往往先以少量邊緣案例出現。4700個AI身份、連續攻擊鏈、自動化影響力行動的重要性，不在於證明今天已經到處如此，而在於它們讓人提前看到：一旦能力繼續提升、成本繼續下降，那些模式最容易被覆制。
結語
整份報告裡，導彈、網路間諜和高風險生物研究都比約會應用更嚴重，但4700多個AI身份反而最容易讓普通人感到一種具體的不安。因為我們每天都在默認一件事：螢幕另一邊，大機率還有一個人。
交友軟體裡的對象、社交平台上的網友、評論區裡的陌生人、主動聯絡你的獵頭、推薦商品的“使用者”，甚至一個在深夜耐心聽你說話的人。過去即便頭像是假的、名字是假的，我們仍然默認對面存在一個真實主體。
生成式AI正在讓這個默認前提失效。更複雜的是，未來“真人”和“AI”可能不是兩種互斥身份。一個帳號可以80%的時間由AI維護，20%的關鍵時刻由真人接管；一個真人也可以成為幾十、幾百甚至更多AI身份背後的驗證節點。
一次視訊通話也不再天然證明此前的每一句話都來自視訊裡的人。這並不意味著AI陪伴本身有問題。一個明確告訴使用者“我是AI”的虛擬伴侶，與一個故意讓使用者相信“我是一個真實的人”的系統，是兩件完全不同的事。未來AI社交和AI陪伴真正繞不開的規則，很可能不是禁止AI擁有情感表達，而是身份披露：使用者有沒有權利知道自己正在和誰交流，AI參與到什麼程度，真人又在什麼時候接管。
網際網路已經讓人與人之間隔著頭像、暱稱和螢幕在交流了，AI又在這層距離裡加入了新的不確定性。當偽造一個持續存在、耐心回應、看起來有記憶的人越來越便宜，真實關係裡的陪伴、責任、身份和可驗證的共同經歷——反而會重新變得重要。
對一個孤獨的人來說，螢幕裡那句“我記得你上次說過這件事”可能真的會帶來安慰。問題不在於這種安慰來自AI，而在於如果有人故意讓你相信它來自一個真實的人，再利用這份信任推動你持續付費，那麼被利用的就不只是資訊差，而是人的情感需要。 (虎嗅APP)