#AI網路
黑小米、黑理想、黑鴻蒙智行……他們圖啥?
新華調查|利用AI抓熱點,炮製“爆款”博流量——起底新型網路“水軍”犯罪手法利用AI抓取熱點,一鍵生成“黑稿”……近年來,網路“水軍”犯罪呈現新動向,一些不法分子利用網路平台的演算法邏輯,使用AI等技術故意炮製負面資訊,操控海量“水軍”帳號同步炒作,借流量牟利。近期,山東煙台警方抓獲兩個專門炒作新能源汽車負面資訊的新型網路“水軍”團夥,關停網路帳號8000余個。這些“黑稿”是如何炮製出來的?背後存在怎樣的利益鏈?操縱“水軍”炒作負面資訊博流量這是山東煙台警方查處的網路“水軍”團夥辦公窩點。(受訪者供圖)2025年7月以來,理想汽車、華為鴻蒙智行、小米公司等知名企業先後向煙台市公安局報警稱,某知名網路平台出現大量涉及相關品牌新能源汽車質量、企業負責人的負面文章。這些文章有的以聳動的標題抓人眼球,如“M9交付遙遙無期,尊界投訴榜遙遙領先”“雷軍這次真的攤上大事了”;有的歪曲事實誤導公眾,如“偷偷減配,給消費者一個答覆”“理想死鴨子嘴硬,月銷量沒突破過四位數”。報案企業稱,這類負面資訊嚴重損害企業品牌形象和生產經營秩序。以理想汽車為例,2025年8月訂單銳減5000余輛,企業總市值下降約200億元。警方研判發現,發佈這類文章的帳號數以千計,不僅IP地址集中,發文時間、內容也較為集中。針對這些異常現象,警方經過數月偵查查明,網路“水軍”團夥註冊多家公司,利用MCN機構操縱數千個平台帳號發佈文章。相關內容呈現出高度的組織化特徵:有的串聯炒作、歪曲解讀,對企業進行惡意詆毀;有的偽裝身份、虛構場景,冒充消費者發佈不實體驗;有的搬運洗稿、批次炮製,將個別問題放大渲染。表述各異但指向相同的海量負面資訊短時間內集中發佈,瞬間佔領網路空間。有受害企業表示,曾以為這是同行攻擊或敲詐勒索,但警方查明,網路“水軍”的牟利模式為利用大量帳號發文的轉發和評贊數量,獲取平台支付的流量收益。其中一個團夥的主要負責人高某夫婦有自媒體、網際網路公司從業經歷,曾因在網上發佈負面資訊被刑拘。據二人交待,根據平台演算法機制,文章閱讀量越高流量費就越高;通過炮製爭議性“黑稿”,他們近年來收到平台打款50余筆,共計約180萬元。另一網路“水軍”團夥成員學歷多為初高中,動機也是賺取平台流量費。利用AI批次生成“黑稿”規模化推送這是山東煙台警方在審訊網路“水軍”團夥犯罪嫌疑人。(受訪者供圖)辦案民警介紹,相較於過去以“造謠引流”“輿情敲詐”“有償刪發帖”等為目的的網路“水軍”案件,新型網路“水軍”不敲詐、不收費、不引流,利用AI技術等批次炮製“黑稿”,“量大管飽”,只掙平台流量費。——使用AI寫稿,實現規模化“生產”。新型網路“水軍”通過AI軟體對抓取的熱點詞彙和內容進行重組、改寫,偽裝成個人體驗或觀點進行發佈,實現了內容的批次、快速生產。煙台市公安局經濟技術開發區分局網路安全保衛大隊民警李岩說,本案中的不法分子以網民觀點、留言為基礎,用AI工具一鍵生成多個角度、結構、措辭的文章,相當於“抄襲搬運+洗稿”,借此實現“零成本”批次化生產。如某網民發佈的原文是“換了理想,我好像得了一種怪病!為了省油錢,現在天天給車充電。這毛病,插混車主是不是都有?”被改為“換了理想,我好像得了一種怪病!聽說新款要上了,座椅按摩冰箱都堆上去了,電池還是老配方”。——搭建帳號矩陣,形成流量積累效果。由於平台規則是流量收益與帳號的發帖量、瀏覽量成正比,單個帳號賺錢微乎其微。因此,新型網路“水軍”為了擴大影響、獲取不法收益,往往搭建規模驚人的網路帳號矩陣。經查,團夥核心人員於某等人使用30多個MCN帳號,操控了8000多個個人帳號,達到規模化、地毯式推送同質化內容,人為製造輿情。這些帳號都是批次買來,1個MCN帳號一般要上萬元,實名註冊的個人帳號則幾十元1個,有的號主本人對買賣不知情甚至不知道註冊過帳號。一個號主說,趕集的時候聽說能領不鏽鋼盆,就把手機交給了別人,然後就被註冊了帳號。——多種工具助力,“小作坊搞起大流量”。新型網路“水軍”從管理帳號到找素材、發文章均使用自媒體管理軟體完成。這些軟體中,有的可以提高內容分發和帳號管理的效率,有的可以批次管理母帳號、子帳號,查看收益、發文情況,還能蒐集全網熱點話題、潛在爆款素材,並有現成創作範本。“這些工具大大降低犯罪門檻,讓缺乏專業技術的小團隊也能吃上‘流量飯’。”煙台市公安局經濟技術開發區分局網路安全保衛大隊大隊長陳天勝說,一個團夥的主犯僅受過小學教育,另一成員待業在家。他們租了個房子、買了幾台電腦、找了幾個員工,就開始“低成本創業”。他們專門炒作負面資訊,什麼火就發什麼,1個月能賺二三十萬元。平台守牢責任 監管仍需完善據悉,本案中的9名犯罪嫌疑人因涉嫌侵犯公民個人資訊罪,現已被依法採取刑事強制措施。“新型網路‘水軍’眼裡只有流量,今天炒作新能源汽車,明天就可能涉足其他熱門領域,危害不容小覷。”受訪專家建議,網信、公安、市場監管等部門加強聯合執法,嚴打包括帳號買賣、工具開發、資金結算在內的“黑產鏈”,推動刑事司法銜接。辦案民警表示,平台流量分發主要依賴點選率、點贊數等指標,新型網路“水軍”犯罪利用了平台的自媒體流量扶持計畫,借助平台對MCN機構的傾斜,實現一個母帳號操控成千上萬個子帳號。中國人民大學法學院教授劉俊海認為,平台應全面改造流量獎勵機制和帳號監管機制,從“唯流量”的獎勵機制,轉向社會價值、安全發展等多維價值取向;此外,加強個人資訊比照、內容原創、互動真實、帳號活躍等方面的帳號真實性核查。有受害企業的法務人員反映,依據相關法律,侮辱誹謗屬於自訴案件,損害商譽需要有明確損失,非法經營需要證明背後有資金資助,通過司法管道維權往往成本高、立案難。對此,中國人民公安大學首都社會安全研究基地首席專家李小波表示,新型網路“水軍”犯罪目前還存在法律適用方面的難點,建議立法機關及時完善相關法律法規,加強對司法實踐的幫助指引。 (中國汽車報)
【美智庫預警】當AI成為駭客武器,全球安全格局將被顛覆!
導讀AI正在顛覆傳統網路攻防?近期,美國安全與新興技術中心(CSET)發佈名為《AI 對網路攻防平衡的影響分析》報告,探討了人工智慧(AI)對網路攻防平衡的影響。研究顯示,防禦者可利用AI快速修復漏洞、智能分析攻擊,但駭客同樣能借助AI實現自動化滲透、降低攻擊門檻。更嚴峻的是,AI可能引發更頻繁的網路衝突和意外升級,重塑數字戰場規則。這場科技博弈,誰將佔據上風?網路空間涉及社會的幾乎所有系統和方面,其攻防平衡的變化具有重大影響。AI作為數位技術,對網路攻防平衡的影響更為直接。報告通過闡明 AI 可能對網路攻防平衡產生的複雜作用,為理解 AI 時代的網路安全提供了參考。報告將AI 對網路攻防平衡的影響分為五大類:數字生態系統變化、數字環境加固、數字交戰戰術層面、激勵與機會、衝突和危機的戰略影響(這裡我們主要介紹前三種影響)。一、數字生態系統的變革AI 將重塑和調整網路防禦的挑戰格局,呈現出雙向作用:一方面,AI 會增加需要保護的程式碼、服務和系統的數量,同時可能提升其複雜性,加劇因複雜互聯的數字生態系統已存在的系統性漏洞問題。若 AI 系統進一步將技術開發集中於少數 AI 提供商,可能導致開發者及其開發的系統中出現更多系統性重複故障。另一方面,網路可能以有利於防禦的方式重塑。當前防禦者難以從大量合法連接和命令中識別非法攻擊,若 AI 提供商成為許多工和資訊交換的中心介面,可能縮小網路防禦的範圍。對於某些系統,嵌入式 AI 可能完全消除對連接的需求,如關鍵基礎設施若能獨立運行,可能不再需要通過網際網路進行遠端訪問。這些相互競爭的趨勢將重塑網路安全,而非單純使防禦或攻擊更具優勢。只要關鍵元件在面臨實施眾所周知易受攻擊和易出錯的 AI 模型和代理的壓力下仍能保持安全,防禦就有機會建立更安全的數字生態系統。二、數字環境的加固AI 在漏洞發現與防禦實施方面對攻防平衡的影響存在不確定性。若 AI 加速漏洞發現,可能使防禦者不堪重負,尤其是當這些漏洞難以修復(如硬體漏洞)時更是如此。也有可能 AI 因成本低或速度快而被採用,卻在實施防禦方面表現更差。但總體而言,AI 有許多幫助加固防禦的機會。網路防禦者已被網路內外的任務壓得喘不過氣來,AI 有望幫助解決這一缺口。例如:將幫助清理和重構大量程式碼,幫助防禦者遵守大量標準和最佳實踐,更快地實施補丁和更新;幫助防禦者瞭解和評估其網路及裝置,預測這些網路和系統上的風險類型。只要漏洞發現的速度和新穎性不超過 AI 防禦者能夠跟上的速度,AI 就有可能加固數字環境。三、數字交戰的戰術層面1. AI驅動的網路攻擊:自主性與效率提升網路攻擊已在網際網路規模和驚人速度下發生,AI 可能為這些大規模攻擊提供更多的獨立性和自主性。同時,AI 可以加速進攻技術和戰術中一些較為耗時的方面,如逆向工程、偵察方面和漏洞開發。2. 防禦者的AI優勢:速度限制與分層防禦防禦者能從加速的逆向工程、補丁實施和指令碼編寫中受益。此外,防禦者可以設計系統來限制各種任務或程序的速度和規模,例如限制可疑連接,或在允許刪除或加密關鍵檔案等危險活動之前要求人工確認。這些防禦系統還可以使用大型伺服器來運行強大的 AI 代理,而攻擊者可能限於較小的本地計算或有限的資料傳輸到遠端伺服器,以保持在警報閾值以下。3. 可靠性挑戰與AI輔助防禦策略防禦者面臨的主要挑戰是確保其採取的任何行動都是可靠的。不可靠的補丁或配置更改可能最終造成他們試圖防止的損害。如果 AI 能夠幫助設計或測試防禦以確保可靠性,那麼防禦者在戰術層面可以從 AI 中獲益良多。無論那種情況,防禦者都有幾個優勢可以用來限制攻擊者有效使用 AI 的能力。 (稻香湖下午茶)