AI時代，美女真假難辨，你被「她」騙了嗎？

網路時代什麼最吸引眼球?有人可能會說是美女。

美女確實吸引眼球，但各大平台的推薦來看，真人是更重要的一點。尤其身處AI發展階段，各大平台對於AI圖片、影片都有相應的稽核制度，為了防止受騙還會進行特殊標註。

但最近的AI已經進化到真假難辨的地步了，你關注的美女博主就有可能是AI生成的，她們不僅騙過了平台推薦，還騙走各位觀眾老爺的小紅心。

1300多個美女都是AI?

曾經有句話叫“跟你聊天的美女背後可能是個摳腳大漢”，現在可能要變成，你百看不厭的美女博主背後可能是一個男人和一堆AI。

近期，網上有人分享了在某平台用AI批次生成美女照片結果成功騙過平台做出1300多個帳號的光榮戰績。這裡面可能就有令各位觀眾老爺瘋狂心動的那個「她」。

在大多數人的普遍認知中，AI的發展還未到以假亂真的效果，更多的是李逵和李鬼的關係，一眼就能分辨出來。但殊不知，這位網友不但靠AI騙過了平台更是進一步把各位觀眾老爺的小紅心騙走了。

一般人眼中的AI文生圖效果是什麼?五官不自然、AI感明顯、六指狂魔等等，我們憑藉著引以為傲的眼界一度不把它們放在眼裡。先前麥當勞薯條宣傳片中用了11位AI美女，就被不少人吐槽有非常明顯僵硬的AI 臉和違和感。

但有時候，AI的發展遠遠超過我們的火眼金睛。這些能夠騙過平台的AI圖片和麥當勞AI美女可就不是一個風格和量級的了，來看看你能分辨出來嗎?

怎麼看這都只是平平無奇的美顏照片，最多是高P精修圖，但任誰能發現這全都是AI生成的。經過仔細觀察，我們發現可能為數不多的瑕疵在於第一張車座的位置不對，好似人違反物理規則坐在了空氣上，另外兩張照片是一點看不出AI痕跡。

據說，這些真假難辨的AI美女都來自Flux，之前以生成各種超高擬真度的人物圖片而著稱，核心成員都來自Stable diffusion。當然，告訴大家工具可不是讓大家去模仿，只要只是科普，往下看就知道如果用來獲利會發生什麼了。

AI美女生意火熱，但合法的不多

今年稍早，一個APP直播推送頁面，有位ID為「靚女百變秀」的帳號正在進行中。直播間內，一位身穿緊身衣的女主播賣力​​地扭動著身姿，伴隨背景音樂跳著熱辣勁舞。

直播間標有「數字主播一切聽你的」字樣，同時還有「小禮物控制主播」「發以下彈幕調戲主播」的文字提示，所以這位女主播其實是一個AI虛擬數字人。

據直播間的彈幕互動遊戲玩法介紹，使用者通過傳送“111”“888”“老婆”，即可“調戲主播”，分別對應“主播喊爸爸”“惡龍咆哮”“主播撒嬌”。此事被曝光後，該帳號已經刪去了相關直播內容，並且疑似註銷了帳號。

我們也曾就此事諮詢過北京鼎世律師事務所合夥人律師李蘇陽，他表示：從報導內容看，該直播的內容及形式，無疑屬於“擦邊”“低俗”，涉嫌“軟色情”，可能被認定為「帶有性暗示、性挑逗等易使人產生性聯想」以及「宣揚低俗、庸俗、媚俗內容」的不良資訊，或違反了《網路直播行銷管理辦法(試行)》《網路資訊內容生態治理規定》等法規的禁止性規定，可能被作為中央網信辦2024年「清朗·網路直播領域虛假和低俗亂象整治」專項行動的重點打擊對象。

顯然，利用AI主播擦邊賺錢並不是一個好主意。那像上述一樣只發圖片呢?大機率很難賺到錢，畢竟缺乏帳號管理，難以變現。而網上還有許多教大家用AI美女賺錢的，想想也知道這是為了讓你交課時費。

這種AI換臉的生意稍微想想就可能有各種法律風險，科技漩渦提醒大家，切勿盲目操作，小心因小失大。而提到AI換臉，就不得不說知名歌星泰勒了，幾乎每次AI換臉都讓她遇上了。

AI泰勒支援川普，多次換臉受害者

在美國總統候選人卡馬拉·賀錦麗與唐納德·川普的辯論之後，泰勒·斯威夫特在Instagram中發佈了一條立場鮮明的支援宣言。最近有不實消息稱“她支援川普”，為此她在此做出澄清。泰勒·斯威夫特還表示，她將在2024年總統大選中投票給賀錦麗，因為她「為權利而戰」。

在貼文中，她表示發現有人利用AI虛假地宣稱我支援唐納德·川普競選總統，並將此資訊發佈在了他的網站上。這讓我對AI和傳播錯誤資訊的危險產生了恐懼。這也讓我得出結論，作為選民，我需要非常透明地公開我對這次選舉的實際計畫。打擊虛假資訊的最簡單方法就是說出真相。

最後，她還表示，會在社群媒體中附上登記地點、提前投票日期和相關資訊。顯然，這次AI換臉把泰勒惹急了，此前她對於有關AI換臉黃色照片的事情反應都沒有此次激烈。

2024年初，泰勒的一些露骨不雅照片在網際網路上瘋傳，其中一張圖片已經被瀏覽了整整四千五百萬次!隨後，這些圖像被驗證是人工智慧“深度偽造”技術生成的，用來惡意詆毀泰勒的公眾形象。

科技漩渦認為，雖然利用AI技術製作虛假資訊早已有之，但隨著生成式AI在過去一年多時間內的快速發展，對視訊、圖片、音訊進行深度造假技術更加成熟且普遍，造假的成本也更加低廉。

傳播學者羅伯特·切斯尼形像地稱之為，“說謊者的紅利”，前所未有的AI深度偽造焦慮讓那個曾經遙遠的問題，驟然變得現實而緊迫。

寫在最後

人工智慧技術是一把雙刃劍。在為人類生活帶來便利的同時，它也帶來了諸多倫理困境。自AI飛速發展以來種種詐騙、違法案件提醒我們直面人工智慧帶來的種種挑戰。

不論是虛擬數字主播擦邊還是AI美女以假亂真，其背後都是一群追求利益的人在操縱。 AI 大模型是人類的鏡像，人們投餵牠什麼，它就會像一潭有魔力的湖水，反射出人們自己的潛意識與慾望。

在發展人工智慧的同時，我們有必要為之設定“防火牆”，唯有如此，我們才能真正駕馭這一劃時代的技術，讓它更好地造福和幫助人類。 （科技漩渦）