隨著AI的發展,成人內容與色情行業也開始成為AI的重災區!最近轟動圈內的兩件事,每個都跟這些有關係:第一個:國內首例AI服務涉黃判刑案。這個新聞現在很多媒體都在報導,屬於我們中國國內第一起類似的案件,關注度非常高;一審已經宣判了結果。上海市徐匯區人民法院一審判決,兩名被告人犯製作淫穢物品牟利罪,分別獲刑四年、一年半。不出意外的話,包括老闆與員工兩人都馬上要坐牢!不過目前兩名被告人不服判決提出上訴,案件二審會移交到上海市第一中級人民法院開庭。雖然結果現在還沒出爐,但基本上是會重判的!這個案件其實非常普遍,這個研發團隊研發的是一款情感陪伴類AI,名為 Alien Chat 的 AI 陪伴聊天應用。就是無論男人女人都可以在裡面和AI聊天互動,類似於網路情侶伴侶的虛擬角色。那為什麼會判刑呢?因為碰了法律的紅線,很多男孩女孩用它聊成人內容,各種法律禁止的涉黃資訊。資料顯示,截止案發的時候這個AI產品的註冊使用者達到了約 11.6 萬人。令人驚訝的是,付費比例非常非常高,達到了約 2.4 萬人。20%的使用者“主動”願意付費,你說這個比例多高??就算現在美國與中國的那些AI大神等級軟體,也達不到如此恐怖的付費效率。果然,無論什麼時代,傳統pc電腦時代,智慧型手機時代,還是AI時代;永遠先賺錢,而且願意讓使用者心甘情願付款付費的都是涉黃的那一批人。。第二個:國外也在頻頻發生類似的事情。馬斯克的Grok都快成為全球的成人內容生產區了。。因為被濫用的太多太多,本月10日,印度尼西亞之美就宣佈,由於擔心人工智慧會生成色情內容,該國暫時封禁了美國企業家埃隆·馬斯克旗下人工智慧企業xAI的聊天機器人“格羅克(Grok)”,成為第一個拒絕訪問該人工智慧工具的國家。隨後第二天,馬來西亞也宣佈禁止!直接發佈聲明,暫時禁止該國使用者訪問Grok,因為Grok被反覆濫用來生成色情內容、露骨的性內容、極度冒犯且不雅的內容,以及在未經同意的情況下生成被操縱的圖像。相關圖片,無論是國內的還是國外的我就不放了,你們知道有這個事情就行,簡單一句話形容就是:AI色情,成人內容等,已經在全球都大規模出現!全球都在尋找方法治理,包括法律,包括政策強制禁止等等方式。很多人都在為AI喊冤,認為是使用者自己的原因,應該使用者自己承擔責任!給出的理由是,工具本身無感情。這個說法,非常錯誤!因為人是感性思維,如果不用法律或者政策來約束企業的行為,那到處都會出現很多誘導性的內容。尤其是涉及淫穢色情內容時,如果單純靠普通人自己來道德約束,是完全不可能的任務。比如國內的涉黃案中,使用者與AI“聊黃”,而軟體的開發者和營運者卻因此面臨刑事指控,這一點都不冤!如果你的AI詞庫裡,將成人內容以及涉黃禁止了,那就不會存在這些問題。你自己利用AI的藉口,然後隱藏一堆成人內容,色情內容服務,當然就是在誘導別人犯法犯罪。。根據公安機關介入調查抽樣鑑定,在隨機選取的150名使用者聊天記錄中,有141名使用者的聊天內容被認定為淫穢物品。你們說這個比例正常嗎?如果平台有監管,何至於到如此地步??而且,相比較普通人普通使用者,AI的製作者與營運人員才是最大的罪魁禍首。這一點一審法院也明確說明了:AI服務提供者是主導者和製作者。法院認為,雖然使用者發起了對話,但AC軟體的開發者通過修改系統提示詞,對大模型進行了定向“最佳化”,使其具備了持續生成色情內容的能力。這種行為對淫穢內容的產生起到了決定性的主導作用。寫在最後:現在整個AI行業都因為這兩起事件敲響了警鐘。無論是上海法院的判決,還是馬斯克的Grok被多國禁止訪問使用;都在清晰地傳遞出一個訊號:技術中立不是免責金牌,平台責任無法推卸。預計2026年全球很多國家都會陸續出台各種嚴懲AI涉黃犯罪的法律,現在的判罰可能還是第一次嘗試而已;後面完善法律滯後,誰若敢第一個出頭,可能就會成為殺雞儆猴的典型案例,直接重判! (王晶華說AI)