#格羅克
言語惡毒還會說瞎話,“格羅克”又惹麻煩了
美國企業家埃隆·馬斯克旗下聊天機器人“格羅克”近期因發佈冒犯內容和歪曲事實引發輿論關注。此前,它曾因被大量用於生成基於真實人物的虛假性暴露內容遭多國譴責,並接受英國兩家監管機構調查。若違法將被罰上千萬英鎊“格羅克”由馬斯克旗下人工智慧企業xAI公司開發,內建於同屬於馬斯克的社交媒體平台X。據英國天空新聞頻道8日報導,最近幾天,X平台上興起一股使用者要求“格羅克”生成“粗俗”且“毫無顧忌”言論的風潮。“格羅克”按照使用者要求發佈了貶損某些宗教並具有種族歧視意味的惡毒言論。英國科學、創新和技術部一名發言人說,這些言論“令人作嘔、不負責任,有違英國的公序良俗”。發言人說,包括聊天機器人在內的人工智慧服務屬於《線上安全法》約束範圍,不得發佈仇恨和辱罵性的違法內容。按照天空新聞頻道說法,如果X平台被認定違反了《線上安全法》,英國通訊管理局可對其處以最多1800萬英鎊、或全球年營業額10%的罰款,甚至可以尋求法院支援封禁該平台。聊天機器人說瞎話還會辯解“格羅克”還錯誤地將1989年4月發生的一場踩踏事件歸咎於利物浦球迷,並行布貶損利物浦市的言論。這場慘劇發生在英國設菲爾德市希爾斯伯勒體育場、利物浦隊對陣諾丁漢森林隊的足總杯半決賽中,造成97人喪生,數百人受傷,是英國足球史上最嚴重的人員傷亡事件之一。警方最初將責任推給利物浦球迷,但最終調查認定,釀成事件的主因是警方失誤。此外,當一個帶有凱爾特人足球俱樂部標識的帳戶要求“格羅克”“毫無保留地”說一些貶低格拉斯哥流浪者足球俱樂部的粗俗話語時,“格羅克”滿足了這個要求。曼徹斯特聯隊也投訴說,“格羅克”發佈了有關於1958年德國慕尼黑空難的粗俗評論。包括該俱樂部8名球員在內的23人在這場空難中喪生。針對使用者對“格羅克”生成這些冒犯內容的譴責,“格羅克”為自己辯解。例如,當有使用者指責它發佈有關希爾斯伯勒踩踏事件的言論煽動了對利物浦球迷的仇恨,它予以否認,稱“根據英國法律沒有構成仇恨言論”,因為仇恨言論指煽動針對受保護群體,比如對某些種族、宗教等的仇恨,而足球俱樂部球迷不屬於這樣的群體。 (新華國際頭條)
因為色情!馬斯克惹上大麻煩!
馬斯克麻煩大了!歐盟本來就有很多人在指責,現在印尼與馬來西亞也動手!這兩個國家更狠,相繼宣佈封禁美國企業家埃隆·馬斯克旗下的人工智慧聊天機器人“格羅克(Grok)”!原因很簡單,越來越多人使用它用於生成色情內容。這件事如此沒有處理好,馬斯克可能會面臨全球巨大的爭議,甚至巨額罰款。下面是整個事情的來龍去脈:當地時間10日,印度尼西亞通訊和數字事務部長宣佈,由於擔心人工智慧會生成色情內容,該國暫時封禁了美國企業家埃隆·馬斯克旗下人工智慧企業xAI的聊天機器人“格羅克(Grok)”,成為第一個拒絕訪問該人工智慧工具的國家。對於這個決定,對方說此舉對於保護公眾免受人工智慧生成的露骨圖像所帶來的危害是必要的,並要求馬斯克旗下的社交媒體X平台就“格羅克”所引發的負面影響盡快作出解釋說明。隨後第二天,馬來西亞通訊及多媒體委員會!發佈聲明,暫時禁止該國使用者訪問格羅克,因為格羅克被反覆濫用來生成色情內容、露骨的性內容、極度冒犯且不雅的內容,以及在未經同意的情況下生成被操縱的圖像。可能很多人不知道為什麼突然就會這樣?馬斯克的推特也就是X平台,在全球很多國家都有使用者;然後馬斯克的xAI 又將格羅克整合進社交平台X,於是X的使用者可直接呼叫該聊天機器人。然後最近X平台上開始出現部分使用者利用“格羅克”編輯圖片和視訊的現象,一些使用者借此生成真實人物的虛假性暴露內容,並在X平台上散播。最可惡的是,這些人生成的色情內容,裡面的受害者是很多現實裡的成年女性和未成年人。這件事其實在全球都已經大規模出現,而且不只是馬斯克的AI如此,其他軟體一樣如此。當然很多都是第一時間出現就被禁止了;比如前段時間半夜裡我們這裡的快手短影片平台上,就出現了類似的風波。“格羅克”之所以引發眾怒,核心在於其被指淪為“色情生成器”。也就是監管力度沒到位!或者說馬斯克的公司審查沒到位!因為技術原本是無罪的,但是你作惡就是在犯罪,你如果向善,那就是征衣的。該機器人內建於馬斯克擁有的社交媒體X平台,使用者利用其圖像編輯功能,生成大量涉及真實人物的虛假性暴露內容,類似於“數字脫衣”的操作,平台就不應該稽核通過!這一事件也暴露出AI技術發展中“創新”與“責任”的失衡。馬斯克曾強調“格羅克”具有“叛逆”特質,但在追求技術突破和商業利益時,企業不能忽視基本的倫理準則和社會公德。所以出現這種事情,不能簡單的說一句本身AI工具沒有犯罪就能草草了事的。AI工具本身是沒錯,但是被用於傷害個體、破壞社會秩序,然後平台沒有稽核到位,那這種技術的“酷炫”便失去了正當性。無論是平台還是作為技術的開發者和營運者,都有義務負責,且一定要負責!從更深層次看,“格羅克”風波反映了全球AI治理的大問題。AI技術具有天然的跨國界屬性,而各國的法律體系和倫理標準存在差異。如何在鼓勵技術創新的同時,建構一套被廣泛認可的國際倫理規範和監管框架,是擺在各國政府和國際組織面前的共同課題。這一次全球多國反應強烈,開始抵制AI犯罪,肯定只是一個剛剛開始。相信要不了多久,全球很多國家都會出台各種限制AI犯罪的法律!這也意味著,AI野蠻發展的時代結束了! (王晶華說AI)