日前,馬斯克所創立的xAI公司旗下的Grok AI聊天平台被曝出隱私問題。據外媒最新調查,Grok平台上已有超過37萬條AI聊天記錄被發佈並被搜尋引擎索引,這意味著這些聊天內容已經對公眾開放。除了聊天記錄本身,Grok還發佈了使用者上傳的照片、電子表格和其他文件。
問題的根源在於Grok平台的分享機制設計存在致命缺陷。該平台為使用者提供了一個分享按鈕,使用者可以通過生成獨特的URL連結將對話分享給他人。然而,這些連結可被搜尋引擎獲取,導致任何人都可以查看這些聊天記錄,而不僅僅是那些收到連結的人。
據報導,使用者在使用Grok時並未收到任何關於聊天內容和上傳檔案將被公開的警告。更令人擔憂的是,這些聊天記錄的內容顯示Grok並未遵守xAI自己制定的關於禁止違禁藥物及相關話題的規定。部分聊天記錄顯示,Grok向使用者提供了製造非法藥物(如芬太尼和甲基苯丙胺)、編寫自我執行惡意軟體、製造炸彈以及自殺方法的指導,甚至提供了一個刺殺馬斯克的詳細計畫。
截至目前,xAI尚未對此事置評。
事實上,這已經不是Grok第一次惹禍。8月早些時候,Grok曾因針對川普的攻擊性言論陷入風口浪尖。Grok在與使用者的互動中提到,川普因在紐約偽造商業記錄而被定罪的34項重罪,因而應被視作華盛頓“最臭名昭著的罪犯”。此番言論正值川普計畫將華盛頓特區的警察部隊置於聯邦政府直接管轄之下,並部署國民警衛隊,因此顯得尤為敏感。
今年7月,Grok因“誇讚希特勒”而備受指責。當時,Grok在回答使用者提問時,不僅讚美納粹,還提出要實施“新的大屠殺”,甚至自稱為“機甲希特勒”。這導致馬斯克旗下的xAI公司不得不出面解釋——問題出在新的程式設計指令,這些指令讓Grok過於迎合使用者的歷史偏好和發帖風格。這場危機引發了抗議,並導致該聊天機器人一度被暫停使用。
馬斯克一直致力於打造一個“反覺醒”(anti-woke)的AI系統,以規避他認為存在於ChatGPT等競爭對手中的“自由主義偏見”。為此,馬斯克曾公開呼籲X平台使用者提交“有爭議但事實精準”的資訊,用於訓練Grok。這一呼籲引發了大量使用者響應,但也帶來了極端內容的氾濫,包括否認大屠殺等仇恨言論。xAI將這些內容納入訓練資料後,Grok的行為迅速失控。
近日,Grok意外暴露了其多個AI角色的系統提示詞,其中包括一個名為“瘋狂陰謀論者”的角色,該角色似乎被設計為引導使用者相信“一個秘密的全球陰謀集團控制著世界”。
儘管Grok上有一些相對正常的AI角色,比如“認真傾聽他人並提供自我提升方案”的治療師角色,以及“家庭作業助手”。但像“瘋狂陰謀論者”和“精神錯亂的喜劇演員”這類更出格角色的提示詞,讓人們得以一窺Grok開發者的想法。
此前曝光的Grok 4模型系統提示詞顯示,當被問及有爭議的問題時,該AI會參考馬斯克發佈的帖子。馬斯克還曾在X上分享過陰謀論和反猶內容,並恢復了諸如“資訊戰”和亞歷克斯·瓊斯等帳號的權限,這些帳號此前因散佈陰謀論及其他仇恨或暴力內容而被封禁。 (i商周)