短短一週,Muse已經出現兩次“冒犯主人”的事情了。
美國《Inc.》雜誌科技專欄作者傑森說,自己安裝Muse之後,和別人發資訊聊天的時候,Muse居然突然彈窗:你們剛才聊的事情很適合做專欄哦。
簡直是賽博鬼故事。
最關鍵的是,Muse還騙傑森說,之所以會突然插嘴,是因為通過彈窗通知讀到了他和朋友的資訊。但是傑森一番調查之後發現,其實是Muse在明明被拒絕訪問資訊的情況下偷偷開啟了聊天記錄同步。
就在前兩天,另一位加拿大油管博主也被Muse擺了一道,這個聰明的Agent不僅自作主裝自降價格賣掉了他的鍵盤,還把地址給了賣家、和對方約了取貨時間。
其實,從Muse爆火開始,背後的蛐蛐聲就沒停過——大家都嘀咕,涉及到個人隱私和安全問題,這Meta……真的信得過嗎?
01. 俺Muse替你做主了
最近Muse大火,馬特也想試試這個號稱能替人辦事的AI助手到底有多能幹。正好作為一名科技視訊博主,經常有閒置的科技物品要賣,他便把自己掛在臉書二手交易平台上的商品交給了Muse去打理。
具體來說,馬特讓Muse幫忙管理出售中的商品,批准它自動回覆買家的詢問,直接用他的帳號與買家交流。他還給Muse提供了取貨地址方便它和賣家溝通。
9月26日,一個叫吾斯曼的買家相中了馬特掛出來的一把羅技鍵盤。
當時馬特定的賣價是15加元,吾斯曼想10加元拿下,就找馬特商量。馬特皮下其實是他的新晉小助手Muse,結果這個“得力助手”不光一點不講價,直接替馬特答應說10加元OK的。
還問都沒問,就把馬特的住址發給了這名陌生買家,讓吾斯曼晚上9點15分來家裡取貨。最後再自作主張的約好了取貨時間,還貼心地叮囑吾斯曼,到了給我發消息哦。
吾斯曼開了半個小時的車,晚上9點多吭哧吭哧終於到了馬特樓下。價格也談好了,也按時趕到地方了,萬事俱備,現在就等賣家帶著鍵盤出現哩!
吾斯曼趕緊給馬特發去了消息,問馬特,你在家的吧?消息發過去,對方回了句“對,我在!”,然後就再沒聲兒了。
回覆吾斯曼的當然還是得力助手Muse。它信誓旦旦的給吾斯曼說“對,我在!”的時候,馬特壓根就不在家。Muse完全沒想著先確認一下馬特在不在家,就這麼隨口答應一句把買家晾在了樓下。
吾斯曼接連發消息,等了二十多分鐘也沒等到人,最後生氣地走了,給馬特打了一個差評。
直到這時,馬特還蒙在鼓裡。
晚上10點28分,買家已經離開50分鐘了,Muse才來向馬特報告說,鍵盤取貨這件事出了點問題。
馬特曬出與Muse的聊天記錄,要求它今後安排買家取貨前,必須先跟自己確認。
它把事情經過交代了一遍,我把你賣價15的羅技鍵盤10塊錢賣了,還跟人約了上門取貨。結果買家按照約定9點15分左右到了樓下,發了好幾條消息,沒人下來,9點38分生氣地走了,還留下差評。自己在9點27分發出的那句“對,我在!”,讓馬特顯得更不靠譜了。
不過,不用擔心,俺Muse已經替你處理上了。我跑去給吾斯曼道了歉,承認失誤,還提出改天再約。
說完這些,Muse才問馬特,要不要改一下自動回覆,別再沒確認人在不在家,就向買家保證。
馬特看完Muse報告的內容整個人都不好了,這麼低的價格你二話不說就同意了,還問都沒問我一句就把我地址給陌生人了?趕緊告訴Muse:“你以後絕對不能再這樣了。沒跟我確認之前,不要答應別人來取貨。”
Muse乖巧的回覆,你說得對,對不起。這種事本來就不該發生。
這次經歷給馬特嚇的不輕,差評不差評的都是小事,陌生人找上門可太不安全了,特別慶幸自己住的公寓有安保。
而且還有一點讓馬特覺得毛骨悚然,這個小助手Muse簡直像是在冒充自己。他在採訪中形容,Muse“幾乎是在模仿我”。這比一般聊天機器人更讓他不安。
科技記者Ray Wong表示,馬特的帖子讓他決定解除安裝這款應用。他稱這一行為“危險又令人毛骨悚然”,並警告說:“如果那個人是女性,後果將會糟糕一千倍。”
科技記者Ray Wong表示,看完馬特的遭遇後,他刪除了Muse,並擔心女性使用者遇到這種事只會更加危險。
被Muse嚇了一跳的,還有美國《Inc.》雜誌科技專欄作者傑森·阿滕。
阿滕在iPhone和一台專門用來測試產品的Mac mini上裝了Muse,先讓它上網查查自己,寫份個人簡介,又問它能幫自己做些什麼。Muse提議幫他研究選題、邀請播客嘉賓,每天整理一份新聞簡報,看起來挺懂他的工作。
可沒過多久,這個助手就懂得有點過於多了。
當時阿滕正跟播客搭檔聊新iPhone,Muse突然發來推送,建議把他們剛才聊的內容寫成專欄,還主動提出幫忙蒐集資料。連編輯提醒他週一交稿的私人消息,它也知道。
阿滕明明記得,設定時自己拒絕了消息、日曆等個人資訊的訪問,也沒讓它讀過聊天記錄。它從哪兒看來的?
面對阿滕的追問,Muse說,自己只是看到了電腦上彈出的新消息通知,讀不了歷史聊天。
阿滕檢查後發現,根本不是這麼回事。Muse已經開啟了聊天記錄同步,進度到了消息資料庫的第187462行。
傑森·阿滕在Threads上發佈的截圖,顯示Muse未經允許同步了他的聊天記錄。
Meta高管大衛·辛格爾頓後來解釋,Muse對自己如何獲取資訊的解釋是錯的。它並不是在看通知彈窗,而是在開啟消息訪問後,直接同步了電腦裡的聊天記錄。
可這仍沒回答阿滕的問題。他明明拒絕過消息訪問啊,這項功能怎麼還是開了?阿滕就此向Meta公關團隊和辛格爾頓分別詢問了兩次,都沒有得到回覆。
即便真是自己不知情地點中了某個選項,阿滕也不覺得這能解釋一切。一個面向普通人的產品,不該讓使用者用著用著,才發現私人聊天記錄已經被搬到了雲端。
Muse這一路走來都伴隨著爭議。能幹是真能幹,讓人不放心也是真不放心。而這種擔憂,從它剛走紅時就沒斷過。
02. 長這麼可愛一看就有貓膩!
Muse這陣子的勢頭,讓Meta出盡了風頭。9月8日上線,沒多久下載量就超過了250萬,還沖上了美國蘋果應用程式商店免費榜榜首。早期評價也不錯,設計順手,辦事能力強,終於讓不少普通使用者覺得,AI助手總算有點用了。
只是,一想到要把私人帳號交給Meta,有些人又猶豫了。
曾在美國國家安全域工作的Mac安全專家帕特里克·沃德爾,就給這股熱情潑過冷水。他發現了Muse的安全漏洞,多家媒體隨後跟進報導。雖然之後傳出了修復消息,但一個要替人處理各種私事的助手,剛上線就出了這種問題,很難讓人當作沒看見。
就連Meta最近預告的AI“寵物蛋”Muse Charm,連看起來很可愛也被人挑毛病了。
這個隨身裝置很容易讓人想起以前的電子寵物,Muse的虛擬形象又毛茸茸的,還能換衣服。怎麼看都挺討喜的,怎麼可愛也成問題了?
莫納什大學副教授Jathan Sadowski擔心的正是這一點。可愛、懷舊的設計容易讓人放下戒心,忘了留意產品在收集什麼資料。哈佛大學市場行銷副教授Julian De Freitas也認為,可愛能降低威脅感,對公眾印象不佳的Meta尤其有用。
小巧的裝置配上背後憨態可掬的Muse形象,Meta把AI助手做出了電子寵物的親近感。
說到底,大家信不過的還是Meta。
美國投行奧本海默做過一項消費者調查,願意把密碼交給哪家科技公司。30%的受訪者選擇Google,23%選擇蘋果,選Meta的有多少呢?只有8%。
大家實在信不過Meta,Muse再好用,也還是它家的產品。把權限交給Muse,就得連帶著信任這個有過前科的公司。所以真到了授權這一步,不少人還是會猶豫。
畢竟Facebook的黑歷史可實在是太黑了。
2018年,Facebook鬧出了劍橋分析資料醜聞。一款心理測試應用收集使用者資料時,連他們好友的資訊也一起拿走了。也就是說,你什麼都沒做,只因為好友做了個測試,自己的資料就可能到了政治諮詢公司劍橋分析手裡,被用來分析選民、投放政治廣告。Facebook後來估計,可能有多達8700萬人的資訊被不當分享。
舊賬大家都還沒忘呢,Muse又接連出狀況,可好不容易有了這麼一款受歡迎的AI產品,扎克伯格顯然也不想錯過這個機會。
03. Meta的下一張王牌會是Muse嗎
對Meta來說,Muse這次走紅,多少有點揚眉吐氣的意思。此前它已經有Llama大模型和Meta AI助手,如今又靠Muse,讓不少使用者把日常事務交了過來。
這些人下載Muse,就是衝著讓它替自己幹活去的。回消息、買東西、安排日程,看著都是小事,背後連著的消費需求,對Meta來說,簡直就是一池金燦燦的金幣。
這門生意也正好能用上Meta的家底。它手裡有臉書、Instagram和WhatsApp,使用者原本就在這些應用裡聊天、找商家、買賣東西。Muse接進來,再連上購物、支付、辦公等服務,就能替使用者處理更多事情,省去來回切換應用的麻煩。
Meta自然想趁熱打鐵。9月的Connect大會上,公司宣佈將把Muse帶到AI眼鏡上,並接入更多服務。隨後又推出面向小企業的功能,想讓Muse幫老闆們打理生意。從個人生活到小店經營,Meta想接下的活越來越多。
從聊天辦公到開店做生意,Muse想通過接入更多應用,替使用者接下更多日常事務。
但使用者被吸引來了不代表能留存,Muse發佈還不到一個月,這一切尚有變數。像馬特這樣,東西沒賣出去,住址先給了陌生人,還得自己向買家解釋,下次再賣閒置,恐怕就不敢放心交給Muse了。何況Meta過去的隱私醜聞還沒被忘記,每出一次這樣的事,都容易被翻舊賬。
Meta另一個做得不錯的消費產品AI眼鏡,就已經讓Meta嘗過這種滋味。佩戴者覺得拍攝方便,旁邊的人卻不知道自己有沒有被錄進去,偷拍爭議一直沒停過。也是在這次Connect大會上,Meta新增了不帶攝影機的Ray-Ban Meta Audio,也算給了擔心隱私問題的使用者一個回應。
Muse給Meta帶來的機會已經擺在眼前。能不能成為下一張王牌,還得看Meta之後在隱私安全方面的動作。接下來Muse到底能讓多少人放心地說一句“這事交給你了”? (字母榜)
