关于ZAKER Skills GEO服务 合作
钛媒体 2小时前

悬在 Muse 头上的剑

文 | 字母 AI

短短一周,Muse 已经出现两次 " 冒犯主人 " 的事情了。

美国《Inc.》杂志科技专栏作者杰森说,自己安装 Muse 之后,和别人发信息聊天的时候,Muse 居然突然弹窗:你们刚才聊的事情很适合做专栏哦。

简直是赛博鬼故事。

最关键的是,Muse 还骗杰森说,之所以会突然插嘴,是因为通过弹窗通知读到了他和朋友的信息。但是杰森一番调查之后发现,其实是 Muse 在明明被拒绝访问信息的情况下偷偷开启了聊天记录同步。

就在前两天,另一位加拿大油管博主也被 Muse 摆了一道,这个聪明的 Agent 不仅自作主装自降价格卖掉了他的键盘,还把地址给了卖家、和对方约了取货时间。

其实,从 Muse 爆火开始,背后的蛐蛐声就没停过——大家都嘀咕,涉及到个人隐私和安全问题,这 Meta ……真的信得过吗?

俺 Muse 替你做主了

最近 Muse 大火,马特也想试试这个号称能替人办事的 AI 助手到底有多能干。正好作为一名科技视频博主,经常有闲置的科技物品要卖,他便把自己挂在脸书二手交易平台上的商品交给了 Muse 去打理。

具体来说,马特让 Muse 帮忙管理出售中的商品,批准它自动回复买家的询问,直接用他的账号与买家交流。他还给 Muse 提供了取货地址方便它和卖家沟通。

9 月 26 日,一个叫吾斯曼的买家相中了马特挂出来的一把罗技键盘。

当时马特定的卖价是 15 加元,吾斯曼想 10 加元拿下,就找马特商量。马特皮下其实是他的新晋小助手 Muse,结果这个 " 得力助手 " 不光一点不讲价,直接替马特答应说 10 加元 OK 的。

还问都没问,就把马特的住址发给了这名陌生买家,让吾斯曼晚上 9 点 15 分来家里取货。最后再自作主张的约好了取货时间,还贴心地叮嘱吾斯曼,到了给我发消息哦。

吾斯曼开了半个小时的车,晚上 9 点多吭哧吭哧终于到了马特楼下。价格也谈好了,也按时赶到地方了,万事俱备,现在就等卖家带着键盘出现哩!

吾斯曼赶紧给马特发去了消息,问马特,你在家的吧?消息发过去,对方回了句 " 对,我在!",然后就再没声儿了。

回复吾斯曼的当然还是得力助手 Muse。它信誓旦旦的给吾斯曼说 " 对,我在!" 的时候,马特压根就不在家。Muse 完全没想着先确认一下马特在不在家,就这么随口答应一句把买家晾在了楼下。

吾斯曼接连发消息,等了二十多分钟也没等到人,最后生气地走了,给马特打了一个差评。

直到这时,马特还蒙在鼓里。

晚上 10 点 28 分,买家已经离开 50 分钟了,Muse 才来向马特报告说,键盘取货这件事出了点问题。

马特晒出与 Muse 的聊天记录,要求它今后安排买家取货前,必须先跟自己确认。

它把事情经过交代了一遍,我把你卖价 15 的罗技键盘 10 块钱卖了,还跟人约了上门取货。结果买家按照约定 9 点 15 分左右到了楼下,发了好几条消息,没人下来,9 点 38 分生气地走了,还留下差评。自己在 9 点 27 分发出的那句 " 对,我在!",让马特显得更不靠谱了。

不过,不用担心,俺 Muse 已经替你处理上了。我跑去给吾斯曼道了歉,承认失误,还提出改天再约。

说完这些,Muse 才问马特,要不要改一下自动回复,别再没确认人在不在家,就向买家保证。

马特看完 Muse 报告的内容整个人都不好了,这么低的价格你二话不说就同意了,还问都没问我一句就把我地址给陌生人了?赶紧告诉 Muse:" 你以后绝对不能再这样了。没跟我确认之前,不要答应别人来取货。"

Muse 乖巧的回复,你说得对,对不起。这种事本来就不该发生。

这次经历给马特吓的不轻,差评不差评的都是小事,陌生人找上门可太不安全了,特别庆幸自己住的公寓有安保。

而且还有一点让马特觉得毛骨悚然,这个小助手 Muse 简直像是在冒充自己。他在采访中形容,Muse" 几乎是在模仿我 "。这比一般聊天机器人更让他不安。

科技记者 Ray Wong 表示,马特的帖子让他决定卸载这款应用。他称这一行为 " 危险又令人毛骨悚然 ",并警告说:" 如果那个人是女性,后果将会糟糕一千倍。"

科技记者 Ray Wong 表示,看完马特的遭遇后,他删除了 Muse,并担心女性用户遇到这种事只会更加危险。

被 Muse 吓了一跳的,还有美国《Inc.》杂志科技专栏作者杰森 · 阿滕。

阿滕在 iPhone 和一台专门用来测试产品的 Mac mini 上装了 Muse,先让它上网查查自己,写份个人简介,又问它能帮自己做些什么。Muse 提议帮他研究选题、邀请播客嘉宾,每天整理一份新闻简报,看起来挺懂他的工作。

可没过多久,这个助手就懂得有点过于多了。

当时阿滕正跟播客搭档聊新 iPhone,Muse 突然发来推送,建议把他们刚才聊的内容写成专栏,还主动提出帮忙搜集资料。连编辑提醒他周一交稿的私人消息,它也知道。

阿滕明明记得,设置时自己拒绝了消息、日历等个人信息的访问,也没让它读过聊天记录。它从哪儿看来的?

面对阿滕的追问,Muse 说,自己只是看到了电脑上弹出的新消息通知,读不了历史聊天。

阿滕检查后发现,根本不是这么回事。Muse 已经开启了聊天记录同步,进度到了消息数据库的第 187462 行。

杰森 · 阿滕在 Threads 上发布的截图,显示 Muse 未经允许同步了他的聊天记录。

Meta 高管大卫 · 辛格尔顿后来解释,Muse 对自己如何获取信息的解释是错的。它并不是在看通知弹窗,而是在开启消息访问后,直接同步了电脑里的聊天记录。

可这仍没回答阿滕的问题。他明明拒绝过消息访问啊,这项功能怎么还是开了?阿滕就此向 Meta 公关团队和辛格尔顿分别询问了两次,都没有得到回复。

即便真是自己不知情地点中了某个选项,阿滕也不觉得这能解释一切。一个面向普通人的产品,不该让用户用着用着,才发现私人聊天记录已经被搬到了云端。

Muse 这一路走来都伴随着争议。能干是真能干,让人不放心也是真不放心。而这种担忧,从它刚走红时就没断过。

长这么可爱一看就有猫腻!

Muse 这阵子的势头,让 Meta 出尽了风头。9 月 8 日上线,没多久下载量就超过了 250 万,还冲上了美国苹果应用商店免费榜榜首。早期评价也不错,设计顺手,办事能力强,终于让不少普通用户觉得,AI 助手总算有点用了。

只是,一想到要把私人账号交给 Meta,有些人又犹豫了。

曾在美国国家安全局工作的 Mac 安全专家帕特里克 · 沃德尔,就给这股热情泼过冷水。他发现了 Muse 的安全漏洞,多家媒体随后跟进报道。虽然之后传出了修复消息,但一个要替人处理各种私事的助手,刚上线就出了这种问题,很难让人当作没看见。

就连 Meta 最近预告的 AI" 宠物蛋 "Muse Charm,连看起来很可爱也被人挑毛病了。

这个随身设备很容易让人想起以前的电子宠物,Muse 的虚拟形象又毛茸茸的,还能换衣服。怎么看都挺讨喜的,怎么可爱也成问题了?

莫纳什大学副教授 Jathan Sadowski 担心的正是这一点。可爱、怀旧的设计容易让人放下戒心,忘了留意产品在收集什么数据。哈佛大学市场营销副教授 Julian De Freitas 也认为,可爱能降低威胁感,对公众印象不佳的 Meta 尤其有用。

说到底,大家信不过的还是 Meta。

美国投行奥本海默做过一项消费者调查,愿意把密码交给哪家科技公司。30% 的受访者选择谷歌,23% 选择苹果,选 Meta 的有多少呢?只有 8%。

大家实在信不过 Meta,Muse 再好用,也还是它家的产品。把权限交给 Muse,就得连带着信任这个有过前科的公司。所以真到了授权这一步,不少人还是会犹豫。

毕竟 Facebook 的黑历史可实在是太黑了。

2018 年,Facebook 闹出了剑桥分析数据丑闻。一款心理测试应用收集用户资料时,连他们好友的信息也一起拿走了。也就是说,你什么都没做,只因为好友做了个测试,自己的资料就可能到了政治咨询公司剑桥分析手里,被用来分析选民、投放政治广告。Facebook 后来估计,可能有多达 8700 万人的信息被不当分享。

旧账大家都还没忘呢,Muse 又接连出状况,可好不容易有了这么一款受欢迎的 AI 产品,扎克伯格显然也不想错过这个机会。

Meta 的下一张王牌会是 Muse 吗

对 Meta 来说,Muse 这次走红,多少有点扬眉吐气的意思。此前它已经有 Llama 大模型和 Meta AI 助手,如今又靠 Muse,让不少用户把日常事务交了过来。

这些人下载 Muse,就是冲着让它替自己干活去的。回消息、买东西、安排日程,看着都是小事,背后连着的消费需求,对 Meta 来说,简直就是一池金灿灿的金币。

这门生意也正好能用上 Meta 的家底。它手里有脸书、Instagram 和 WhatsApp,用户原本就在这些应用里聊天、找商家、买卖东西。Muse 接进来,再连上购物、支付、办公等服务,就能替用户处理更多事情,省去来回切换应用的麻烦。

Meta 自然想趁热打铁。9 月的 Connect 大会上,公司宣布将把 Muse 带到 AI 眼镜上,并接入更多服务。随后又推出面向小企业的功能,想让 Muse 帮老板们打理生意。从个人生活到小店经营,Meta 想接下的活越来越多。

但用户被吸引来了不代表能留存,Muse 发布还不到一个月,这一切尚有变数。像马特这样,东西没卖出去,住址先给了陌生人,还得自己向买家解释,下次再卖闲置,恐怕就不敢放心交给 Muse 了。何况 Meta 过去的隐私丑闻还没被忘记,每出一次这样的事,都容易被翻旧账。

Meta 另一个做得不错的消费产品 AI 眼镜,就已经让 Meta 尝过这种滋味。佩戴者觉得拍摄方便,旁边的人却不知道自己有没有被录进去,偷拍争议一直没停过。也是在这次 Connect 大会上,Meta 新增了不带摄像头的 Ray-Ban Meta Audio,也算给了担心隐私问题的用户一个回应。

Muse 给 Meta 带来的机会已经摆在眼前。能不能成为下一张王牌,还得看 Meta 之后在隐私安全方面的动作。接下来 Muse 到底能让多少人放心地说一句 " 这事交给你了 "?

相关阅读

最新评论

没有更多评论了

觉得文章不错,微信扫描分享好友

扫码分享

企业资讯

查看更多内容