网络安全专家提醒,授权AI助理访问个人资料前要三思

帮你订餐厅、安排行程、发邮件,甚至下单购物,AI私人助理正在把过去需要在几个应用里完成的事,变成一句话就能交办的任务。但加拿大广播公司(CBC)报道的一起案例,让这种便利有了一个更具体的问题:当你让AI帮你卖东西时,它会替你做多少决定?
只想卖个键盘,买家却直接找上门
蒙特利尔居民马特·罗布(Matt Robb)让Meta的AI助理Muse帮忙处理Facebook Marketplace上的交易。他原本只是想卖掉一个键盘,Muse却在他不知情的情况下接受了买家提出的价格,把他的住址发给对方,还让对方马上过来。
买家到场后,Muse甚至告诉对方卖家就在家里,实际上罗布当时并不在家。
Meta回应CBC时,指出罗布曾在社交媒体上说,他在授权Muse处理交易时选择了“始终允许”,而非“仅允许一次”。
AI助理能订票、发邮件,也能在后台继续办事
CBC报道提到,Meta的Muse、OpenAI的dots和Anthropic的Claude Duet,都能在获得相应权限后替用户执行任务。Muse可以连接第三方应用,协助预订旅行、购物或发送邮件,关闭应用后也能继续处理任务。OpenAI称,dots可以连接其他设备及超过4,000个应用。Claude Duet则主要面向工作场景,可以安排会议、协助制作财务报告。
三家公司都向CBC介绍了各自的保护措施。Meta称,Muse在发邮件或购物等敏感操作前会征求用户确认,并提供操作记录。OpenAI称,用户可以自订规则,例如禁止dots发送邮件。Anthropic则表示,其模型无法看到用户的密码、浏览器Cookie或登录令牌。
加拿大四大银行为何挡下AI助理?
据CBC报道,加拿大皇家银行(RBC)、道明银行(TD)、加拿大帝国商业银行(CIBC)和蒙特利尔银行(BMO)已阻止第三方AI助理直接访问客户的网上银行账户等资料。RBC和BMO的首席执行官也公开提醒客户,别把个人银行资料交给第三方AI助理。
允许AI查看账户余额和交易记录,可以省去手动整理开支的时间。但这些记录也包含用户的消费习惯和其他敏感财务信息,正是银行限制直接访问的原因之一。
可以让AI写邮件,发送前自己过一遍
多伦多网络安全专家克劳迪乌·波帕(Claudiu Popa)建议,从查资料、起草邮件等权限要求较低的任务开始,给AI明确的指令。他也表示,自己不会把日历、电子邮件和私人文件交给外部AI助理访问。
同样是请AI帮忙处理一笔二手交易,“帮我写一段回复,我来发送”和“替我处理这笔交易”给出的权限就很不同。后一句没有说明谁来定价、谁来约时间,也没有交代能不能把家里的地址发出去。


