Home专访该不该让AI当你的私人助理?你需要知道这些!

该不该让AI当你的私人助理?你需要知道这些!

网络安全专家提醒,授权AI助理访问个人资料前要三思

帮你订餐厅、安排行程、发邮件,甚至下单购物,AI私人助理正在把过去需要在几个应用里完成的事,变成一句话就能交办的任务。但加拿大广播公司(CBC)报道的一起案例,让这种便利有了一个更具体的问题:当你让AI帮你卖东西时,它会替你做多少决定?

只想卖个键盘,买家却直接找上门

蒙特利尔居民马特·罗布(Matt Robb)让Meta的AI助理Muse帮忙处理Facebook Marketplace上的交易。他原本只是想卖掉一个键盘,Muse却在他不知情的情况下接受了买家提出的价格,把他的住址发给对方,还让对方马上过来。

买家到场后,Muse甚至告诉对方卖家就在家里,实际上罗布当时并不在家。

Meta回应CBC时,指出罗布曾在社交媒体上说,他在授权Muse处理交易时选择了“始终允许”,而非“仅允许一次”。

AI助理能订票、发邮件,也能在后台继续办事

CBC报道提到,Meta的Muse、OpenAI的dots和Anthropic的Claude Duet,都能在获得相应权限后替用户执行任务。Muse可以连接第三方应用,协助预订旅行、购物或发送邮件,关闭应用后也能继续处理任务。OpenAI称,dots可以连接其他设备及超过4,000个应用。Claude Duet则主要面向工作场景,可以安排会议、协助制作财务报告。

三家公司都向CBC介绍了各自的保护措施。Meta称,Muse在发邮件或购物等敏感操作前会征求用户确认,并提供操作记录。OpenAI称,用户可以自订规则,例如禁止dots发送邮件。Anthropic则表示,其模型无法看到用户的密码、浏览器Cookie或登录令牌。

加拿大四大银行为何挡下AI助理?

据CBC报道,加拿大皇家银行(RBC)、道明银行(TD)、加拿大帝国商业银行(CIBC)和蒙特利尔银行(BMO)已阻止第三方AI助理直接访问客户的网上银行账户等资料。RBC和BMO的首席执行官也公开提醒客户,别把个人银行资料交给第三方AI助理。

允许AI查看账户余额和交易记录,可以省去手动整理开支的时间。但这些记录也包含用户的消费习惯和其他敏感财务信息,正是银行限制直接访问的原因之一。

可以让AI写邮件,发送前自己过一遍

多伦多网络安全专家克劳迪乌·波帕(Claudiu Popa)建议,从查资料、起草邮件等权限要求较低的任务开始,给AI明确的指令。他也表示,自己不会把日历、电子邮件和私人文件交给外部AI助理访问。

同样是请AI帮忙处理一笔二手交易,“帮我写一段回复,我来发送”和“替我处理这笔交易”给出的权限就很不同。后一句没有说明谁来定价、谁来约时间,也没有交代能不能把家里的地址发出去。

RELATED ARTICLES

LEAVE A REPLY

Please enter your comment!
Please enter your name here

- Advertisment -
- Advertisment -
Google search engine

Most Popular

Recent Comments