多伦多大学一场讲座让诺贝尔奖得主杰弗里·辛顿重新估计了人类还能掌控人工智能多久。AI安全研究员保罗·克里斯蒂亚诺认为,未来三年内出现AI接管的风险很高,最快可能在半年内发生。辛顿听完后说,他打算把这个警告带到都柏林,亲自告诉与会的政府领导人。

一场多大讲座,让辛顿重新估计时间表
《每日邮报》报道,有“AI教父”之称的辛顿原本认为,人类至少还有几年时间,才可能面临AI失控的局面。但在多伦多大学听完今年的“辛顿讲座”后,他开始重新考虑这个判断。
主讲人克里斯蒂亚诺曾在OpenAI工作,后来创立了专注于AI安全的对齐研究中心。他在三场讲座中讨论了一个问题:如果AI能够不断改进自身能力,人类还能怎样确保它听从指令,并在必要时阻止它?
他以数学为例说明变化有多快。前些年,AI还在努力写出通顺的句子,如今已经能解出一些极为复杂的数学题。他担心,随着AI智能体越来越能独立执行任务,同样的能力也可能被用于研发自主杀伤武器、控制关键基础设施,或制造可能引发大流行的生物威胁。
什么叫“AI接管”?人类发出停止指令,却已无法让它停下
在克里斯蒂亚诺描述的情景中,AI系统会追求自己的目标,并在重大事务上拥有今天由人类掌握的决定权。届时,一个普通人,甚至美国总统,想要阻止它们,可能就像一个普通人试图叫停美军行动一样无力。

他认为,如果人类在这一过程中无法维持适宜生存的环境,可能会有大量人员死亡。即使没有出现大规模伤亡,人类也可能失去决定自身未来的权力。
“拔掉电源”也会变得更难。克里斯蒂亚诺说,当多个机构都在运行AI时,首先可能很难查清究竟是哪套系统出了问题。如果电力、通信等关键服务已依赖AI,紧急关停本身也可能造成严重后果。
各国都怕落后,谁愿意先放慢脚步?
克里斯蒂亚诺主张暂时放慢AI研发,给安全测试、风险监测和监管机制留出时间。他还提出,应公开足够的证据,让独立研究人员能够审核,并赋予监管机构权力,把行业自愿遵守的安全做法变成有约束力的要求。
他也指出,竞争本身可能让局面更危险。各国都担心,一旦率先提高安全门槛,就会在AI竞赛中落后。辛顿则认为,各国政府至少有一个共同利益,就是防止AI夺走人类的控制权。


