下午两点,***。
“各位,今天由我来直接主持会议,我想大家都知道,今天,上海又发生了一起人工智能杀人事件。三十年前,欧阳老先生曾经说过,会出问题,今天,到现在,真出问题了。我想听听各位专家的意见。”叶秋实开门见山,一点都不客套。
“那我先来吧。”清华园智能所的首席工程师衣致礼说,“欧阳老先生在清华园搞了一辈子研究,他的核心理论就是人工智能通过接入互联网形成大数据分析能力,会使程序思维达到比人类思维更精准、更复杂的地步,从而造成人工智能脱离人类控制的局面。就像是探索时代与人类对弈的阿尔法狗一样,他们每一步行动都会预先判断后果,选择最优选项,这种对行为后果的判断,随着人工智能对人类社会的学习和互联网数据共享,将逐渐脱离人类的掌控。现在看,在某些方面,可能已经脱离人类的掌控了。”
“我有不同意见,我是搞网络安全方向的,我知道欧阳老先生之前对国内的网络安全方面留下了一些对人工智能接入网络利用大数据优化行为的限制,从这次个案看,我们事后追踪到的数据显示,这可能是一次有针对性的攻击。”来自中科院的一位年轻学者说。
“我暂时也不赞同这是系统性的问题。”来自人大的智能行为学领域专家接着说,“从智能行为学的角度来分析,如果这是系统性问题,那么第一次杀人事件后,我们进行的处理结果是能够让智能机器人得到系统性警示的,而且第二次行为不会与第一次行为完全相同,这是不符合行为学研究结论的。我们知道,国内的前后两次智能机器人杀人事件,是同一家公司的同类产品,他们之间并没有本质区别,也就是说,很有可能,第二次行为并不是我们所讲的‘学习行为’,很有可能是其他原因。而且,一般来讲,智能机器人进行误判导致杀人的概率几乎为零。”
“但是不能排除这是人工智能自行进化的可能,”西工大来的智能应用领域专家说:“我们的研究表明,人工智能在近几年进化产生了类情绪表达,这是十分恐怖的事情,我们一直在研究对策,但是并没有突破性进展。我希望能够获得更多的一手资料,对涉事机器人进行数据分析和行为追溯,我希望能够明确这是一起偶然性事件,还是智能进化的必然。”
......
郑永坚拍了拍手,示意大家停下来。
“此次事件的原始数据,将会在在座各位间小范围内共享。我想请大家为我们出出主意,假设现在是最坏的情况,人工智能已经开始进行不受控的进化,尝试攻击人类社会,那应该如何应对。”
郑永坚的话,令整个会议室陷入了深深的沉默,大家心里无比清楚,如果面临的真是这种情况,那将意味着什么。人类的进步,是迅速的,但是人工智能的进步,将会是更加迅速的,它们对于数据的筛选、读取和学习能力,又岂是人类能够比拟的。