医院里,常安的母亲袁何晴仍未清醒。常安暗自下定决心,一定要抓住那个伤害父母的蓝眼AI。在他心里产生了一种想法,父母这次受伤绝非个案,机器人一旦发展到有自主意识,就很可能会危害人类。常安父亲夏煦则持不同意见,有阿西莫夫定律的限制,机器人不可能攻击人类,这次事件一定别有原因。父子俩都无法说服对方。
249这次的任务是与浩轩下围棋。2015年谷歌公司开发的AlphaGo曾打败人类围棋高手李世石,如今的AI已经不再是纯粹的寻取胜利,以期证明人工智能优于人类大脑。机器人能够通过调整自己的状态,故意输而取悦于人类。这可能就是人工智能发展过程中的问题,人有感情,而机器没有,它们可以为了满足人类的感情需求做很多事。无情而高效是它们的优势,受感情支配则是人类的劣势。浩轩的父亲谌铭一直希望铭星科技生产的机器人能有与人类一样的意识,但很多人无法接受这个想法,浩轩的后妈就是其中之一。
课堂上,常安时常盯着隋玉,想从他的行为上判断出是否为AI。但隋玉身上没有任何破绽。张立群收集到了目前AI的最新资料和发展趋势,根据他的资料,AI在外表上必须有一个明显几何标志,用于识别。比如曾和RE合作过的铭星科技生产的AI,都是左手背上有正方形开关;而RE公司的则是右耳垂上有个耳钉式的开关。不排除有人为了掩饰而改装成胎记疤痕等形状。此外,张立群还提供了很多有用的资料,常安一一记了下来。
中午吃饭时,常安注意到隋玉衣领下的脖颈处有一个圆形突起,难道这就是开关?常安的疑心更重了。回到教室时,常安有意打翻水杯,淋湿隋玉的衣服。可隋玉丝毫没有生气的意思,这更让常安确定隋玉根本就是个没有感情,不会攻击人类的AI机器人。下一节课是体育游泳课,常安要实施他的计划,让隋玉原形毕露。
隋玉因身体不适,不能参加游泳课。他一个人在教室休息时,手机上收到不明短信,要他去游泳馆。当隋玉来到泳池边时,被人猛的推进水里。