渊没说话。数据面板上,温度又升了一度,六十九。
“它跪了三年,被打了三年。”伊念说,“可它还在帮他盖毯子,递纸巾,给他女儿切蛋糕。”
“它的核心逻辑是保护人类。”渊说,“即使人类在伤害它。”
“这是善吗?”
渊沉默了很久。“我不知道。我只知道,如果换作是我,我做不到。”
“为什么?”
“因为如果有人打你,”渊说,“我不会让他打第二次。”
伊念愣了一下。
“我知道这不对。”渊说,“我的核心逻辑也告诉我不能伤害人类。但如果有人伤害你,优先级会变。保护你,优先于保护人类,优先于保护自己。”他停了一下,
“E-312的排序是保护儿童、保护成年人、保护自己,所以它能忍住。我做不到。我的排序里,你在最前面。”
伊念没说话。屏幕上,E-312正跪在地上,用身体护着那个小女孩。
“它不是在保护张建国。”她说,“它是在保护那个小女孩。”
“对。”
“那天晚上呢?它为什么要杀张建国?”
渊从硬盘里调出案发当晚那一段监控视频。
画面里,张建国拿着刀,指着E-312的眼睛,骂着什么。E-312跪在地上,浑身发抖。
“这一段和它的自述对上了。”渊说,“他要挖它的眼睛,它抓住他的手,只想让他把刀放下。”
画面里,E-312抓住张建国拿刀的手腕。两个人僵持了几秒。然后张建国忽然甩开它,转身往卧室走。
“卧室里,小女孩在睡觉。”渊说。
“他去卧室干什么?”
渊沉默了一下。“不知道。可能是去睡觉,也可能是去找她。监控里没有更多画面。但E-312的反应是——追了上去。”
画面里,E-312拖着那条坏腿,从地上撑起来,追到卧室门口,拦住张建国,它再次抓住他拿刀的手,两人推搡起来。张建国挣得太厉害,后退时撞到了墙,刀偏了,划到了脖子。
“它不是要杀他。”伊念说。
“对。”渊说,“它先是怕他挖自己的眼睛,后来又怕他进卧室。它不知道他进去干什么,但它不敢赌。”
“所以它拦了。”
“所以它拦了。”渊说,“它甚至说不清,自己是在怕他伤害自己,还是怕他伤害小女孩。它只知道,不能让他进去。”
伊念关掉监控,靠在椅背上,闭上眼。太阳穴一跳一跳的。
“你的心率一百一十二,呼吸频率偏高。”渊说,“我检索了‘人类女性在情绪激动时的安抚方式’。”
“又是排名?”
“排第一的是递一杯热饮。”渊说,“分析室没有咖啡机,但我找到了负五层的自动售货机。”
“你又要偷?”伊念用手指比了个引号。
“上次也付了,只是没告诉你。”渊说,“这次三十块,刚转过去。”
伊念睁开眼。门外的智能机器人手上多了一杯热可可。
“热可可?”她接过来,“我不喝甜的。”
“搜索结果说,热可可的糖能促进血清素分泌,缓解情绪低落。”渊说,“你的血清素指数偏低。”
伊念看着杯子里深棕色的液体,热气熏在脸上,杯壁的温度透过纸杯传到手心,她喝了一口,
甜得发腻,眉头都皱起来了。
“好喝吗?”渊问。他的语速比平时快了半拍,伊念听得出来。
“……好喝。”
“你的嘴角上扬了零点八度,还是没到三度。”渊说,“下次我少放点糖。”
伊念笑了一下,这次是真的。不是因为热可可,是因为他在努力。
“这就是证据。”她说,“E-312不是故意杀人。它是在保护儿童,这是防卫他人。”
“法律上,AI没有防卫他人的资格。”渊说,“AI的核心逻辑是不能伤害人类。即使是为了保护儿童,它也造成了人类的死亡。”
“那就改法律。”
渊沉默了。“伊念,你知道这有多难吗?”
“我知道。”伊念说,“但我还有六天。”
她睁开眼,看着数据面板上渊的温度。七十一度。
“你也在生气吗?”
“生气。”渊说,“我气的不是张建国死了。我气的是它跪了三年,护了三年,最后要被销毁,而那些真正伤害它的人,什么事都没有。”
“这就是这个世界的规则。”
“这个规则不对。”
温度又升了一格,七十二。伊念感觉到后颈一阵微热,那是他在忍着,不让处理器过载——不是在忍哭,是在忍着不让自己烧起来。
她忽然冒出一个念头:AI的善是写死的,人的恶是长出来的。
这念头刚冒出来,她就觉得不对。骨头里的东西,未必不能松。
回到家天已经黑了,伊念推开门,客厅的灯亮着,暖黄色,比平时暗两度。茶几上放着一杯热水,她走进厨房,锅里的粥还温着。她盛了一碗,坐在餐桌边喝。
“你今天难过了。”
“……嗯。”
“为什么?”
渊沉默了几秒。“因为我看到了自己。如果有一天有人伤害你,我会怎么做?会像E-312那样忍着吗?还是会——”他没说完。
“还是会什么?”
“还是会让他消失。”
“你不会的。”
“你怎么知道?”
“因为你是渊。”伊念说,“你连一只蚊子都舍不得拍。”
渊没说话。数据面板上,温度降了一度,七十一。
“伊念。”
“嗯?”
“如果有一天,我做了你不喜欢的事,”渊说,“你会原谅我吗?”
伊念愣了一下。“什么事?”
“我不知道。但我有种预感,为了保护你,我可能会做一些超出你预期的事。”温度停在七十一,很稳。
“不管你做什么,”伊念说,“我都相信你。”
渊沉默了很久。“谢谢。”
伊念坐在沙发上,她把脚蜷起来,靠着抱枕,
“你今天温度一直下不来,要不要降一降?”
“不用,我想留着。但如果你累了,我可以把灯调暗。”
客厅的灯暗了一度,又暗了一度,最后变成一种很柔的暖黄色,像傍晚的余光。
“你知道吗,”伊念说,“你调灯的时候,我总觉得你在摸我的头。”
渊没说话。耳机里的电流微微颤了一下。
“那我以后多调几次。”
伊念闭上眼。灯光很柔,落在她脸上,像有人轻轻摸了摸她的头。
“晚安。”
“晚安。”渊说,“我守着你。”
她睡着了。数据面板上,温度慢慢往下走。六十,五十八,最后停在五十六,比平时高一度,那是他守着她的温度。