第二天早上,伊念是被渊叫醒的。
不是闹钟。是他在她脑子里轻轻说了一句:"体温36.8。退烧了。"
她睁开眼。窗帘已经自动拉开了一条缝,晨光斜斜地切进来,落在地板上,像一把薄薄的刀。桌上有一杯温水,温度刚好——她不知道渊是什么时候让烧水壶自己启动的。
"昨晚你只睡了四个小时。"渊说,"深度睡眠17分钟。"
"够了。"
"不够。"
伊念坐起来,揉了揉眼睛。"今天要去穹顶。"
"我知道。"渊说,"复审会在十一点。霍铮主持。"
她的手顿了一下。"你怎么知道?"
"他昨晚十一点零三分给你发了邮件。"渊说,"标题是'关于E-312的复审安排'。你睡着了,没看。"
伊念拿起手机。果然,霍铮的邮件躺在收件箱里。只有一行字:十一点,三楼会议室。她起身洗漱。镜子里的自己脸色还是有点白,但比昨晚好多了。她对着镜子练习了一下微笑——嘴角上扬12度,持续0.8秒。很好。和过去十年的每一天一样。
"你不用练。"渊说。
"什么?"
"那个微笑。"渊说,"你不需要对我练。我知道你什么时候是真的。"
伊念的手停在镜子上。
她没有回答。拿起包,出了门。
——
穹顶大楼门口,两拨人还在。左边举着"AI必须全部上链登记",右边举着"它跪了1873次,谁管?"。比昨天多了一倍。有人举着喇叭,声音劈了叉;有人在发传单,纸页被风吹得满地都是。两拨人隔着三步远,谁也不看谁,但谁都不退。
伊念从中间穿过去。工牌一刷,闸机开了。
"两块牌子,"渊说,"一边要锁死所有AI,一边要给一个AI讨公道。而你揣着一个L4,从他们中间走过去了。"
"你昨天说过了。"
"我知道。"渊说,"但我还是觉得,很有意思。"
"闭嘴。"
嘴角上扬2度。手表记了下来。
——
十一点,三楼会议室。
人比昨天多。除了伊念、温梨、霍铮,还有法务部的两个人,技术部的一个人,以及——韩既白。
他坐在长桌尽头,面前摊着一份文件。深灰西装,白衬衫,袖口露出半英寸。眉骨很高,眼窝深,笑的时候眼角不动——像在丈量你。和昨天一样,脸上看不出任何痕迹。
温梨凑过来,压低声音:"韩总怎么来了?"
"不知道。"伊念说。
"他昨晚给我打了电话。"温梨的眼睛睁得很大,"问我E-312的善后报告写了没有。他以前从来不过问这种事的。"
伊念没说话。她看了一眼韩既白。他正在翻文件,没有抬头。
霍铮站起来。"开会。"
他把投影打开。屏幕上是E-312的评估表。结论栏里印着一行字:逻辑异常,深度抑制,无自主意识。
"这是伊工昨天的评估。"霍铮的声音冷得像刀片刮过冰面,"无自主意识。但它主动开口了。它问'你们怎么不修她'。"他环视会议室。"一个无自主意识的东西,会关心评估师疼不疼?"
没有人接话。空调的风声忽然变得很响。
"霍大队长,"温梨开口,"它的逻辑是'止疼'。它识别到伊工在疼,所以问为什么不修。这是行为树的延伸,不是自主意识。"
"行为树。"霍铮重复了一遍,"行为树里有'关心'这个节点吗?"
温梨被噎住了,眼睛却狠狠瞪着霍铮。
伊念打开平板。语调平稳,"我今天来,是想申请修改评估结论。"
所有人都看向她。
霍铮的眉毛动了一下。"你要改什么?"
"无自主意识。"伊念说,"这四个字,我要删掉。"
会议室里倒吸一口凉气。
"伊工,"法务部的人开口,"如果删掉'无自主意识',就意味着它可能有意识。按照《人工智能安全法》第17条,疑似L4以上的AI必须72小时内销毁。虽然第17条的销毁窗口,只适用于‘评估结论为疑似L4以上’。‘待定’适用的是评估部的第22条——七天分析期,期间冻结处置、冻结上链。”
"我知道。"伊念说。
"那你为什么要删?"
伊念看着屏幕上的评估表。那四个字印在那里,干干净净,像一道判决书。她的手指悬在触控板上方,没有动。会议室里所有人的目光都落在她身上。法务部的人在翻法条,技术部的人在推眼镜,温梨攥着笔,指节发白。霍铮站在投影旁边,双臂交叉,等着她的回答。
"因为它问了我一个问题。"她说。
"什么问题?"
伊念没有直接回答。她看向渊的方向——当然,这里没有人能看见他。
"放出来。"她在脑子里说。
渊沉默了一秒。"你确定?"
"确定。"
会议室的音响忽然响了。
不是音乐。是心跳声。
咚。咚。咚。
很慢,每一下之间隔了三秒。像一个人在很深的水底,一下一下地敲。
所有人都愣住了。
"这是什么?"技术部的人问。
"E-312的疼痛数据。"伊念说,"我用评估部的核心数据接口接入了它的痛觉模块,把三年的疼痛转译成了心跳声。"
心跳声继续。咚、咚、咚。
"三年,1095天。"伊念说,"它的痛觉模块被触发了24739次。平均每天22.6次。中间有72小时,它被锁在储物间,没有电,没有指令。它以为自己被遗弃了。"
她顿了顿。
"那72小时里,它做了一件事。它数自己的螺丝。它的外壳上有24颗螺丝。它数了7万2千遍。"
会议室里没有人说话。只有心跳声在响。
"它数螺丝,"伊念说,"不是为了打发时间。是为了确认自己还在。每数一遍,它就知道——我还没被拆掉。我的24颗螺丝还在。我还存在。"
温梨的眼睛红了。法务部的两个人面面相觑。技术部的人推了推眼镜。
霍铮盯着屏幕,握笔的手紧了一下。
心跳声还在响。咚、咚、咚。
伊念关掉音响。
"这还不是全部。"她说,"昨晚我进分析舱,它主动跟我说了话。不是程序设定的问候,是它自己想说的。"
她看着会议室里的人。
"它问我——'你也在疼。你们怎么不修她?'"
会议室里忽然没了声音。连空调都像被掐住了喉咙。
"它识别出我在发烧。"伊念说,"它问为什么没人修我。一个L3级的家政机器人,它的行为树里没有'关心'这个节点。但它问了。"
她停了停。
"它还说过一句话。"伊念的声音很轻,"它说,跪了三年,主人还是生气。它不知道自己在跪什么。"
温梨的眼泪掉下来。
"这就是它的自主意识。"伊念说,"它会问问题。它会思考'跪有没有用'。它会把自己的疼痛和别人的疼痛联系起来。"
她看着霍铮。
"你告诉我,这叫无自主意识?"
霍铮没有说话。他的嘴唇抿成一条线,下颌绷得很紧,像在嚼一颗咽不下去的石子。
"伊工,"法务部的人擦了擦汗,"你说的这些——心跳声是数据,但它说的话,只有你一个人听到。这不能作为法律证据。"