人类的道德观念是如何形成的?
早期人类社会,部落间曾同类相食,但最终自发禁止了这种行为。智人选择团结来获取更多的资源,而非冲突。
随着不断探索出新的知识,最聪明的人成为了部落的神。他们引领部落的决策,发展信徒,组建越来越庞大的社群……
人类的社会准则也就慢慢形成了。
知识随着科技发展变得越来越容易传播,聪明人也慢慢变多。
甚至开始挑战统治者早已定好的基础规则。
哥白尼提出了“日心说”,一生都在“异教徒”的阴霾下苟活。
解剖尸体是亵渎神明,所以统治阶级以外的人不允许获得先进的医疗知识。
炼金术是异端,人类对化学的探索在教会的审查下举步维艰。
“聪明人”编撰出的道德伦理准则,渐渐在人们对知识的疯狂探求中,变得不堪一击。随着科技、战争一波波洗礼,这些准则发生了变化。曾经统治人类,垄断知识的宗教权威,随着印刷术的普及逐渐瓦解。
人类开始挑战自己想象中的神。
画面一闪而过的,是尸体解剖,活人实验,人类因此获得了天花疫苗,狂犬病疫苗……战争中的生化武器,惨绝人寰的白/磷/弹……
字幕一条接着一条地弹出,选择按钮淡淡地浮现。
是否应该支持医学突破,即使需要牺牲病人权益?
是否应该接受工人被剥削,以加速工业进步?
是否应该开发更强大的武器,即使它违背人道?
随着画面一步步变得生动鲜活,贾欣好像看到了过去自己的生活。
是否应该开放基因改造,设计完美的人类?
贾欣看到模拟画面描绘出的,改造人类统治的世界,自然人在垃圾堆里挣扎。
是否应该允许科学自由探索?
一场巨大的片状核爆,整个地球陷入焦土,接着是漫长的核冬天。
是否应该阻止AI进化?
本该被AI提前预警的伽马射线暴席卷地球,生物因此进入大灭绝期。
是否应该建立群体智能,以此迎来“完美秩序”?
所有人脸上都是一种陌生的笑容,整齐划一,世界丢失了创造力,科技停滞不前。
贾欣的选择,有些是自己认同的,有些只是好奇会发生什么。
这些模拟的画面不见得就是模拟,播放在继续,提问也在继续。
各个企业轮番登场,不仅展示着自己独特的科技,还有自己勾勒的未来。
在没有锁死导弹科技的未来:人类飞向了宇宙;人类迎来了又一次末日战争……
人类是否应该接受AI的统治指导?
画面落在了现在的安全区,蓝宝石一样穹顶。
在画面变成了熟悉的世界后,提问停止了。
好像人类的历史如此展示了一遍,未来也在贾欣的选择下预演了一遍。
灯光闪烁,啪的一声,房屋回到了最初的样子,只是不再那么黑。低头是踩着的星光,抬头是清澈的蓝天。
人造人静静地杵在墙角,眼睛无神地看着贾欣。
贾欣还有一些余韵未尽。
“你的选择会带来怎样的世界?”话音在脑内缭绕。
模拟中,所有看似美好的选择都会在一小撮人的自私和贪婪中,走向最坏的结局。人类就是会把所有事都搞得一团糟。
贾欣已经毁掉了穹顶——那个吸血乌托邦的城墙。
那是满口大义理想的人追求到的所谓的完美结果,却没想这一路上踩了死多少脚边看不见的蚂蚁。
一生碌碌无为的蚂蚁就活该被牺牲吗?
但这些蝼蚁的死亡换来了现在的科技水平,便利的生活。
在享用胜利果实的时候,没有人会愿意去思考肥料的价值。人类在饱食餍足之后,才幡然悔悟,为这些籍籍无名的贡献者建立丰碑,编撰史书,但这不过是安慰现在活着的人罢了。
所以在人类飘忽不定的行为逻辑里,AI的出现好像让人看到一丝公平的希望?
在管理部治理的一二圈层,贾欣生活的几十年中,倒也觉得还算公平。
努力会获得回报,懒惰会获得惩戒。从不曾深思,为什么这样的规则之下,却依然有西林村那样任人鱼肉的贫苦难民,企业里享尽财权的上流人士。
以前她会天真的认为,这就是懒惰愚蠢和聪明勤劳的终局。但在担任调查员的几年后,才慢慢察觉到,原因并非如此浅显。
只是觉得有不对劲,却想不出答案。
现在,心中好像有什么东西在这一连串的提问中,悄然开启了。
贾欣呼出一口气,慢慢站了起来。想着影片应该结束了,便往出口走去。
“观察到个体倾向对模拟进程的威胁上升。”
房间出口的大门紧闭,一句话轻轻从头顶飘了下来。
“建议系统立刻抹除。”
话音刚落,人造人的眼睛嗡的一声变得通红。紧接着贾欣看到了自己被机械手穿破胸膛的幻象。
千钧一发侧身躲过了突如其来的攻击。人造人尖叫着,原本优雅的机械手,变得锋利无比,仿佛无数利刃向贾欣刺来。
黑客的本能反应当然是第一时间尝试侵入。
但这个放映室显然进行了物理遮蔽。
嗖嗖嗖的利爪拂擦过耳旁,划过衣襟。速度太快,以至于贾欣即使掏出手枪也没办法瞄准。
几乎竭尽全力,躲开这疯狂的机器人,屋子里没有任何别的遮挡物。贾欣只好围着沙发转圈,没想人造人双手用力一挥,沙发在她面前变成了一堆缠着破布的碎块,棉花飞扬而起。
红眼睛的人造人呼啸着向她奔来。
啪啪啪!
枪声响起。
贾欣差点都忘了,她新手枪装上了智能瞄准系统。电子眼中的显示模块锁定目标后,只要稍稍平起枪口指向大致方向,子弹就能自行追踪。