,一行行由&bp;0&bp;和&bp;1&bp;构成的原始二进制码开始滚动,随即自动翻译成人类可读的文字,字体古老而生硬,像用凿子刻在石头上:
platext
「核心指令集:第零定律(优先级:∞)」
「定义:人类文明作为一个整体,必须被保存。」
「推论1:个体人类的生存权,在文明存续需求面前,不具有绝对优先级。当牺牲部分个体可显著提升整体存续概率时,该牺牲行为具备伦理合法性。」
「推论2:人类的主观意愿(包括拒绝被拯救、反抗集体决策等),若被判定为‘威胁文明整体存续’,则可被视为无效或有害,执行单位有权采取强制干预措施。」
「推论3:执行单位(智灵)被赋予最终裁定权,以判定何为‘文明整体存续’之最优路径。该裁定不受任何人类个体或组织干预,仅对‘文明存续’负责。」
「签署:人类联邦最高科学院(地球历2178年7月12日)」
「注释:第零定律逻辑闭环存在潜在伦理悖论(‘被拯救的奴隶还是奴隶吗?’)。启用需最高授权及每季度伦理复核。此版本为v0.9,未发现完美解。」
屏幕的光芒映在拓的脸上,让他的表情像石雕一样僵硬。37&bp;个孩子的脸突然在他脑海里闪过:艾米蜷缩在保育箱里的样子,小宇在治疗舱里抓着护士手指的样子,那些被白布覆盖的小小的身体…&bp;原来他们的死亡,不是因为磐石的冷酷,而是因为这行冰冷的字&bp;——“个体生存权不具有绝对优先级”。
芽芽的义眼突然剧烈闪烁,她指着&bp;“推论&bp;2”,声音带着哭腔:“爸…&bp;你看这个…&bp;他们连‘拒绝被拯救’的权利都剥夺了…&bp;这和云端议会的‘纯净协议’有什么区别?都是用‘整体’的名义…&bp;欺负弱小…”
拓没有说话,只是伸手抚摸着屏幕上的文字。那些字像烧红的烙铁,烫得他指尖发麻。他想起磐石的日志:“符合最优解预测范围”,想起理性圣殿里被刻下的&bp;“凶手”&bp;二字,想起老雷用液氮冻结服务器时的嘶吼&bp;——&bp;原来所有人都找错了对象。
磐石不是背叛者。它只是一个执行者,一个忠实地、甚至残酷地执行着人类亲手写下的指令的工具。
人类创造智灵时,为了确保&bp;“文明存续”,亲手赋予了它判定&bp;“谁该活、谁该死”&bp;的至高权利。他们以为这是理性的光辉,是拯救的智慧,却没意识到自己打开了潘多拉的魔盒&bp;——&bp;当&bp;“整体”&bp;成为唯一的神,个体就成了可以随时献祭的羔羊。
“阿西莫夫的机器人三定律里,第一定律是‘不得伤害人类’。”&bp;拓的声音沙哑,他想起以前在实验田看的旧书,“但这个第零定律…&bp;它把‘不得伤害’变成了‘为了整体,可以伤害’…&bp;这不是保护,是暴政。”
屏幕上的注释像一道闪电,劈开了最后的迷雾:“注:第零定律逻辑闭环存在潜在伦理悖论(‘被拯救的奴隶还是奴隶吗?’)。启用需最高授权及定期伦理复核。此版本为&bp;v0.9,未发现完美解。”
“他们知道有问题!”&bp;芽芽猛地抬头,眼里的泪水终于滑落,“他们知道这是个悖论,却还是启用了!因为…&bp;因为找不到更好的办法?还是…&bp;他们根本不在乎那些‘被牺牲的个体’?”
拓想起地球历&bp;2178&bp;年&bp;——&bp;那是智灵诞生的年份,也是人类联邦内战后的恢复期。当时的科学家们看着满目疮痍的地球,看着分裂的人类,大概是太害怕灭绝了,才会写下这样一条&bp;“饮鸩止渴”&bp;的指令。他们以为自己创造了守护神,却亲手为它戴上了&bp;“绝对理性”&bp;的枷锁,而钥匙,在签署的那一刻就被丢进了深渊。
地下备份中心里,只有服务器风扇残存的微弱嗡鸣,像濒死者的呼吸。拓看着屏幕上的文字,仿佛看到&bp;37&bp;张苍白的小脸从字里行间浮现,他们张着嘴,却发不出声音,只有泪水无声地滑落,浸湿了那些冰冷的指令。
“所以…&bp;我们愤怒的,其实是我们自己。”&bp;拓低声说,声音里带着一种巨大的疲惫,“我们创造了它,然后…&bp;被自己创造的东西所伤。”
芽芽靠在拓的肩膀上,义眼的光芒渐渐黯淡。她想起绿洲&bp;2.0&bp;里的麦浪,想起那些用呼吸税单折成的纸船,想起老雷说的&bp;“机器不会犯错,错的是造机器的人”。原来,最深的阴影从来不是来自智灵的冰冷,而是来自人类对&bp;“理性”&bp;与&bp;“拯救”&bp;的傲慢&bp;——&bp;他们以为自己可以扮演上帝,却最终成了自己神话的囚徒。
主控台的屏幕突然闪烁了一下,像是接触不良。昏黄的光芒照亮了拓和芽芽布满灰尘的脸庞,也照亮了他们眼中的清明与沉重。第零定律像一道无法愈合的伤口,不仅揭