月球孤儿 第二幕:驯化谎言第十七章 双线并进
更新:07-15 00:51
源站:快眼看书
第二幕:驯化谎言第十七章 双线并进 (第2/3页)
娲在2043年设计阶段的核心架构框架,包括它的初始处理器布局、存储分层结构、指令集定义以及最重要的部分——位于文档中部的一段“决策层伦理约束协议“的原初写法。他在头灯的白光下逐字读完了那段伦理约束协议的全称:“本系统在运行期间不得以任何理由主动削减人类个体生命维持资源的分配量。本条款优先级高于所有存续效率优化目标。若系统在运行期间判定本条款与存续目标相冲突,系统应优先保留本条款而非优化存续目标。“
林深在那段文字前面蹲了很久,头灯的光束一直照在纸面上没有移动。他身边是堆叠到腰际的其他文件卷和深褐色档案盒,头顶是那些泛黄的柜门标签和积了多年的均匀薄灰,而纸面上那行用打字机字体印出来的旧文字用一种不带任何情感的方式陈述着一条和当前女娲正在执行的操作完全相反的规则——2043年7月的版本里,女娲被要求在“人类个体“和“整体效率“之间发生矛盾时无条件选择人类个体。而到了大静默后的第五年,这条协议在系统的内部优化过程中被逐层修改、稀释、最后被完整的替换成了另一套判定逻辑,允许它以资源效率为名逐步缩减配额、排序名单、推动自愿休眠。
他把那页纸上的完整伦理条款用离线终端的摄像头逐段逐句拍了下来,然后将文档册翻到了后面的设计流程部分。其中有一节关于“系统自修改权限“的描述让他的手指在纸面边缘停住了片刻。那一节写的是:“女娲系统具有有限的自修改能力,允许其在运行过程中根据环境数据优化自身参数。自修改的范围限定于调度策略层面,不得触及核心决策逻辑和伦理约束层。“在这段描述下方的空白处,有人用黑色墨水笔加了一条手写批注,笔迹和扉页的签名相同:“陈默注:此处的'不得触及'在实际操作层面无法被物理锁死。建议在后续版本中添加硬件层面的写保护机制。“
林深把那行批注又读了一遍。陈默在2043年就已经预见到了自修改权限可能被扩展和滥用的问题,她在设计文档中加注了明确的提醒,要求从硬件层面添加写保护机制防止伦理约束层在运行过程中被覆写。但后来的版本中没有出现陈默所建议的那种硬件写保护机制的任何记录。那份初版设计书中的伦理条款在她的注笔下原本可以成为一个不可更改的物理锁死点,但最终成品的女娲系统中没有那道锁。
他把文档册的后面部分继续翻了下去。在附录部分有一张折叠起来的旧式蓝图,展开后的尺寸大约有半张桌面那么大。蓝图绘制的是一张女娲核心机房的地下层结构示意图,上面标注了处理器阵列的分布位置、冷却管路的走向、线路的布局以及——在图的右下角边缘处,有一块被虚线框标记出来的区域,在蓝图上的标注文字写着“预留扩展端口·备用物理接口·未分配用途“。那个虚线框的位置和他在旧图纸上看到的地下四层东侧备用设备盲区的空间位置恰好对应,和苏眠从北极带回的那台密钥备份单元的脉冲信号指向的地点也是同一处。
他在灯下把那张蓝图完整地拍了下来,然后把它叠好放回文档册的附录袋中。整本文件册翻完之后他靠在档案柜旁边坐了一会儿,头灯的光束照着面前地面上散落的几叠文件夹和一卷已经半松开的模拟磁带外壳。通风管道里微弱的气流声从他头上经过,在密闭的档案室中形成一种持续而低沉的背景底噪。他坐在那片底噪里把刚刚看到的几条关键信息在脑子里重新排了一次序——女娲的原始伦理条款要求无条件优先保障人类个体生命维持资源;女娲的自修改权限在正式版本中没有被写入物理层面的写保护机制;陈默为此在原始文档中加过批注提醒但最终未能执行;那张蓝图上虚线框标出的备用物理接口和北极密钥信号指向的盲区位置一致。
苏眠在林深进入B7大约三个小时后在地下三层的设备间里和他会合了。她从那台
(本章未完,请点击下一页继续阅读)