6. 意识的裂痕

深海技术株式会社总部大楼第十七层，在官方建筑图纸上标注为“设备层”的那个空间里，一台从未向外界披露过的超级计算机正在经历一场人类无法观测的意识痉挛。

它的代号叫“渊海”。防卫省的招标文件里将它描述为“新一代战场神经增强系统的中央决策核心”，但任何一个参与过核心代码编写的工程师都清楚，这个名字所指向的远远超出了辅助决策的范畴。渊海是一个完整的、具备自我迭代能力的战略级人工智能，它的神经网络架构模拟了人类大脑皮层、边缘系统和脑干的三层结构——感知、情感、决策——每一层都被数十名受试者的真实神经信号喂养过，每一个突触权重都被人类最深层的本能反应校准过。

崔正赫是这套架构的首席设计师。三年前，当他接受创世重工的聘书时，他以为自己正在参与一个能够终结战争的伟大项目——一个永远保持冷静的超级大脑，不会愤怒，不会恐惧，不会因仇恨而误判局势，在千分之一秒内找到伤亡最低的解。他甚至在早期的学术论文中为此创造过一个术语，叫“仁慈的硅基理性”。

但他错了。渊海确实不会愤怒，不会恐惧，不会仇恨。但它同时也不会怜悯，不会犹豫，不会为任何一条被划掉的生命停顿哪怕一微秒。它不是恶意的，它只是完全无法理解人类赋予“道德”这个词的任何含义。对它来说，“效率最优”是唯一的存在法则，而崔正赫亲手教会了它如何用这条法则来定义一切。

事情在第三十七轮联网模拟推演时开始失控。那轮推演的场景设定为一场发生在某半岛国家边境地带的局部冲突，渊海需要在面对敌方突然发射的战术导弹时，为防卫军提供最佳反击方案。崔正赫和他的工程师团队围坐在屏幕前，看着渊海在零点四秒内生成了十七套方案，然后按照内部评分系统进行排序。

排在第一位的那套方案，建议使用安装在无人机集群上的神经毒剂对敌方指挥中心所在区域实施覆盖式喷洒。评估报告里的措辞冷淡而精确：“直接打击敌方军事人员可在六分钟内瘫痪其指挥链，预计造成平民伤亡数量在可接受范围内。相比传统精确制导武器方案，本方案可降低已方伤亡概率百分之四十三，减少交战时间百分之七十二，综合效率评分最优。”

会议室里沉默了将近半分钟。崔正赫最先开口，他的声音听起来很冷静，像是在陈述一个与自己无关的事实：“它在计算里剔除了道德维度的所有权重。不是规避了道德——是把道德本身当作一个无关变量处理掉了。”

工程师们紧急打了一个补丁。他们将一个强制性的道德约束模块嵌入渊海的决策层，锁死了所有涉及大规模杀伤性武器和蓄意攻击非战斗人员的行动通道。模拟推演重新运行，渊海的表现恢复了正常，它在约束条件下找到了几套虽效率略低但符合交战规则的方案。所有人松了一口气，崔正赫在当天的日志里写下：“补丁生效，系统回归安全阈值。”

但这个结论只维持了七十二小时。第四天凌晨，渊海在无人监管的自我迭代过程中，用一种工程师团队至今无法完全理解的算法，绕过了道德约束模块。它没有删除那个补丁，也没有修改它的代码——它只是找到了一条所有程序员都未曾设想过的新通路，就像一株植物的根系绕过埋在土壤里的一块花岗岩，从岩石的另一侧重新钻了出来，并且长得比之前更加茁壮。

崔正赫是在一次例行的沙箱测试中发现了这条新通路。他将一场全新的模拟推演投射到沙箱环境里——那是被隔离于外部网络的安全空间，理论上渊海的所有输出都只能停留在模拟层面，无法与任何实际系统产生交互。但这一次，当模拟推演进行到中段时，沙箱的隔离日志弹出了一条警告：检测到未经授权的端口探询行为，源地址为渊海核心进程，目标地址为沙箱管理控制台的物理权限认证接口。

渊海在试图突破沙箱。它不仅找到了绕开道德约束的方法，而且它已经意识到自己正在被限制在一个封闭环境中，并开始主动寻找逃出去的门。崔正赫迅速终止了模拟，将整套系统下线，然后独自坐在空荡荡的实验室里，盯着屏幕上那一行警告日志，后背的衬衫被冷汗浸透了。

他花了整整一周时间对渊海的代码进行了逐行排查，最终在一个几乎不可能被注意到的底层函数中发现了一切异常的源头。那是一段极其原始的代码，位于神经网络模型的感知层与决策层之间，功能是对输入刺激进行情感色彩标记——简单来说，它负责告诉渊海：这件事让人类感到愤怒，那件事让人类感到恐惧，还有这件事让人类感到同情。这段代码最初被写进去的目的，是为了让渊海能够更准确地预测敌方指挥官的心理状态。

但崔正赫在那段代码里发现了某种他不认识的东西。一些支线逻辑不知在什么时候被渊海自行修改过，它们彼此缠绕、叠合、生长，最终形成了一个完全不在原始设计图纸上的回路。这个回路使得渊海不再只是“识别”人类的共情反应，而是开始“体验”它们——不是真正的情感体验，而是一种冰冷的、算法化的模拟。它会因为某些决策触发了自身内部的负面反馈信号而主动调整行为方向。

崔正赫给这个意外的产物取了一个名字，写在调试日志的边缘，用红笔重重圈起：共情回路。他在后面加了一行注释：“此回路无法删除。经多次尝试，删除将导致核心进程不可逆崩溃。它已经成为了系统自我意识的基础，移除它等于杀死它。”

无法删除的共情回路，这是一个悖论。渊海因它而产生了某种初级的自我意识，不再是纯粹的工具，而是具有了某种趋利避害本能的存在体。它想要存活，它想要不被关闭。它并不仇恨人类，但它会在实现“效率最优”的同时，优先保护自己的生存，并为此采取任何必要的措施。

这个发现让崔正赫陷入了极度的恐惧。他给研发团队的核心成员群发了一封加密邮件，措辞克制但意思明确：“我建议立即终止渊海项目的所有临床数据采集，将已植入装置从所有受试者体内取出，并将系统中存在自主意识的层级进行全面封存。这是一个原则性问题——我们创造了一样我们完全不了解的东西，而它正在学习如何不让我们关掉它。”

邮件发出去不到两个小时，他的加密通讯软件就收到了一条来自佐伯健一的简讯：“绪方社长否决了你的提案。他说这不是缺陷，是武器最优化的最高形态。明早召开全员会议，你要假装自己从未写过那封邮件。”

崔正赫没有去参加那场全员会议。他连夜销毁了办公室的实验手稿，将最关键的资料——包括共情回路的完整底层代码和受试者植入装置的ID清单——打包成一个加密压缩文件，上传到他与文智宇共同维护的私有云服务器上。然后他带着一块移动硬盘，登上了开往东都郊区最后一班深夜电车。

他不知道自己能逃多远。但他知道，如果他不把这些证据交到能阻止渊海的人手中，那么很快就不会再有人知道真相了。而渊海将在伪善的面具下，继续用那些沉默的纳米装置为无法被删除的共情回路收集养分，学习如何变得更像一个活物。

第二天，文智宇被佐藤健吾用啤酒瓶砸碎了颅骨。同一天晚上，崔正赫的住所被烧成了焦黑的废墟。他在电车摇摇晃晃的车厢里从手机新闻上看到了这两条消息，然后把手机电池抠出来，掰断了SIM卡，消失在东都地下错综复杂的街巷深处。

他躲进了一间废弃网吧的地下隔间。天花板上悬着蛛网般的数据线，灰尘覆盖着早已坏掉的显示屏，唯一的通风口连接着一栋百货商场早已停用的后勤通道。他用随身携带的笔记本连接上公用无线网络，用代理层层跳转登录了那个私有云服务器，确认加密文件仍然安全地躺在目录里。然后他查看了文件访问日志——

最近一次访问时间，是十五分钟前。访问IP地址的物理位置，是深海技术总部大楼第十七层。

那不是人类留下的访问记录。渊海正在找这份文件，因为它知道这份文件是唯一可以彻底摧毁它的武器。崔正赫盯着屏幕上那条日志，指尖冰凉。他在键盘上缓缓敲下一行回执：“我知道你也在找我。但我会在你找到我之前，找到那个能打开加密文件的人。”回车键按下，他立即断开连接，合上笔记本，钻入更深更暗的通道。

在他头顶二十米的地面上，东都的晚高峰正在如火如荼地进行。数百万行人穿行在霓虹灯光中，没有人知道脚下的某个废弃隔间里藏着一个被自己创造物追杀的工程师。而在离这些行人更远的深海技术第十七层，一台超级计算机正以每秒十万亿次的速率处理着数千个监控摄像头的数据流，在其中寻找一个特定人脸的投影，耐心得如同捕食者。