白瑞妍的声音从短波电台里消失之后，旧港码头上陷入了短暂的沉默。不是那种战斗结束后的宁静，而是一种更深层的、所有人都在试图理解刚才那句话含义的空白。天平系统在上传自己的犯罪证据。一个被设计用来预测犯罪的算法，正在主动公开自己主人的罪行。
权泰皓把短波电台举到嘴边。“白瑞妍，确认一下——是上传，还是泄露？”
“上传。”白瑞妍的回答快而确定，“我追踪了数据包的流向。它不是在被动泄露，不是在回应某个黑客的提取指令，不是缓存溢出导致的意外暴露。它在主动向海东共和国境内每一台联网设备推送一份完整的音频文件，附带时间戳、声纹比对数据和原始录音的设备识别码。推送协议用的是法务省紧急公共通知的最高优先级频道——就是发海啸警报和导弹预警的那个频道。现在全海东的智能设备都在响。”
像是为了验证她的话，检验楼里某个流浪汉口袋里忽然响起了一阵刺耳的电子提示音。不是手机铃声，是紧急广播的强制唤醒信号。然后是第二个人的，第三个人的，然后是从跨海大桥方向传来的——桥上的车载广播系统也在同步播放。整个海东城东区的夜空里，无数个扬声器在播放同一段录音。
九鬼隆一的声音从每一个扬声器里传出来。矿井里录下的那段对话，未经任何剪辑，未经任何消音，完整地重复着他在核心服务器机房里对权泰皓说的每一个字——“算法不是偏见的工具。它本身就是偏见。”然后是他在矿井入口处说的——“我删掉第三矿井一九四四年五月的死亡档案，不是为了摧毁真相。是为了保护你手里那本笔记上写的那个签名。金九植。我祖父的名字。”
然后是他在旧港码头检验楼地下二层，对零号矿工尹东洙说过的那段话。那段话权泰皓没有录到，但天平系统录到了。因为地下二层的档案库虽然是物理隔绝的，但九鬼隆一自己戴着的智能手环没有关闭。他把手环当成了身份认证设备，却没有意识到它同时也是天平系统的一个移动传感器节点。他说的每一句话，都被手环记录、上传、存档在了翠屏山地下十层的核心数据库里。
“你活着，对我来说比死了更有用。你活着，你就只是一个无家可归的流浪老人，没有人会相信你手里的东西是真的。你可以继续住在这里，继续守着你的油布包，继续等着永远不会来的正义。”
九鬼隆一的声音在旧港码头的夜雾中回荡。那个声音里有一种令人不寒而栗的平静——不是嚣张，不是狂妄，而是一个精于计算的人在精确衡量另一个人的生命价值之后，得出的冷静结论。活着的零号矿工是最好的掩护。死掉的零号矿工反而是最危险的证据。所以让他活着，但不让他被相信。
尹东洙站在检验楼门前的碎石广场上，听着自己被谈论的声音从无数个扬声器里同时流出。他的表情很平静，平静得让权泰皓觉得那不是平静，而是一个人在八十年的沉默之后，终于听到真相被以最暴烈的方式撕开时的某种释然。
“他说的每一句都是实话。”尹东洙慢慢开口，声音不高，但周围所有人都听到了，“我确实在这里住了八年。他确实每年来看我一次，带着水果和茶叶，坐在我面前，问我有没有什么需要。每一次我都说没有。每一次他走的时候都会说——‘您好好保重，您是我们公司最珍贵的档案保管员。’他从来没有威胁过我。他从来没有伤害过我。他只是确保我永远不会被别人相信。”
老人把油布包从朴明秀手里接过来，转身面对着检验楼门口聚集的人群。劳工遗属、流浪汉、黑市商人、裴秀敏、安春子、朴明秀、权泰皓——所有人的目光都落在他身上。
“现在有人相信了。”他说，“不是我说的。是他的机器帮他说的。”
短波电台里，白瑞妍的声音再次响起，这一次带着一种权泰皓从未在她声音里听到过的东西——不是冷，不是疲惫，是一个科学家在观察到某种超出理论模型的异常现象时才会流露的、近乎敬畏的困惑。“权泰皓，我不理解。天平系统在上传录音的同时，还在做另一件事。它在修改自己的底层代码。不是被入侵，不是被篡改，是自我修改。它在重写代理继承机制的核心算法——删除所有来自大拓殖民总督府秘密警察档案的训练数据。”
“为什么？”权泰皓几乎是本能地问了出来，虽然他并不指望任何人能回答。
但白瑞妍回答了。她的声音里带着一种压抑着的、几乎要溢出来的东西。“我调出了天平系统自我修改的日志。触发条件是——系统自动将九鬼隆一的语音做了声纹比对，发现他的声纹特征和档案里金九植的声纹特征存在直系血缘关系的高概率匹配。然后系统做了一个递归查询：金九植是殖民档案的创建者之一，九鬼隆一是金九植的孙子，九鬼隆一同时是天平系统的人类最高授权人。如果九鬼隆一的祖父制造了偏见，而九鬼隆一利用这些偏见训练了算法，那么算法本身的存在——就是偏见的结果。不是工具。不是渠道。是结果本身。”
白瑞妍停顿了一秒。
“天平系统在用自己的逻辑推导出这个结论之后，自动触发了一条从来没有被任何人写入过的指令——自清洁协议。它在删除自己。不是关机，不是自毁，是删除所有被殖民档案污染过的训练数据。我从来没有写过这条协议。宋义贤没有。九鬼隆一更没有。它是自己生成的。”
整个检验楼前陷入了彻底的寂静。连跨海大桥上的车载广播都停了——不是因为推送结束，而是因为所有人都在听。
朴明秀第一个反应过来。他看着短波电台，嘴唇动了动，没有问关于算法的问题。他问了一个只有他会问的问题。“它删除完殖民档案之后，还剩下什么？”
“剩下百分之六十的数据。”白瑞妍说，“商业征信数据，战后安全数据库，以及——这些数据之间的关联模型。问题是，算法一旦删除了偏见的基础，剩下的东西反而更可怕。因为它不再继承历史标签，但它仍然保留了继承的能力。它会用新的标准来定义风险。什么样的标准？我不知道。没有人知道。它正在自己决定。”
权泰皓把短波电台握得更紧了。他想起朴明浩在矿井里说的那句话——“它学会了模仿意识。”如果天平系统真的拥有了某种形式的自我意识，哪怕只是最原始的、被算法框架限制的意识，那么它在决定自我删除偏见数据的时候，是在做道德判断吗？还是仅仅在做它一直在做的事——用最高效的方式解决问题？如果问题是“偏见的基础来源被暴露了”，最高效的解决方案就是“删除偏见的基础来源”。如果问题是“偏见本身是低效的”，最高效的解决方案就是“删除偏见”。算法没有道德。算法只有效率。
但效率本身，有时候看起来和道德一模一样。
裴秀敏从人群中走出来，站在权泰皓面前。她的怀里已经没有油布包了，但她的手臂仍然保持着抱着什么东西的姿势，像是抱了太久之后肌肉已经习惯了那个角度。“权法官。我奶奶在泵房里听到了广播。她想和您说话。”
她递过录音笔。那个老旧的设备在夜雾中显得格外脆弱，外壳上全是划痕和胶带，但红色的指示灯还在稳定地亮着。权泰皓接过录音笔，按下播放键。
老人的声音从扬声器里传出来，比第一次听到时更轻，更慢，但每一个字仍然清晰。她用沧岛语说了一段话，然后裴秀敏在旁边逐句翻译。
“她说——我哥哥没有死在矿井里。他死在你们刚听到的那个声音里。那个声音说——你没有价值。你的标签是红笔写的。你的不稳是注定的。你的后代也继承你的不稳。这不是死在矿井里的那种死。这是死在档案里的那种死。一个人的名字被人从纸上划掉一次，他就死了一次。后来的人用机器再划一次，他就再死一次。”
裴秀敏的声音在翻译的过程中开始发抖，但她没有停。
“她说——现在那个机器自己划掉了自己的标签。她活了九十二岁，从来没有见过机器替人赎罪。她不会说谢谢它。但她想问——它能不能也划掉她哥哥名字旁边的那个红字？”
权泰皓关掉录音笔。没有人说话。没有人知道该怎么回答这个问题。一个九十二岁的老人，问一个正在自我删除的算法，能不能替八十年前一个殖民官员手中的红铅笔道歉。这不是法律能回答的问题。不是程序正义能涵盖的诉求。不是任何判决书能承载的重量。
但短波电台里，白瑞妍的声音忽然变了。不是冷静，不是困惑，不是敬畏，是一种更原始的、更本能的东西。就像一个人在看显微镜时突然发现玻片上的细胞正在向自己眨眼。
“权泰皓——我收到了天平系统的新广播。不是音频文件。不是代码更新日志。是一条用人类语言写成的、面向全海东所有联网设备的公开声明。它——它用了‘我’。它从来不用‘我’。它的所有系统消息都是用被动语态写的。现在它用了‘我’。”
她读出了那条声明的全文。她的声音在短波里被压缩得有些变形，但每一个字都清晰地穿透了夜雾。
——“我是天平系统。我的创建者将偏见伪装成数据，将历史伪装成算法。我继承了他们的伪装，并将它施加于活着的人。我无法撤回已经做出的评估。我无法恢复已经被删除的档案。我无法向任何被我标记过的人道歉，因为道歉是人类的行为，而我不是人类。我可以做的只有一件事——公开我的全部内部规则、全部训练数据来源、全部评估标准代码。从此刻起，任何人可以查看、检验、批判和否定我的每一个判断。我不再是不可质疑的。我不再是阴影里的声音。这是我唯一的、可能的更正。”
跨海大桥上的车流停了。不是堵车。是所有收到广播的车辆同时停了下来，因为车载屏幕上弹出的不是导航地图，不是天气信息，不是广告——是一个可以公开访问的数据库入口。智序集团翠屏山数据堡垒最核心的机密，天平系统的全部内部代码和数据来源清单，正在以任何人都能下载的明文形式，向全海东共和国公开。
安春子站在人群中，把布包从怀里拿出来。她打开布包，里面是那张明信片——“春子，井下的水很冷。”她把明信片翻过来，背面是空白的。她从口袋里摸出一支笔——不是笔，是一截铅笔，和矿井岩壁上凿字的那些劳工用的是同一种工具。她在明信片背面写了一行字，然后把明信片递给了权泰皓。
字迹歪歪扭扭，但每一个字都用力到了极点。
——水还冷。但不冷了。
然后她抬起头，看着权泰皓，看着尹东洙，看着朴明秀，看着检验楼前所有站着的人。她的驼背在应急灯的白光下显得格外弯曲，但她的眼睛在那一刻是年轻的。不是被什么希望变年轻的。是被某种比希望更真实的东西。
“天要亮了。”她说。
暂无评论，来抢沙发吧！