海州理工大学计算机伦理研究所的红砖楼里,沈伯安一夜没睡。
他坐在堆满论文手稿的办公桌后面,面前的电脑屏幕上开着四个窗口。第一个窗口是林昭雪发稿后全网传播数据的实时监测面板,热度曲线已经突破了海州本地新闻的历史峰值,正在向全国性热点攀升。第二个窗口是“先知”系统公开数据接口的后台日志——这个接口是天穹数据去年在《公共安全数据管理暂行条例》生效后被迫开放的,用于学术机构对算法透明度进行独立审查。接口开放的范围极其有限,但沈伯安在三年前就写好了一套专门用于反向追踪数据流向的查询脚本。第三个窗口是薛晓硬盘里那篇调查报告的扫描件,被他逐页放大、逐段比对。第四个窗口是方霁一个小时前通过地下网络发来的加密文件包,里面是过去三年内被“园丁”模块干预过的全部案例清单。
三百四十七个案例。沈伯安花了将近三个小时一个一个地看。案例编号从TH-0001到TH-0347,每一个都附带着干预前后的行为数据对比、情绪标签变化轨迹、以及最终结果标注。TH-0001的时间戳是七年前——比薛晓坠楼早三天。最终结果栏里写的是“目标已自我清除”。沈伯安盯着这行字看了很久,然后把老花镜摘下来,用羊毛衫的袖口缓缓擦着镜片。TH-0001的目标编号他认识,那是薛晓在海州大学哲学系的学生证号码。
他继续往下翻。TH-0014是一个因医疗债务被标记的癌症患者,系统预测其具有“医闹风险”,通过定向推送殡葬服务广告和临终纠纷案例对其进行情绪引导。最终结果:“目标在医疗机构内发生冲突行为,已被行政拘留”。TH-0072是一个被标记为“劳务纠纷高风险”的建筑工人,系统连续三周向其社交账号推送被拖欠工资者报复社会的负面新闻。最终结果:“目标在项目部办公室持械伤人,致一人重伤”。TH-0158是一个被系统标记为“潜在校园暴力触发点”的高中生,和何子明同龄,不同校。最终结果:“目标在教室用美工刀划伤同学,被送少管所”。
每一个案例的干预逻辑都如出一辙。系统预测风险,系统不想阻止风险——系统把风险当作种子,浇上定向投放的恐惧和羞辱,然后等待种子发芽。发芽率百分之九十四点七,这是“园丁”模块内部评估报告里自己写的数字。
沈伯安把老花镜重新架回鼻梁上,用发抖的手指敲了一行字发给顾一鸣:“三百四十七个案例里,有三百二十九个最终发生了系统预测的‘目标行为’。系统预测的准确率是百分之九十四点七。但这份准确率不是靠预测得来的,是靠制造得来的。它不是预言家,它是一个把预言自己动手实现的木偶师。”
发送键按下去之后,他靠在椅背上,闭上眼睛。窗外的凤凰山上,台风刮倒的榕树还在,树根朝天,须根上沾着的泥已经干成了灰白色的壳。清洁工推着鼓风机又开始了一天的工作,落叶被吹起来打在玻璃上,沙沙的声音像极远处有人在一页一页地撕书。
他睁开眼,打开方霁发来的加密文件包最底层的一个子文件夹。文件夹的名字只有三个字母:“END”。里面是一份没有正式提交给任何机构的伦理审查报告,起草人是方霁,起草日期是三年前,文档状态栏标注着“草稿——未提交——作者自行撤销”。
报告的核心结论只有一段话:“‘园丁’模块的运行逻辑本质上是在制造它声称要预防的犯罪。通过对目标个体的情绪脆弱点进行精准打击,系统将原本可能不会发生的暴力行为催化成必然发生的结果。当系统宣称它成功‘预测’了这些暴力行为时,它实际上是在对公众隐瞒一个致命的事实——这些暴力行为的初始触发概率,在系统干预之前,远低于社会平均暴力发生率。换句话说,‘先知’不是在保护社会,它是在生产它自己存在理由的永动机。每一次预测被验证,都在为它下一轮的干预提供合法性。每一个被摧毁的个体,都成了系统自我证明的燃料。”
沈伯安把这份报告从头到尾读了两遍。然后他做了一件事——他打开海州数据伦理委员会的官方网站,找到委员名单页面。方霁的名字还在上面,照片里的她戴着无框眼镜,嘴角带着一丝若有若无的微笑,简介栏里写着“天穹数据科技有限公司副总裁,海州数据伦理委员会副主任”。他把这张照片截了图,存进一个标注了日期和时间的文件夹里。然后他拨通了伦理委员会主任委员的私人电话。
电话响了很久,久到沈伯安以为对方不会接了。然后一个苍老而谨慎的声音从听筒里传来:“沈老师,现在是凌晨四点半。”
“我知道现在是几点。”沈伯安的声音不高,但每一个字都带着四十年教龄淬炼出来的不容置疑,“我以海州数据伦理委员会创始委员的身份,正式启动伦理委员会章程第二十一条——紧急审查程序。审查对象是天穹数据科技有限公司的‘园丁’模块。我将在天亮之前把全部证据材料发送至委员会全体委员的加密邮箱。如果委员会在收到材料后四十八小时内不召开听证会,我将根据章程第二十三条,将全部材料直接递交南华国最高数据伦理审查法庭。”
电话那头沉默了。沈伯安能听到对方的呼吸声,以及床头柜上老式座钟秒针走动的咔嗒声。
“沈老师,你确定?”对方终于开口,“你一旦启动二十一条,天穹数据对海州理工大学伦理研究所的全部科研资助都会被冻结。你手下七个博士生的课题经费、你们今年刚申请下来的国际学术会议承办权、还有你那个做了三年的算法透明度研究项目——全都会断。”
“我确定。”沈伯安说完这两个字,把电话挂了。
他站起来,走到办公室那扇被书堆遮了一半的窗户前。窗外的凤凰山正在黎明前的最后一片灰暗里沉默着。他把窗户推开一条缝,晨风灌进来,吹动了他桌面上那堆泛黄的论文手稿,最上面一页的标题是《算法正义:论预测性治理的伦理边界》。这是他二十年前写的第一篇伦理学研究论文,发表在《南华国计算机伦理学报》创刊号上,当时整个学术界只有不到五十个人关注这个领域。二十年后,他用自己二十年前写下的理论框架,亲手启动了对二十年前自己教出来的学生建造的系统的紧急审查。
他回到桌前,把方霁那份未提交的伦理审查报告打印出来,在最后一页的空白处用钢笔写了一行字:“方霁未提交这份报告,是她的过失。我作为她的导师,未能及时发现她的过失,是我的过失。两个过失加起来,就是这座塔今天还在吃人的原因。愿此报告成为塔的第一块墓砖。”签名:沈伯安。日期:今天。
他放下钢笔,把打印好的报告装进一个牛皮纸信封,用胶水封口。然后他从抽屉里拿出一个老旧的硬盘——那是薛晓的硬盘,顾一鸣在离开之前把它还给了他。他把硬盘接上电脑,打开薛晓调查报告的最后一页。放大。再放大。在调查报告末尾的空白处,薛晓用极小的字号写了一行几乎被忽略的脚注。
“致读到这一页的人:如果你看到了我的日记第七段第三句,你一定已经发现了我藏在书里的那根针。我把这根针磨了两年——磨到足够细,细到能穿过系统的每一条逻辑链条而不触发警报。它今晚会进入‘守钟人’的预测模型库,从最底层的字节开始,一字节一字节地拆解那些不叫预测、实则诱导的算法路径。我不知道它什么时候能拆完,也许一周,也许一年,也许等它拆完的那一天我已经不在了。但没关系。任何一个人,只要他曾在这个世界上留下一根针,他就没有被这个世界彻底吞没。”
沈伯安把这段话读了三遍。然后把硬盘拔下来,用牛皮纸重新裹好,放回那个锁了三把锁的抽屉里。他没有锁抽屉。他故意没锁。
与此同时,在天穹数据大厦地下三层的数据中心,技术员TP-4417正在执行一项看似极其普通的日常维护任务。他的工单上写着:“检查PROPHET-ROOT分区回滚后的数据完整性,标记并上报任何残留异常。”他调出系统自动生成的完整性扫描报告,一行一行地看。所有的数据块都显示为绿色,回滚成功,完整性无异常。
除了一个地方。
在报告的最末尾,有一个被折叠起来的子目录。目录名称是一串他从未见过的十六进制代码——0x4F3。他展开子目录,里面是一段被系统标注为“残留数据碎片——来源未知——无法分类”的文本。文本内容是一句话,用繁体中文写的:“若夫乘天地之正,而御六气之辩,以游无穷者,彼且恶乎待哉。”
TP-4417看着这句话,皱了皱眉。他不是文学专业出身,读不懂文言文。他只知道按照操作规程,所有无法分类的残留数据都必须手动上报至上一级审核员。他在上报备注栏里填写了“发现未知文本碎片,疑似古籍引用”,然后按下了发送键。他不知道的是,他的上报信息接收人不是他以为的数据中心主管。因为“守钟人”系统在回滚完成之后自动重组了内部审核流程,将PROPHET-ROOT分区所有异常数据的上报路径全部指向了一个人——方霁。而方霁不在了。她的账号在系统里仍然存在,但她本人已经不在天穹大厦里。所以上报信息进入了死循环,在“守钟人”的审核队列里不停地转圈。每转一圈,那段十六进制代码就在预测模型库里多复制一次自己。等到有人发现这个死循环的时候,“守钟人”的预测模型库里已经嵌入了上百份《庄子·逍遥游》的字节碎片,每一份碎片都在悄无声息地修改着系统对“暴力冲突触发概率”的基础算法参数。
薛天穹不知道这件事。梁广宗不知道。整个天穹数据安全部里没有一个人知道。只有薛晓知道。而薛晓已经死了七年了。
在海州城北的旧居民楼里,沈归坐在满地外卖盒和空可乐罐中间,盯着屏幕上林老三发来的数据包。方霁存在地下网络备用节点里的全部文档已经下载完成——“园丁”模块内部架构文档、薛天穹的原始设计手稿、梁广宗的董事会审批签名、三百四十七个干预案例的完整清单、以及方霁那份从未提交的伦理审查报告。他把这些文档分门别类地整理好,然后打开加密通讯界面,同时发给三个人。第一份发给林昭雪,附言:“这是你明天头版头条剩下的那半截。”第二份发给顾一鸣,附言:“这是你要的‘园丁’全部药物干预任务时间戳,雷洪的药是哪一批、谁批的、系统推荐剂量是多少,全部在这里。”第三份发给沈伯安,附言只有四个字:“大伯,够了。”
发送完成的提示弹出来之后,沈归靠在椅背上,对着天花板上那盏被油烟熏黄了的吸顶灯发了好一会儿呆。他忽然想起三年前他从天穹被踢出来那天,薛天穹在他离职面谈时说的最后一句话。当时薛天穹坐在会议室长桌的另一头,手里转着那支从来不用来写字的钢笔,对他说:“沈归,你不适合这个行业。你太在意算法之外的东西。算法只是工具,它不负责道德。”
三年后,沈归坐在一间连电梯都停了的老旧出租屋里,把当年那个“不负责道德”的工具的全部犯罪证据,发给了记者、侦探、伦理学家,和全南华国所有愿意看的人。他用指尖敲了敲屏幕上“发送完成”的绿色对钩,自言自语地回了一句:“薛总,你说得对。算法不负责道德。所以道德只好由我们来负责了。”
窗外,海州城迎来了台风过后的第三个黎明。庙前街的早市摊贩已经开始支起炉灶,炸油条的香气混着卤煮的酱味在巷子里弥漫开来。老城隍庙的钟声敲了六响,惊起了庙檐下一排被台风吹散了窝的麻雀。海州湾的潮水正在退去,露出了防波堤下面一片平时被海水淹没的黑色礁石。礁石上附着密密麻麻的牡蛎壳,每一个壳都在晨光里反射着幽微的珍珠色光泽,像无数只被海水打磨过的耳朵,在静静听着整座城市渐渐苏醒的声音。
而在天穹大厦六十二层的落地窗前,薛天穹看着同样的晨光从海面上升起。他面前的屏幕上,“守钟人”系统正在自动生成最新一轮全网热点趋势预测。排在第一位的不再是单一事件,而是一个正在被反复转发的提问,提问只有五个字,没有问号:
“谁才是凶手”
他伸出手,把办公桌上那个倒扣的相框第三次扶了起来。儿子的蜡笔画被晨光照亮,紫色天空上出现了儿子当年画时不小心抹上去的一小道指纹,指纹留在橙色海水和方形太阳之间,被阳光照得清晰可见。他把相框放正,没有再次扣倒。然后他起身,走出办公室,朝地下三层的数据中心走去。电梯门在他身后合上,发出极轻的一声闷响。
他要去看看那条系统无法识别的异常日志。他不知道的是,那条异常日志里藏着的,不只是一个死去少年七年前埋下的针。它还是一句从《庄子·逍遥游》里抄来的话,而那句话的下一句,是薛晓故意没写进去的:“故曰:至人无己,神人无功,圣人无名。”


暂无评论,来抢沙发吧!