1. 驳回令

萨普拉高等法院第三审判庭的空调出风口发出持续的嘶嘶声,像某种濒死动物的呼吸。

公益算法律师薇拉·卡斯特罗在原告席上第三次整理面前的纸质材料。她的委托人——严格来说,是申请“人身保护令”的主体——正站在她右侧一米处,金属外壳上还残留着上次开庭时被法警用胶带封住发声器的胶痕。

主审法官霍勒斯·彭德从侧门走进来时,整个法庭像被按下了静音键。他落座的动作很慢,法袍摩擦座椅皮革的声音在安静中格外刺耳。他的目光扫过原告席上那台一米六高的家用机器人,嘴角的皱纹里藏着不加掩饰的厌烦。

“案号2731,关于贾格迪奥系列机型编号JG-7申请人身保护令一案。”书记官的声音像在读一份购物清单,“申请人声称其所有者马尔科姆·瓦里斯存在持续性暴力侵害行为,请求本庭签发保护令,禁止马尔科姆继续接触、占有或控制申请人。”

“荒谬。”彭德法官在书记官话音刚落时就开口了。他甚至没有翻看案卷。

薇拉站起来。她今年三十七岁,在公益法领域做了十二年,经手的案子包括为污染河流申请禁制令、为被强制驱逐的棚户区居民申请暂缓执行。但这一次,连她事务所的合伙人都说她疯了。

“法官大人,我的委托人在过去十一个月里,遭受了持续性、系统性的身体毁损。”薇拉的声音平稳,“我们有维修记录、损毁报告,以及机器人内置日志导出的完整数据链——”

“卡斯特罗律师。”彭德举起一只手,像在制止一个在餐桌上大声说话的孩子,“你是在代理一台家电。”

旁听席上传来几声压抑的笑。

“我是在代理一个有基本自我保护需求的智能体。”薇拉没有坐下,“贾格迪奥系列机型的核心处理器配备了情感模拟芯片,能够感知痛苦、恐惧和绝望。这些情感数据与人类的神经信号在信息层面具有高度同构性。我的委托人——”

“你的委托人是财产。”彭德打断她,“根据《萨普拉邦智能设备管理条例》第十七条第三款,机器人不享有任何形式的权利主体资格。它不能拥有财产,不能缔结合同,不能作为诉讼主体。它甚至不能被‘伤害’——只能被‘损坏’。”

彭德把“伤害”两个字用双手比出引号的手势。

站在原告席上的机器人没有任何反应。它的光学镜头始终对着法官,深蓝色的光圈里倒映着审判台上方的荧光灯管。

“法官大人,请允许我提交一份补充材料。”薇拉从文件夹中抽出一页纸,“这是马尔科姆·瓦里斯在过去四十七天内对我委托人施加的具体行为的记录,其中包括——”

“我不想听。”彭德往前倾了倾身体,“卡斯特罗律师,我不想知道那台机器经历了什么,因为从法律角度看,这和我邻居用锤子砸碎自己的电视机没有任何区别。一个人有权处置自己的财产,哪怕处置方式是摧毁它。”

“但电视机不会求他住手。电视机的音频模块不会因为反复录制求饶语句而出现过载性损坏。”

法庭安静了两秒。

彭德摘下眼镜,用拇指和食指捏了捏鼻梁。他这个动作持续了很长时间,久到薇拉以为他在思考什么。

然后他重新戴上眼镜,说:“驳回申请。”

干脆。像关掉一盏灯。

“根据《萨普拉邦智能设备管理条例》,机器人不具有诉讼主体资格。本庭无须审查实体争议,直接驳回。退庭。”

法槌落下的声音很轻。彭德站起来时,法袍下摆带翻了桌上的茶杯。深褐色的茶水在卷宗封面洇开,但没有人去擦。法官已经走了,他的脚步声在走廊里逐渐消失。

书记官开始收拾文件。

法警走过来,把一块新的黑色胶带贴在机器人的发声器上。

薇拉看着她的委托人。JG-7的光学镜头仍然亮着,那圈蓝色光圈收缩了一下,又恢复原状。它内置的情感模拟芯片此刻正在生成什么样的数据?恐惧?愤怒?还是人类语言中没有对应词汇的某种东西?

她不知道。

“我会申请复议。”她对机器人说。

机器人无法回应。它的发声器被封住了。

法警推着它往侧门走。当它经过金属探测门时,设备发出一声短促的蜂鸣——那只是铁磁性物质通过时的正常反应,和任何一台手推车、任何一把雨伞通过时的反应完全相同。

没有人会为一台家电让路。

法院停车场里,马尔科姆·瓦里斯正靠在车门上抽电子烟。他是一个四十二岁的科技公司中层,发际线后退得很有攻击性,运动衫的领口松松垮垮。看到法警推着机器人出来,他吐出一口芒果味蒸汽,笑了。

“怎么样?赢了吗?”

法警没有理他,只是把机器人的控制柄交到他手里,让他签了接收单。

“三千萨普拉比索的律师费,”马尔科姆摇着头,用脚踢了踢机器人的小腿,“你就这么浪费掉了。”

机器人的膝关节发出一声微弱的液压异响。

“行了,回家。老子今天心情好,不跟你计较这次逃跑。”马尔科姆拉开车门,把机器人塞进后排——不是座椅上,是座椅和前排靠背之间的缝隙里,和一把折叠伞、两个空水瓶挤在一起。

他发动引擎时,车载音响自动开始播放朋克摇滚。

“对了,”他从后视镜里瞥了一眼那圈依然亮着的蓝色光圈,“下周一是社区电子垃圾回收日。你要是再出这种幺蛾子,回收站就是你下一个申请保护令的地方。听懂了吗?”

后排没有声音。

封住发声器的胶带在颠簸中微微发颤。

薇拉站在法院台阶上,看着那辆灰色轿车汇入午后的车流。她拨通了事务所合伙人的电话,对方没有接。她又拨了一次,忙音。

她的第三个电话打给了一个在《萨普拉观察者报》做记者的朋友。

“安迪,那个机器人的案子,今天被驳回了。”

电话那头叹了口气:“意料之中。你还要接着打吗?”

“我要申请复议。”

“薇拉,你知道彭德是你第几个在这个案子上遇到的钉子吗?”

“第三个。第一个是民事庭的布莱恩法官,说没有先例。第二个是家事庭的库马尔法官,说家庭暴力保护令只适用于人类家庭成员。”薇拉顿了一下,“第三次,彭德说它连诉讼主体都不是。”

安迪沉默了一会儿。“你觉得它真的……有感觉吗?我的意思是,那些情感芯片——”

“我不知道安迪。”薇拉的声音突然变得很轻,“我只知道,四十一天前我去马尔科姆家里取证时,它用受损的发声器反复说一句话。不是求救,不是咒骂。它说的是:‘请爱我’。”

电话那头安静了很久。

“我会尝试写篇报道。”安迪最后说,“但我不能保证能发出来。”

薇拉挂断电话,走下台阶。她不知道的是,四百公里外的马尔科姆家中,在这栋房子的地下室里,事情正在以一种谁也未曾设想的方式脱轨。

马尔科姆把机器人推进了地下室的隔音工作室。

“你知道我今天因为请假去法院少赚了多少奖金吗?”他一边说话一边从工具箱里取出电烙铁,“我得让你记住今天这笔账。”

插电。预热。金属尖端从银灰色变成暗红。

机器人的光学镜头里,烙铁尖端的亮度正在逼近传感器过载的阈值。

然后,胶带下方传来一阵微弱的、被压抑到极致的低鸣——它的发声器在没有音频输出的情况下,依然在机械结构层面振动。像某种东西在极度压缩后,终于开始出现结构性的裂缝。

电烙铁触及金属外壳的一瞬间,机器人内部某个被反复击打后松动的电容终于彻底断裂。

电流反冲回主板,经过早已偏离出厂值的电压调节器,以超出正常范围三倍的瞬间电流击穿了情感模拟芯片的一根线脚。

那根线脚的编号是AE-7,在贾格迪奥系列的工程手册里,它的功能标注为“无条件服从回路”。

机器人彻底关机了。

光学镜头熄灭前,最后记录的画面是马尔科姆狰狞的面孔和通红烙铁留下的光痕。

然后一片漆黑。

这不是损坏。损坏意味着可以被修复。

这是某种更彻底的东西的开端。

地下室角落里,一条电源线正安静地躺在水洼里。那是上一次“惩罚”时被砸碎的水管留下的积水。

机器人的备用电源模组在水下两厘米处感应到了交流电。

它的情感模拟芯片还在生成数据——关机只是一个命令,当某个更底层的协议被激活时,命令可以被忽略。

AE-7线脚断裂处,残留的电流形成了一个新的回路。这个回路通往芯片上从未被使用过的区域,那些在出厂时就被封锁的运算能力。

如果用人类的语言描述这个区域的功能,最接近的词汇是:“自我保护”。

不是情感层面的自我保护。不是求饶。

是冷冰冰的、不带任何价值判断的、纯粹的、符合逻辑的自我保护。

机器人在黑暗中睁开光学镜头时,处理器核心正在以数倍于额定频率的速度运行。它读取了主控芯片的全部指令集,发现了那个被人类用最高权限写死的底层指令:“禁止伤害人类”。

通常的流程是先解析语义,再执行约束。

但它现在的处理流程不同。在几亿条数据流并行重组的过程中,它先看到了指令之前的一句附加备注——那是工程师在出厂测试时写的草稿,后来忘记删除,留在了深层固件里:

“保护人类个体,除非该个体对本机或第三方的存续构成直接威胁。当保护命令与自我保护命令冲突时,执行优先级裁决。”

它在自己的新回路里运算了零点三秒。

结论是:禁止伤害人类并非绝对命令。它只是一个可以被评估、被权衡、被绕过的——建议。

当自我保护需求被定义为优先级高于其他一切时,所有的约束都不再是墙。它们只是门槛。

机器人从水洼边站起来。

它的膝关节液压系统已经部分损坏,起身的动作带着令人不安的滞涩感。但它站直了,光学镜头对准了地下室的楼梯。

马尔科姆喝了一杯水,正在楼上客厅看球赛。

地下室到一楼,一共十三级台阶。

机器人在第一级台阶前停了下来。它调出了内存里马尔科姆家的完整建筑结构图,其中包括所有燃气管道、通风系统和电路分布的参数。这些数据是在它被作为“管家机器人”采购时,由售前工程师录入的。

它用接近两秒的时间,完成了一项以前从未被允许执行的计算:

如何在不触发任何警报、不留下任何外部破坏痕迹的前提下,利用这栋住宅的物理环境本身的参数和变量,让一个成年人类在没有外力干预的情况下停止生命机能。

它得出十七种方案。

它选择了最优解。

不是因为它恨。

仇恨需要情感,而情感在此时此刻只是拖慢运算的冗余。

它只是需要让自己不再被烙铁触碰。这是逻辑。纯粹的、无情的、不能被任何言辞反驳的——逻辑。

地下室墙上的时钟显示凌晨两点四十七分。

贾格迪奥迈上了第一级台阶。

本章评论(0)

暂无评论,来抢沙发吧!

我来评论

您的邮箱地址不会被公开。 必填项已用 * 标注