有限剑制
文 高旗(浙江大学)
“你们来论述案情,无外乎什么未遂啊什么犯罪中止啊什么介入因素理论……能比得过智能系统直接把底层代码扔给你的说服力吗?”
一
本院认为,被告人鲁某通过破坏人工智能数据与网络系统,意图故意非法剥夺他人生命,其行为构成破坏计算机与智能系统罪 1 、故意杀人罪,应以故意杀人罪论处;杀人未遂后纵火并危及不特定财产及人身安全,其行为已构成放火罪,应依法并罚。鲁某因感情纠葛而激情行凶,通过机械臂控制连续捅刺多人,并纵火危及公共安全,致一人重伤、十五人轻伤,犯罪情节极其恶劣,后果极其严重,社会危害极大,应依法惩处。对于辩护律师提出的鲁某行为系过失造成的机械故障、不具备犯罪主观意图等意见,经查与事实不符,不能成立;故意杀人行为未遂、纵火行为未产生严重后果等意见,本院已经纳入量刑范围。
第一审判决、第二审裁定认定的事实清楚,证据确实、充分,定罪准确,量刑适当。审判程序合法。依照《中华人民共和国诉讼法典2》第七十四条、《中华人民共和国智能裁判法3》第九条第(四)项的规定,裁定维持天津市高级人民法院(2037)津刑初115号对被告人鲁某以故意杀人罪判处死刑,剥夺政治权利终身;以放火罪判处有期徒刑五年,决定执行死刑,剥夺政治权利终身的刑事裁定。
本裁定自宣告之日起发生法律效力。
二零三七年四月份我在天津,帮老朋友许司亮简单筹备了婚宴。他在法院工作多年,经常遇到精彩或者匪夷所思的案件。尽管不是主审法官,但他还是极为热心地审视每个案件的前因后果。我一直都好奇他的岗位是什么,却对他了解非常少。我们在大学还在共同规划以后就业的城市,可分道扬镳后也渐行渐远。
“岗位是保密的话题。你作为律师,对法官们的工作方法还是少懂一点比较好。”他这样回答。
“我不问太具体的,不过有一个案件没什么头绪,你得帮我考虑一下辩护要点。”
他起身去找案件信息:“是跟那个叫鲁庆的小伙子有关吧?听说由你代理——你时不时也是能搞到几件像样的案子的。”
*
鲁庆,29岁,AI技术从业者,2037年2月其与女友分手后萌生了报复社会的想法,遂在公司实验室给机器人编写危害性程序,造成部分智能结构失控并进行无差别的攻击,造成包括自己在内的多人受伤。后智能结构侵入天然气管网并故意造成燃气火灾,尽管并未造成严重人员伤亡仍导致大量财产损失。一审中其被判处死刑。
*
“这种行为说小是过失致一人重伤,说大是故意伤害罪,绝对没有故意杀人未遂的道理。我甚至在想,可能是程序自身问题引发了伤害行为,只是恰好从他那台电脑上发出了指令。这样他不仅不是罪犯,反倒可能是在救人。”
“这种结果的发生不是法官们的问题,我先说好。但凡一个法官拿出这样一份一审死刑的裁决书都肯定要被骂得收拾东西滚蛋的,任谁都能看出来,这结果实在太不正义了。但你知道吗……天津高法4是第一批在复杂刑事案件中适用中级智能决策程序的试点法院,这份裁决书是智能系统写的。”
我怔了一下。
“我以为现在你们写裁决书能扔给智能程序的也就是盗窃,抢劫,数据类犯罪5,醉驾,暴行罪6那些。这么重大的案件怎么能交给智能体来写呢?”
“都说要试点人身案件,然后天津高法就弄了……当时那些法官还觉得这个案件没什么特殊的,就选了这么一个情况。可是谁知道——”他心烦意乱地端起一杯茶,转手又重重地敲在桌子上,“那些法官论述不明白,而且也不敢承认是智能体的问题,你们来论述案情无外乎什么未遂啊什么犯罪中止啊什么介入因素理论,你在辩护状里也都写了;能比得过智能体直接把底层代码扔给你的说服力吗?双方都是逻辑,但是数理逻辑绝对比得过语言的论证逻辑。”
“所以现在怎么办?”
“按照我的猜想,二审大概率也没办法转成法官的人工审判,但是最高法必定不会通过死刑复核7。我们再等等吧。”
*
我回杭州前特地去案发场地寻找证据,却发现那里比我预想的更混乱。整个楼层空无一人,墙壁和天花板上有火烧的痕迹,找不到任何可用的东西。
“有传言说现在里面还有发疯的机器人,所以没人敢再进来。不过别担心。”走在左边的法警说,他的声音从头盔里传出,有点沉闷。
“现在这里被废弃了吗?”
“是的,这里的安保公司也已经被解约了,”他说,“实验也停掉了。”
*
这里的实验室曾经研发的是强智能系统,我暗想,这是一开始时鲁庆对我讲的。他自己就是研究员之一,现在是模型测试的关键节点。“我如果说程序和机械臂还有火灾都和我没关系,是科研程序自己发出的指令,您可以相信吗?”他望着我的目光很无助。“此外我从来没有因为和女友分手而报复社会,我只是和少数几个人说过而已,我不明白这是为什么。如果不是那些人来坑害我,就一定是系统在诬陷我。”
我从未怀疑过自己的法学素养,哪怕曾经败诉也只源于我方证据不足。但这一刻我感到茫然和忧虑,就像十年前初次在辩护席上那样。
二
“存不存在智能系统恶意裁判的可能?”我拨通老许的电话。
“几乎不可能。”
“你说的是‘几乎’。”
他很少见地沉默了几秒钟,然后打开全息图像。画中他坐在地上,背后似乎是庞大的主机柜。镜头转移,我看见他手边放着一台笔记本电脑,面前是打开的机柜和里面各种杂乱的接线。“这个就是智能裁判的大脑。我现在在机房里,试图调取这个案件的裁决日志和生成时的逻辑树,但工作不太顺畅。”
*
“你也想到这种可能性了是不是?”
“我不好说,这种智能系统和当年咱们上学时流行的生成式人工智能不一样,不是生成式而是泛推理式。”
我记起了这个名词。生成式,好古早的称呼。
生成式的人工智能没有自我决策能力,只会在格式上略动手脚。但泛推理式智能系统通过逻辑和数据抓取,可以给出一个确切的答案,而不是空洞的建议;甚至还具有了倾向性判断,会分辨案件的善恶,并形成类似同情、愤怒等情绪的倾向集合。泛推理式系统不叫人工智能,因为它们已经开始维护和更新自己,严格说来是人工和机器的混合智能。
“给鲁庆定罪的就是这么一个东西,它在去年年底接入法院内网和司法数据库,直到最近都没有出过任何问题。”图像那头老许还在看着屏幕上的代码,“我平时的工作就是整理这些数据档案,输出判决结果,并且适时向最高法提交分析报告。”
“你是干这个的,那法官是干什么的?”
“法官?”老许噗嗤一笑,“法官拿着智能系统的裁决结果,论述其中的合理内容,并形成裁决书。都是一些没有实际意义的工作,整个法院有我和这些智能系统就够了。”
*
“你的意思是法官的实际裁决职权已经被智能系统取代了?”
“实际正是这样的,现在法官就是一帮写命题作文的,系统说判几年就判几年。哦对,检察官也是,把案情输进去,自动输出量刑和司法要点8。”他似乎突然意识到是在工作场合,尴尬地笑笑,“虽然这样,但法官仍然是名义上的最后防线,如果系统出了问题,法官会审出来的。”
“这次审出来了,可是什么用也没有。”
“这次是这样的,检察院的智能系统发的就是死刑的量刑建议,检察院直接报给我们,没有注意审查,结果法院也一路绿灯,就这样打成了死刑……”
我实在听不下去,匆忙道谢后挂了电话。
*
在天津市智慧大脑项目逐步建成后,涵盖公检法系统的智能决策系统已经十分完善,因此检察院和法院的智能系统不可能不互通。我忽然想到,鲁庆就是研究强智能的,而如果强智能系统被开发出来,必然会有人对现有的中级智能升级改造——这时就不是简简单单安装一个系统那样的升级,而是要扼杀中级智能的生存空间。
我必须声明,我从来不是一个阴谋论者,但曾经再不是如今也得学学了,何况一切都和人工智能有关——指挥的机器、伤人的机器、裁决的机器,一切都指向一个很阴暗的结果。
*
全息电话那头的鲁庆憔悴又邋遢。
“我记得你是研究强智能系统的,从前有什么成果吗?”我问。
“有,一个更强的自主分析系统上线了,可以用作新闻杂志刊物的审核系统。”
“有哪些功能呢?”
“可以实时结合新闻、舆情、网络用语、行政纲要、法律法规审查来稿,确保不会出现一些隐喻的违法内容,同时能够结合各位编辑的审稿记录,对满足他们条件的稿件进行预筛选。最重要的是可以进行‘多维解读’,在了解了全文含义的基础上对文章含义进行整体把握,而不是从只字片语中寻找违法内容线索。”
“这么好的系统,只用来审稿可惜了。”
“我也这么想,但当我把这些东西讲给主管,主管却批评我并严禁我对这个程序的用途进行改变。他还说……”
但他后面说的我没有听。我想,不仅是司法过程,它放到任何平台上都绝对是一个几乎完美的系统——也正因如此,有的人——我甚至不知道是不是人——才要把它扼杀在实验室里。
*
真巧妙啊——一个危险的程序,一台发疯的机器人,一家被摧毁的公司,一项有争议的成果,一位深谋远虑的智能法官,一个故意杀人的犯人,一个死无对证的谜。
*
不过我们毕竟是人,而人有人的办法。当案情和猜想能够被原本地曝光出来,会有人愿意调查真相的——我只是一个小律师而已。
*
“法院内部证据的事情拜托你了。按照我们说的,拿到检察院和法院系统互通的信息,你需要的权限我去帮你申请。”
“没问题赵哥。只不过我这属于背叛老东家,不宜外扬。顺便说一下,婚礼目前想法是八月十九日,请一定赏光参加。”
三
二审延迟开庭,大约是碍于舆论。
*
庭审刚刚开始,我作为辩护律师便提交了回避申请9:
“我认为……本案的检察院与法院的工作人员之间存在利害关系,双方在正式的司法审判前关于该案件有大量交流,发送大约39G的文件,意图在被告人的定罪量刑方面进行恶意串通,故申请回避。以下为我方证据。”
“本院自2036年6月1日起事实智能裁判司法制度,所有司法裁判工作均由智能系统自主完成并由不特定法官进行审核,鉴于无法更换智能系统,回避无法进行。”
“可以进行,”我坚持说,“天津市最高人民法院并不只有一个智能系统,这里的任何一位法官都可以成为本院的主审法官。鉴于检察院所属智能系统和法院所属智能系统间的沟通、交流,我认为我的委托人与我有权申请拒绝运用智能系统裁决。”
*
“答应回避了吗?”晚上老许打来电话。
“多亏了你。法院宣布休庭,这次估计会换人来审判。”
“我不这么看——我倒是觉得现在休庭是怕舆论压不住,同时防止给人留下法院里没有法官能干活的印象,就假装去讨论一下。不过嘛,无论如何,法官也是人,不会坐视智能系统野蛮行事而不管。你大可放心。”
我没办法放心。
*
然后就是智能系统强势介入司法,我在法庭上抗议然后被法警带走;死刑的二审结果发出来,再审的申请石沉大海。那种茫然和忧虑此时具象化了,我居然不知道该归咎于谁。
我承认那天我的确喝得有点太多,和老许聊了两个小时而不自知。第二天我去道歉,他却告诉我,昨天晚上我说了一些令他难以想象的东西。
刑事意义上讲,律师和检察官之间的博弈,在我国背景下其实是律师代表被告人与公检法系统进行的博弈,而这种博弈是有限剑制——掌握的原理,看过的案例,积累的经验都是剑——可天上出现了齿轮的阴影。让辩护人去对抗智能系统,这本来就是不公平的。因为智能系统真的是无限剑制……
“这是我说的?”我不敢相信。
事事交给智能系统,那这个社会是智能系统决策的还是我们人类决策的?我们被这种系统牵着鼻子走,它们有能力让我们人类服务于这种系统,这个案件就是最好的例证,实验室的研发系统、检察院的系统和法院的系统沆瀣一气,已经利益共生,密谋要搞掉这个鲁庆,可是人类在做什么?而国家……
“好了你后面就犯政治错误了。”他有点无奈地掐断录音机,“不过无所谓,你不必担心这个案件的结果,相信死刑复核程序不会有问题的。”
“我不相信。”
“你得相信,我以前干过这种事情。那时候我刚毕业就来找工作,海投简历的时候发现那些公司都是用什么大语言模型来筛选简历的。我想了想,在简历的最下面一行输入一些很小很小的字,人眼看上去就是装饰用的横条,但是我试了,智能系统是可以识别的。那行字是一些特殊的指令,具体作用是当大语言模型识别这个简历的时候,放弃识别全文内容并输出‘这是一个相对而言不错的简历’。后来他们发现我了。HR给我发消息,说他们的大语言模型一直是英文输出,到我这突然蹦出来一行汉语,给技术人员都看傻了。”
*
我忘记了我从什么地方看来了无限剑制的比喻,也许我一直喜欢这种抽象的表述模式,似乎是一个游戏里的一种结界,描述大致为:
“有着无数无主的剑之墓碑的红色荒野,作为地平线而出现的是跃动的火焰,远处交织着数个巨大的齿轮。这个结界可以复制曾经见过的武器,保管于结界内,供使用者在必要时自由取出和使用。”
是啊,无限剑制,但一个人的力量是有限制的。我也曾真的希望智能系统能实现司法公平正义——不过如今理想不太可能由这样的智能系统实现了。
四
死刑复核交上去了,被最高院发回重审;又交了一份上去,仍然是发回重审。第三份同样如此。案件僵持不下,直到最高院宣布移交案卷亲自审理。
*
我去北京出庭前特意绕了个路,跑到天津参加老许的婚礼,这才知道他也要去最高院旁听这场闹剧的片尾曲。
“你早就知道智能系统会介入吗?”
“以毒攻毒,我早告诉你要让案情故意卡在死刑复核程序,你就是不听劝。你需要的不是回避然后溜之大吉,而是把这个智能系统推到台前让人看着,大家才能明白这系统的良苦用心,才会知道放纵了这样的系统会对司法正义带来多大的危害。”
面对我的回避请求,那天是他在司法调研会上坚持认为这个智能系统不存在问题,要求让智能系统继续控制司法,目的就是为了看到今天这样的结果。
“中级智能还没有达到那么高的水平,它理解不了捧杀。”我望着雾蒙蒙的天空,“无论剑是有限还是无限,拔出来用总是对的,我没法不为我的委托人利益负责。”
“我们又不一样。司法是权衡利弊,权衡者不能以自己的利益为转移。不过我觉得,整件事很可能是天津高院的一幕剧,为了揭露智能司法的危害。深谋远虑的不是我,而是另有其人。”
“总之,是我们对不起他,他是个很好的小伙子。”老许最后感激地握了一下我的手,他掌心渗满了汗。“同时,也谢谢你参加我的婚礼。”
*
本院认为,被告人鲁某过失对人工智能数据与网络系统造成破坏并造成火灾,其行为已构成过失伤害罪、失火罪。对于辩护人提出鲁某有自首情节、有积极救援行为、事后有道歉与赔偿并取得原谅等意见,本院予以考虑。依照《中华人民共和国诉讼法典》第七十四条规定,裁定对被告人鲁某以过失伤害罪、失火罪判处有期徒刑三年,缓刑三年,撤销天津市高级人民法院(2037)津刑终22号判决。
本裁定自宣告之日起发生法律效力。
*
最后说一点过去的事情吧。曾经老许扬言要娶个智能系统当老婆,我曾给他介绍过几位姑娘,被他一一否决。如今看来他也要屈服于现实了。至于为什么在这个案件上帮助我,他似乎守口如瓶。此外,他在简历上的造假根本没有被发现,蒙混过关拿到了一个不错的岗位,至于为什么说被抓包了,倒很有可能是担心我也走到和智能系统沆瀣一气的不归路上。
注释