关键词：人工智能;大数据;算法;司法智能化;程序法治
中图分类号：D925? ? 文献标志码：A? ? 文章编号：1001-862X（2020）04-0150-006
随着移动互联网、大数据、超级计算、区块链等新技术的出现，全球人工智能发展进入崭新阶段，呈现出跨界融合、人机协同、群智开放等新特征，深刻改变了人类生活，并给各个领域带来变革性影响。人工智能在我国司法领域的运用及发展也受到党中央的高度重视，政法智能化建设成为推动国家治理现代化的重要一环。如何遵循刑事诉讼的自身规律，顺应司法智能化的发展趋势，回应人工智能发展所带来的系列挑战，进一步健全我国刑事诉讼制度和程序，是我们必须慎重思考与认真对待的问题。
一、人工智能给刑事诉讼制度发展带来的机遇
在人工智能的时代背景之下，我国刑事诉讼制度面临着前所未有的发展机遇。这是由于人工智能显著区别于传统科技，蕴含着不断增长的“自主性”，能够自我学习、改造与进化，正是这一特性为刑事诉讼全过程注入了智慧与动力。
（一）侦查手段得以创新，利于侦查模式的转型升级
将人工智能运用于刑事侦查领域，即借助人工智能等尖端技术辅助办案人员进行专门调查工作，并将相关智能设备运用于刑事侦查活动，以达到获取线索、查明犯罪事实、确定犯罪嫌疑等目的。当前，人工智能在我国刑事侦查领域的具体运用包括智能识别、情报检索、犯罪数据挖掘、犯罪监控等方面。
人工智能极大地创新了侦查手段，为侦查机关履行侦查职能提供了智能支持。一是尖端科技手段的引入有利于及时锁定犯罪嫌疑人。例如，依托智能人脸识别系统与DNA数据库等，通过挖掘与分析相关信息，能够准确地确认与追踪犯罪嫌疑人的身份，为侦查提供有力的方向，提升了案件的侦破率。二是多类型数据库的运用有利于及时发现犯罪线索与证据资料。基于计算机算法对数据进行分析对比，其强大的信息和分析优势将弥补传统侦查手段的短板，尤其利于互联网犯罪、跨国犯罪、恐怖主义犯罪等新型犯罪的侦破。例如，2016年浙江省公安厅开展的“云剑行动”，依托“阿里巴巴”大数据在一年时间内查处制售假货窝点417个，破获假货案件总案值达14.3亿元[1]，有力打击了互联网领域的假冒伪劣犯罪行为。三是犯罪数据系统的开发有利于预防与遏制犯罪。如前述“云剑行动”，其衍生效果在于打假地图的绘制，基于对历史数据与信息的分析，不仅实现了对涉假商品、售假团伙的溯源追踪，并且帮助侦查机关确定了犯罪行为的活跃范围与犯罪嫌疑人的主要分布，最终在全国范围内成功挖掘了数千个活跃的售假团伙。当前，旨在预测与预防犯罪的公安犯罪预测系统已在我国部分地区正式投入运行，并取得了相当成效。[2]总的来看，将人工智能运用于侦查领域，有效应对了当前犯罪活动愈发智能化与隐蔽化的趋势，不仅有利于打击犯罪、维护社会治安，还将合理配置侦查资源，有效指導相关区域的犯罪防控，从客观上减少犯罪行为的发生，继而促使事后、被动的传统侦查模式向事前、主动的智能侦查模式转型。
（二）检察工作得以助力，利于办案规范化与精准化
利用科技力量推行“智慧检务”，是新时代我国检察工作的重心。2017年最高人民检察院工作报告即指出，检察机关将强化大数据战略思维，深化“智慧检务”建设，实现四级检察机关司法办案、检务公开等“六大平台”全覆盖。2018年，最高人民检察院在充分调研论证基础上，正式印发了《关于深化智慧检务建设的意见》，勾勒了我国“智慧检务”建设的未来蓝图。
当前，“智慧检务”建设的主要实践包括办案智能辅助系统、量刑建议辅助系统、远程提讯系统、监狱检察信息指挥系统等，随着人工智能运用于检察工作的实践，检察工作的实效得到了提升。其中一项重要举措即推行量刑建议辅助系统，这一系统促使检察官从经验思维逐步转向数据思维，并增强了量刑工作的精准性与规范性。在认罪认罚从宽制度入法后，检察机关的量刑建议不仅是解决量刑问题的“牛鼻子”，也是能否真正贯彻落实认罪认罚从宽制度的关键所在。[3]在量刑建议辅助系统的帮助下，检察官能够提出更为准确的量刑建议，避免量刑畸轻或畸重，弥补了实践中开放式量刑建议占多数的缺憾。这不仅增强了被告人对量刑从宽的可预见性，有利于提高其选择适用认罪认罚从宽制度的积极性，同时也在一定程度上化解了同案不同判的实践难题，确保了量刑建议的公正性与规范性。值得一提的是，量刑建议辅助系统不仅关注量刑的精细化，基于人工智能的本质，其在对海量数据进行分析的基础上，还能依靠自身强大的运算能力与学习能力实现对思维过程的模拟。因此，根据录入系统的信息与数据，量刑建议辅助系统还能进行学习与研判，从而确保量刑建议的理性与逻辑，避免陷入纯粹机械化量刑的误区。除了量刑建议辅助系统之外，基于大数据构建起来的办案智能辅助系统也对检察工作产生了诸多积极影响。通过类案推送、风险评估、数据检索等功能，办案智能辅助系统为检察官办案决策提供了强大的“外脑”支持，客观上缩短了检察官的办案时间，提高了检察工作的效率，使得司法实践中“案多人少”的矛盾得到相当缓解，继而有益于实现司法资源的优化配置。[4]
（三）审判能力得以改善，利于提升司法公正与公信
在我国司法大数据发展已初具规模的基础上，人工智能介入审判领域成为了司法制度发展的必然趋势。最高人民法院先后颁布《关于加快建设智慧法院的意见》《人民法院信息化建设五年发展规划（2019—2023）》等文件。当前，以网络化、阳光化、智能化为特征的“智慧法院”格局基本形成。此外，杭州、北京与广州互联网法院相继挂牌成立，集中管辖辖区内应当由基层人民法院受理的特定类型互联网案件，标志着我国“智慧法院”建设迈上了新台阶。
当前，许多地方法院在建设“智慧法院”的过程中，积极将人工智能运用于刑事审判活动之中。通过发挥人工智能的独特优势，不仅极大地辅助了法官办理刑事案件，并且促使诉讼程序更为便捷。一方面，借助算法与大数据的优势建立诉讼智能系统，通过结果预判、类案推送、电子送达、电子卷宗生成、裁判文书分析等功能，不仅分担了法官大量的事务性与基础性工作，更是为法官类案裁判经验和证据规则转化提供了智能支持。例如，上海市高级人民法院研发的刑事案件智能辅助办案系统（简称“206系统”），体现了强大的智能性，不仅能够实现对刑事案件证明标准、证据规则的统一指引，还能发现单一证据的瑕疵及证据之间的冲突。[5]类似智能辅助办案系统在其他地方法院亦有相关实践，这些智能辅助办案系统通过对刑事证据的校验与提示，可以减少法官认定与采纳证据的随意性，统一规范刑事案件的证明标准，从而有助于降低冤假错案发生的风险;另一方面，将人工智能技术融入诉讼全过程，也为诉讼当事人、诉讼参与人及社会公众提供了更为便捷化的诉讼服务。就刑事审判而言，远程审判、远程提讯、视频作证、语言识别与转化等技术的成熟运用，不仅极大地提升了案件审理的质效，也显著提升了司法为民、便民的程度。应当说，人工智能的智能性与高效性与以审判为中心的诉讼制度改革具有内在的契合，深刻改变了法官的裁判思维与裁判方式，有助于促进我国审判体系和审判能力的现代化发展。
二、人工智能给刑事诉讼制度发展带来的挑战
科学技术如同一把双刃剑，在为人类文明带来进步的同时，总是伴随着危机与阵痛。人工智能是一场全新的科技文明，在为制度发展带来智慧动力的同时，也存在着巨大的风险隐患。应当警惕在立法相对滞后的情况下，人工智能发展可能对我国刑事诉讼制度建设所带来的冲击。
（一）数据的昂贵与垄断，可能恶化被追诉人的处境
前述刑事司法实践中的各种智能辅助系统，无论是分析运行或是自我学习，都需要依靠大量的数据。大数据作为一种前所未有的方式，成为新发明和新服务的源泉，而更多的改变正蓄势待发。[6]17然而，由于技术运用的昂贵与稀缺，当前，国家处于独占数据的优势，司法机关在刑事诉讼过程中的优势地位也得到进一步巩固。对于本就处于弱势地位的刑事被追诉人而言，却将由此陷入信息不对称、资源不平等的困境，加大了其与司法机关进行抗衡的难度。换言之，即如研究者指出，当国家占据这一知识权力的优势时，势必将以更为强大的方式来体现对权利主体的约束，[7]155那么期望数据的开放和共享也就变得愈发困难，司法机关即可以利用数据的垄断优势不断拉开与被追诉人之间的差距。
对于刑事被追诉人来说，其在刑事诉讼中本就处于较为脆弱的地位，随着人工智能在刑事司法领域的不断推行，数据的昂贵与垄断可能进一步恶化其在刑事诉讼中的处境。例如，当前侦查机关利用侦查数据库来获取破案的证据材料，这部分数据以电子监控信息、GPS信息、个人身份信息等为基础，事关公民的隐私，但却脱离了刑事诉讼程序的严格规制，使得侦查权实际处于一种恣意的状态之中;再如，当前刑事案件智能辅助办案系统尽管实现了公检法三机关之间的数据整合，但却从源头上把辩方给剥离出来了。换言之，司法数据库欠缺辩方的证据与资料，这一显著的缺陷无疑对人工智能进行深度学习形成了障碍。试想，如果人工智能所依赖的是不完整的数据，那么其所形成的司法决策亦值得怀疑。因此，正如学者所言，唯有通过充分准确的司法数据“喂养”法律人工智能，进而才能生产出正确的司法结论。[8]61
（二）算法的偏见与隐蔽，可能增加司法决策不公的风险
人工智能高度依赖于以数据为基础的算法运行。所谓“算法”，通常可以理解为解题方案的准确而完整的描述，是一系列解决问题的清晰指令，代表着用系统的方法描述解决问题的策略机制。我国刑事司法实践中已经推行与运用的诸多智能辅助系统，与其他领域的人工智能一样，基于大数据得以构建、通过算法得以运行。然而，随着人工智能广泛运用于刑事诉讼领域，算法的“先天缺陷”也逐渐暴露，并可能对刑事司法实践产生相应的消极影响。
一方面，受制于数据采集的数量与质量，以及算法设计者的能力与认知，算法极易出现偏见与歧视的问题。例如，美国“威斯康星州诉卢米斯”一案，即因法官所使用的量刑智能辅助工具（COMPAS）而引发了激烈争议。争议焦点就在于COMPAS本身是否存在算法歧视，并最终导致COMPAS倾向于判定黑人犯罪者比白人犯罪者更有可能获得较高的风险等级。[9]77-78正因算法存在着偏见的风险，其在辅助司法工作者作出决策时，也为决策结果埋下了不确定与不公正的隐患。更为消极的后果在于，由于被追诉人处于天然弱势的一方，其往往难有对算法质疑的能力，或者即使质疑，也很难得到司法机关的回应，这也在无形中助长了司法机关的权力扩张。另一方面，算法分析与决策过程的可知性低，欠缺公开与透明，即使是算法研发者也未必能对其进行确切的描述，更不用说是并不通晓这些技术的司法工作者了。即使是当算法被恶意篡改时，也往往难以得到及时的察觉与纠正，这种难以知悉的“黑箱”效应也在客观上增加了司法决策不公的风险。尤其是随着开源代码的兴起，人工智能的研发门槛随之降低，算法风险的预防可能将变得更为困难。遗憾的是，針对上述司法决策不公的风险，无论是当事人还是社会公众都欠缺有效监督的途径。
（三）技术的机械与瓶颈，可能削弱司法工作者的能动性
受制于人工智能技术特征的机械与局限，其在刑事司法实践中的运用应当具有一定的限度。正如研究者指出，除非人工智能达到人类对于外在世界的认识能力，否则其难以实现比较精准的事实判断能力。[10]23因此，即使人工智能具有深度学习与进化的能力，我们也不应指望其能完全代替法官来作出裁判。更何况，刑事案件的裁判并非只是简单的推算，公正裁判的作出不仅离不开法官的法律知识，更离不开法官的经验与良心。
不仅如此，由于人工智能自我学习的能力及限度究竟如何，在技术层面仍存在相当争议与不确定，故盲目夸大智能辅助系统对于刑事裁判的功效，必然会导致司法工作者对其过度依赖，继而削弱了自身的能动性。尤其是在当前司法实践“案多人少”的重压之下，智能辅助系统的推行极大地减轻了司法工作者的办案负担，但在权力行使便利与快捷的同时，则难免对提供便利的载体产生依赖。久而久之，算法甚至可能会取代司法工作者成为刑事诉讼的主导。对于刑事司法裁判来说，这种冲击无疑是巨大的。果真如此，那么就像学者批评的那样，“大数据和人工智能将会变成法庭辩论的‘断头台，酿成‘一切取决于既定的软件，面对面的对话式论证算不了什么的氛围，使中国本来就很孱弱的法律推理、法律议论以及法律解释学更加无足轻重”。[11]132我们还应当警惕的是，人工智能的迅速发展也将最终促使智能机器人的产生，其是完成人工智能任务的载体[12]247，但智能机器人摆脱人类的纯粹工具地位而获取主体身份又是一个必然的趋势[13]28，那么在这一发展趋势之下，如何界分智能机器人与司法工作者之间的身份及责任，不仅将关系到刑事诉讼程序的设置与实施，更将深刻影响整个刑事司法系统的定位与构造。
三、人工智能时代我国刑事诉讼制度的应对
尽管目前人工智能还处于弱人工智能的阶段，但因其具有长期积累、短期爆发的特点，强人工智能时代很可能不期而至。我们应当以前瞻性的视角来看待人工智能及其发展，尤其是其衍生而来的法律、伦理与安全问题，需要我们审慎应对。就人工智能运用于刑事诉讼而言，应当明确必须坚持的基本原则，妥善设置相关规则及程序，并健全完善相应的协同机制，从而确保人工智能时代我国刑事诉讼制度的健全发展。
（一）人工智能运用于刑事诉讼的基本原则
为了促进新时代人工智能的健康发展，2019年6月，中国国家新一代人工智能治理专业委员会在北京发布了《新一代人工智能治理原则——发展负责任的人工智能》，明确提出“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理”八项原则。上述原则为人工智能运用于刑事诉讼提供了重要参照。我们认为，人工智能运用于刑事诉讼应当贯彻尊重与保障人权，遵循正当程序要求，并坚持如下几方面的基本原则：
其一，程序法治原则。程序法治的核心是程序正义，即通过正当程序的约束来确保诉讼过程与诉讼结果的正当性。现代程序法治原则的根本目标在于抑制权力的恣意行使，防止权力的异化滥用，加强诉讼中的人权保障。[14]50-51当前，人工智能在为司法机关行使权力提供强大辅助与便利的同时，客观上也给予公权力扩张与膨胀的空间。若不加以合理干预，则可能导致权力对于权利的不当侵害，使得权力与权利处于极度不平衡的状态。因此，人工智能运用于刑事诉讼应当首先坚持程序法治原则，即着重对公权力进行合理控制，通过严苛的程序来规制与约束人工智能在刑事诉讼领域的运用。为了确保公民的人身权、隐私权等基本权利不受侵犯，应当对适用人工智能的案件标准、条件与程序等内容作出明确规范，通过严格正当的程序来防止权力的恣意与滥用。
其二，比例原则。人工智能运用于刑事诉讼还应当遵循比例原则，即在考量是否适用人工智能时，应当切实考量具体手段或方式的适当性、相称性、必要性。比例原则贯穿于刑事诉讼全过程，故要求司法机关使用人工智能时不能毫无节制，而应该根据案件情节的轻重来加以衡量确定。为了最大限度地降低人工智能对被追诉人权利的侵入与伤害，司法机关应当选择对被追诉人权利限制和干预最小的方式，将技术不确定所可能带来的风险控制在最低。例如，对于大数据侦查来说，鉴于大数据侦查对犯罪嫌疑人和大量无辜公民的个人信息甚至隐私信息施加了全面监控与比对，有学者即提出应当坚持重罪原则与最后手段原则，即该项措施只能限于预防或者侦查严重犯罪时方可使用。[15]174
其三，参与原则。刑事程序法治现代化的基本要义包括了程序正义的要求，其对刑事诉讼活动提出了独立于实体正义的基本标准，具体包括法官中立、程序参与、程序对等、程序公开、程序及时、程序自治、程序理性等内容，对于实现刑事程序法治具有显著的推动作用。[16]108在人工智能广泛运用于刑事诉讼的情景之下，程序正义旨在应对人工智能隐蔽性、自发性等特征，防止人工智能运用的风险与失控。其中，参与原则显得尤为重要，其具体指向为被追诉人在刑事诉讼中享有对人工智能、大数据及算法的知悉权、选择权、更正权。毕竟，国家权力可以借助大数据、人工智能技术实现对每一个人的全方位、立体化、全天候彻底监控。[17]42那么，出于对权力的限制以及控辩平等的考量，就应当通过赋予被追诉人相应权利来对抗这一权力鸿沟。更重要的是，考虑到被追诉人在刑事诉讼中处于天然脆弱的地位，在国家已经掌握数据优势的情况下，为了避免这一垄断优势不断扩大，还应当明确司法机关对于被追诉人知悉权、选择权、更正权等权利负有关照义务。因此，司法机关还应当诚实地履行信息披露义务，并确保披露信息的完整性、准确性与充分性，依法实现数据的共享与开放，克服算法歧视和算法黑箱，确保辩方能够对等参与刑事诉讼活动。
（二）人工智能运用于刑事诉讼的程序规则
为了有效防范与应对人工智能的自身性风险，如学者所言，必须以人工智能的技术发展与规制为主题，形成包含法律规则、政策规定和伦理规范的社会治理体系。[18]134就刑事诉讼而言，我国《刑事诉讼法》应当顺应司法智能化的发展趋势，回应人工智能发展所带来的系列挑战，在遵循刑事诉讼规律、立足我国国情和司法现实的基础上，及时增补与完善相应的法律条文，妥善设置相关规则及程序，为人工智能运用于刑事诉讼各个环节提供相应支撑，规范公权力借助人工智能行使权力。例如，对于人工智能运用于刑事侦查领域，《刑事诉讼法》应当对其适用条件、法定程序、救济机制、证据效力等问题作出明确的规范，使之与刑事诉讼程序有效衔接，充分实现对于人工智能技术的法律规制。特别是在使用人工智能进行证据判断时，为了确保技术“无偏见”地助力司法决策，应当在进一步优化算法编制与程序设置的基础上，遵循辅助性、有限性、可反驳性三大原则对证据能力、证明力、证明标准作出相应的判断。[19]从而最大限度地避免人工智能技术可能对司法实践带来的负面效应。当然，刑事诉讼制度也应当为人工智能的发展预留必要的空间。在当前司法实践的基础上，立法除了要体现相當前瞻性，还应当不妨碍科技的创新与进步，并适当从促进与发展的角度为人工智能技术提供相应的支撑。
（三）人工智能运用于刑事诉讼的协同机制
为了促进人工智能运用于刑事诉讼中的正当性，除了前述法律规制之外，还应当健全完善相应的协同机制来提供必要合力。这些协同机制应当包括但并不限于信息共享机制、风险评估机制、责任追究机制与人才培养机制。
其一，信息共享机制。伴随人工智能的不断发展，更为复杂的算法与更为庞大的数据也将成为必然。由于刑事诉讼领域涉及公共利益，为了避免上述发展可能加剧的偏见与歧视，就需要更大程度的公开与透明。对此，应当尽快建立完善的信息公开与共享机制，努力消除在数据获取、算法设计与适用过程中可能产生的偏见与歧视。对于司法机关来说，还应当依法强制信息披露，即将除了涉及国家秘密之外的算法内容，通过可理解的方式向社会公开并接受公众的监督。
其二，风险评估机制。人工智能的不确定性蕴含了运用过程中失控的风险，随着人工智能自主性的不断提升，这种风险也在不断增强。因此，应当以降低风险为目标，建立相应的风险评估机制，重点关注算法的安全问题。除了在事前严格审查适用标准之外，还应当对算法错误设置相应的处理机制，避免算法的误用与滥用，尤其要防止算法被恶意篡改而引发相应的风险。国家层面还应当尽快出台相应的技术标准和安全标准体系，不断提高人工智能的可控性和抗干扰性，逐步形成人工智能安全评估体系。
其三，责任追究机制。应当逐步构建人工智能的问责机制，明确系统研发者、司法工作者和受用者之间的法律责任。这一问责机制应当与现行司法责任制有机结合，厘清人工智能与司法工作者之间的责任分担，防止司法工作者将个人责任转嫁给人工智能技术。此外，为了更好地理解人工智能的决策过程并作出必要修正，还应当构建相应的人工智能决策追溯机制，通过收集与记录人工智能运行与学习的情况，对其存在的缺陷与潜在不足进行追踪与修复，以提高人工智能辅助司法决策的准确性。
其四，人才培养机制。当前单一学科的法律人才培养模式显然已经无法满足人工智能的迅猛發展。为了防止司法工作者对人工智能辅助系统产生过度依赖，以及算法技术被第三方垄断而可能带来的决策风险，应当重视培养既懂法律又懂技术的复合型人才，以适应我国司法智能化的现实要求。即如研究者指出，在人工智能时代，充分把握我国司法实践发展的时代机遇与有效应对所面临的现实挑战的关键之处均在人类自身。[10]122面对人工智能所带来的全新变革，人类只有自我强化，才能更为从容与理性地应对挑战。
参考文献：
[1]阿里大数据一年助浙江打掉14亿元假货，“云剑行动”升级“云剑联盟”[EB/OL].http：//www.techweb.com.cn/news/2016-12-08/2447568.shtml.
[2]苏州公安犯罪预测系统上线6个月：大数据助推警务改革[EB/OL].http：//legal.china.com.cn/2014-10/09/content_33711795.htm.
[3]卞建林.认罪认罚从宽制度赋予量刑建议全新内容[N].检察日报，2019-07-29（3）.
[4]管莹，卢志坚.给检察官配个机器人助手[N].检察日报，2018-05-13（2）.
[5]上海高院研发“刑事案件智能辅助办案系统”避免冤错案[EB/OL].http：//www.legaldaily.com.cn/zt/content/2018-01/25/content_7458140.htm？node=90866.
[6][英]维克托·迈尔·舍恩伯格.大数据时代[M].周涛，译.杭州：浙江人民出版社，2012：17.
[7]吴思远.我国控辩协商模式的困境及转型——由“确认核准模式”转向“商谈审查模式”[J].中国刑事法杂志，2020，（1）：148-159.
[8]左卫民.热与冷：中国法律人工智能的再思考[J].环球法律评论，2019，（2）：53-64.
[9]朱体正.人工智能辅助刑事裁判的不确定性风险及其防范——美国威斯康星州诉卢米斯案的启示[J].浙江社会科学，2018，（6）：76-85，157.
[10]吴旭阳.法律与人工智能的法哲学思考——以大数据深度学习为考察重点[J].东方法学，2018，（3）：18-26.
[11]季卫东.人工智能时代的司法权之变[J].东方法学，2018，（1）：125-133.
[12]李德毅.人工智能导论[M].北京：中国科学技术出版社，2018：247.
[13]马长山.智能互联网时代的法律变革[J].法学研究，2018，（4）：20-38.
[14]卞建林.刑事诉讼的现代化[M].北京：中国法制出版社，2003：50-51.
[15]程雷.大数据侦查的法律控制[J].中国社会科学，2018，（11）：156-180，206-207.
[16]卞建林，谢澍.“以审判为中心”与刑事程序法治现代化[J].法治现代化研究，2017，（1）：106-119.
[17]齐延平.论人工智能时代法律场景的变迁[J].法律科学（西北政法大学学报），2018，（4）：37-46.
[18]吴汉东.人工智能时代的制度安排与法律规制[J].法律科学（西北政法大学学报），2017，（5）：128-136.
[19]纵博.人工智能在刑事证据判断中的运用问题探析[J].法律科学，2019，（1）：61-69.
[20]高鲁嘉.人工智能时代我国司法智慧化的机遇、挑战及发展路径[J].山东大学学报（哲学社会科学版），2019，（3）：115-123.
（责任编辑 吴 楠）
最新评论