人民法院报

人工智能司法运用的风险与规制
北京外国语大学法学院副教授 郑 曦
– – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – – –

    人工智能技术是近年来科技领域最火热的话题,其最核心的特征是其能够在获取海量数据的基础上,运用知识图谱+深度学习等不同类型的算法模仿或理解人类的行为。这不仅触发了新的技术路径,也引发了相关的法律和伦理问题,给人们的生活方式带来了重大变革。


    司法裁判中也有运用人工智能技术的需要。引入人工智能技术,能帮助法官迅速、准确地审理案件、解决纠纷。我国法院对于人工智能技术态度积极,运用水平也处于世界领先,例如上海的“刑事案件智能辅助办案系统”(简称“206系统”)、北京的“睿法官”、江苏的“法务云”、河北的“智审”、重庆的“法治云”等,包含单一证据校验、逮捕条件审查、全案证据审查判断、社会危险性评估、类案推送、量刑辅助、语音识别及智能转换等内容,为法院应对海量案件提供了技术路径。


    然而人工智能运用于司法裁判也存在一定的风险。第一,由效率价值驱动的人工智能技术,在其运用过程中也会反向强化对司法效率的追求,倘若对此不加限制,极有可能诱使法院过度重视完成案件审理的手段和途径,从而陷入人工智能技术带来的效率至上的狂热中,影响司法公正尤其是程序公正的实现。更令人感到恐惧的是,倘若人工智能技术的设计者预先将自己对于司法裁判中某一问题已有的“刻板观念”加入到特定人工智能程序而运用于司法裁判中,则可能在运用此种模式化程序大大加快案件审理进程的同时导致对实体公正的损害、甚至导致错误裁判。


    第二,在司法裁判中运用人工智能技术,可能对诉讼三角结构造成一定影响:公权力机关因人工智能技术的运用可能在诉讼能力上有重大的提升,有学者甚至认为可能因此导致诉讼结构失衡而引发“新的不平等”。特别是在刑事诉讼中,控方较之于辩方的力量优势自古存在,但随着现代科技手段的运用,控方的力量优势更为明显,而人工智能技术可能进一步加大控辩双方的力量差距。


    第三,由于法律界对数据统计与分析技术陌生、对大数据算法几乎完全外行、对人工智能缺乏客观认识等原因,几乎没有任何一个国家的法院能依靠自己或法律界人士完成人工智能技术运用于司法裁判这项宏大的工程,于是借助科技界和企业的力量、甚至将某些相关工作外包就成为必然的选择。尽管当前允许社会化外包的主要是司法辅助业务,但由于存在技术人员或司法辅助人员通过人工智能的运用影响裁判的可能性,在实践中也很难将外包工作中的司法工作和司法辅助业务做条分缕析的明确界定,因此这种社会化外包与审判权独占原则存在产生冲突之可能。


    第四,人工智能技术排除了价值判断后的产物,具有形式合理性品格,用于司法裁判中才能实现可计算性、可重复性和可置换性等方面的技术逻辑。然而司法裁判有着区别于技术的逻辑,司法裁判是超越形式合理性的,司法裁判关于是非好坏善恶的判断本身就含有价值评判的内容,这一系列的工作显然是不可能用一套预先设置的人工智能算法计算出案件结论而完成的。当秉持技术逻辑、具有形式合理性品格的人工智能技术运用于司法裁判时,难免会干预法官的独立审判权。


    面对上述风险,应加强对人工智能技术运用的规制,具体需处理好以下四组关系。


    一是公正价值与效率价值的关系。对于司法裁判而言,公正事关公民的生命、自由、财产等核心利益,必然是首要价值。针对人工智能技术运用于司法裁判中追求效率之本能,尤其应当强调公正为本的理念,不能为了追求效率而放弃对公正的追求,否则就将本末倒置。除了应当重视人工智能技术对案件实体公正的影响如类案推荐、量刑辅助等干预定罪量刑准确性之外,更应当关注人工智能技术的运用与程序公正的关系,特别是对当事人诉讼权利的影响,从而通过限制公权力、保障公民权利的路径实现程序的公正、正当。


    二是“工具理性”与人类福祉的关系。应以功利主义哲学中追求人的“最大幸福”之理念予以引导,以实现“所有利益相关的人的最大幸福”作为在司法裁判中运用人工智能技术的“唯一正确适当并普遍期望的目的”,强调技术对人的服务与满足。人工智能技术运用于司法裁判,同样应当始终强调人工智能技术服务于人的理念,即人工智能技术运用仍应以保护人的权利和福祉为其伦理基础,从而实现“工具理性”和人类福祉的再平衡。


    三是开放理念与审慎态度的关系。一方面应当认识到人工智能技术运用于司法裁判的历史必然性,司法只能顺应这种时代潮流,对于人工智能技术的运用秉持开放理念。另一方面司法对待人工智能技术的运用应有相对审慎的态度。人工智能技术的发展速度过于惊人,每时每刻都有新的进展,若在其后面跟风追赶,司法永远也赶不上人工智能技术发展和变革的节奏和步伐。另外人工智能技术的发展是以惊人的失败率和错误率为代价的,这种失败和错误对于技术发展而言是必须付出的必要成本,而倘若此种失败和错误发生在司法裁判中而导致案件处理的错误,可能是以公民的生命、自由、财产、隐私等重要法益为代价的,也是作为“维护社会公平正义的最后一道防线”的司法所无法承受的。


    四是裁判方式创新与司法体制改革的关系。人工智能技术运用于司法裁判,也应当强化而非削弱审判权在司法中的核心地位和庭审实质化,契合“以审判为中心”的司法改革理念。在诉讼中,法院运用人工智能技术审查来自双方的证据时,应当始终保持中立、超然,不得在算法应用方面有所偏倚。此外,刑事诉讼中法院应对人工智能技术运用带来的有罪推定风险加以警惕,防止犯罪预测工具、案件初查辅助工具等人工智能技术收集的信息强化有罪推定倾向。此外,要避免科技企业通过人工智能技术在司法裁判中的运用,将其观念、利益诉求等“注入”智能化工具以影响司法裁判,以司法责任制的“让审理者裁判,由裁判者负责”之理念进一步明确案件裁判者和人工智能技术之间的主体与工具的关系。


    人工智能技术在社会生活中的运用已是无可逆转的时代大势,其运用于司法裁判也是这种时代大势的必然结果。面对此种趋势,不但不能排斥、抵制或否定人工智能技术在司法裁判中的运用,而且应当采取积极的行动防范风险以趋利避害,使得人工智能技术在法治的轨道内发挥更大的作用,实现科技运用于司法裁判的“服务人民群众”的目标。


<INPUT type=checkbox value=0 name=titlecheckbox sourceid="SourcePh” style=”display:none”>
本文来自网络,不代表i格子网立场,转载请注明出处:https://www.igez.com/archives/223217

作者: vv1

返回顶部