人工智能技术的发展，既产生了大量新类型案件，给司法审判工作提出了新挑战新要求，也为人民法院工作高质量发展提供了新的科技支撑。《中共中央关于加强新时代审判工作的意见》要求，深入拓展数字化司法应用场景，推动智能化司法应用，以数字化、智能化推动审判流程、诉讼规则、司法模式变革。《人民法院第六个五年改革纲要（2024——2028年）》提出，“充分发挥人工智能技术辅助办案、集约事务、防控风险、方便诉讼等作用”。经过深入研发与实践探索，人工智能在辅助提升司法效率、便利当事人诉讼、统一法律适用等方面发挥了积极作用。如何在用好人工智能的同时，最大程度降低人工智能的负面影响，是当前需要重点研究的问题。

　　人工智能在司法领域的广泛应用，主要体现在以下方面。一是减轻事务性负担，提高办案效率。人工智能相对人脑的算力效率优势，可以帮助法院减轻在立案、分案、庭审记录、证据比对、辅助草拟法律文书等环节上的事务性工作负担，让法官能将更多精力投入到事实查明、法律适用等核心审判工作上。二是开展类案检索，减少“类案不同判”。通过电子卷宗深度挖掘、信息相似度算法比较，精准匹配已生效的类案，人工智能可以辅助法官精准匹配权威案例，规范法官自由裁量权行使。三是提供诉讼服务，减轻当事人诉累。近年来，全国法院先后建立了人民法院诉讼服务网、12368服务热线、自助终端、律师服务平台、调解平台、在线服务平台等线上线下立体化的诉讼服务体系，有效提升了诉讼的便捷化程度。四是弥补认知判断局限性，优化审判管理。人工智能能够基于海量司法数据，依托自动化、精细化、静默化管理能力，实施全流程监督管理，促推法院审判管理从传统的“人盯人”“案盯案”模式向智能化、精准化、动态化监管转型。五是发掘分析大数据，预警案件风险。生成式人工智能基于算法建模，在大数据分析、逻辑推理方面具有明显优势，可从海量数据中发现隐含规律，有效监管办案风险。

　　科技是一把“双刃剑”。人工智能的技术原理决定了它在司法审判领域既有广阔应用前景，也会带来一系列风险。

　　一是算法偏见风险。人工智能参与审判权行使，其技术逻辑有可能会与司法公正的要求不一致。大模型开发者可能将其价值偏好植入算法、选择训练语料，可能生成天然自带价值偏见甚至歧视的结果。如果生成式人工智能缺乏可靠的安全护栏，很可能因受攻击或渗透而输出敏感信息或价值错误的内容。如果以往累积的历史数据中隐藏有大量裁决不当的基础数据，那么以这些被污染的数据集为大模型学习“起点”，就会导致“偏见叠加”、偏离公正。

　　二是“幻觉”误判风险。人工智能“幻觉”的根源在于其未能真正理解信息背后的深层逻辑和真实语义，加之自身的知识表达和学习模式还存在缺陷，导致出现常识性错误、杜撰内容等“幻觉”。如果人工智能提供的法律条文已过时、虚构司法解释、类案检索结果失实，或者诉讼参与人提供人工智能生成的虚假诉讼资料，可能导致法官在事实认定、法律适用上受到误导继而出现裁判偏差。

　　三是数据安全风险。训练司法人工智能系统，必须以大量案件数据为基础，势必涉及海量当事人敏感信息、案件细节甚至商业秘密、国家秘密。目前，我国已建成全球最大的司法审判信息资源库，若数据存储、传输环节加密不到位，将造成数据安全风险。

　　四是社会认知风险。有观点认为，生成式人工智能可以司法规则代码化、法律数字化、司法决策建模化为基础，推动司法裁判标准化，最终实现由人工智能司法替代法官裁判。这种观点夸大了人工智能的功能和作用。一方面，司法活动是一种融合了价值判断、利益权衡和政策选择等诸多因素于一体的思维活动。人工智能可能会替代法官或者助理做一些可重复、记忆性的工作，但难以感知人与人的信任和情感联结，无法解决那些没有先例、需要创造性思维、价值性判断的复杂法律问题。另一方面，司法亲历性是司法活动的重要原理。人工智能无法替代法官亲历案件审判，难以结合个案背后的法理精神、社会政策和价值观念作出判断。

　　不论司法人工智能发展到何种程度，我们都不能忽视，科学合理的司法制度、符合规律的工作机制、大量专业廉洁且具有职业良知的法官才是实现司法公正的决定性因素；健全完善司法制度、确保司法公正，必须持续深化体制机制改革，决不能“走捷径”“图省事”“遇到问题绕着走”，把科技应用等同于司法改革，甚至“神化”人工智能的作用，用技术应用替换制度建设、取代高素质法治人才培养。面对人工智能给司法审判工作带来的机遇和挑战，人民法院必须用辩证理性的眼光来看待，积极稳妥推进其开发和应用。

　　一是明确基本定位。人工智能在审判工作中的基本定位应为辅助工具。它不是要替代法官的智慧，而是要放大法官的能力、拓展法官的视野，不断提升自身的判断力和技术运用能力。对于证据审查、文书生成、庭审流程辅助等不涉及价值判断、重复性、事务性的工作，可以让人工智能发挥一定的“替代性”作用。对于事实认定、法律适用、证据采信等涉及价值判断的工作，采取“人工主导、智能辅助”的人机协同模式，人工智能辅助呈现出的结果仅可作为司法裁决的参考，必要时还可以核查其推理路径和信息来源，确保司法裁判始终由审判人员作出，裁判职权始终由审判组织行使，司法责任最终由裁判者承担。

　　二是拓展应用场景。人工智能辅助审判的基本逻辑是最大化提升案件审理效率和促进裁判规则统一。要不断拓宽人工智能司法应用场景和范围，依托全国法院统一办案办公平台，结合人工智能技术创新进程和人民法院改革发展实践，积极探索并不断拓展新的应用范围，如文书智能生成、自动归纳争议焦点、相似案例精准推送、证据数字化呈现，以及特定区域或领域纠纷的特点和趋势分析等。在拓展应用场景和范围的同时，还要及时更新模型训练的语料库，依托海量、权威和高质量法律大数据，实现司法数据自动同步、汇聚、融合和综合应用机制，提升算法的精准度和妥当性，从而确保人工智能生成内容和结果的准确性和权威性。

　　三是加强法治保障。研究出台“人工智能司法应用”的相关法规，从技术准入、数据安全、伦理审查等维度构建全流程监管体系，确保人工智能司法应用符合技术发展规律，恪守司法公正底线。此外，需制定与人工智能技术适配的证据审查规则、裁判标准等具体规范，确保技术应用的合法性与规范性。同时针对技术应用衍生的新型法律问题开展前瞻性研究，如虚拟数字人的权利归属及合理使用边界、生成式人工智能服务提供者的合理注意义务及过错认定、规制经营者滥用先进算法和大数据资源等优势实施新型不正当竞争行为、人脸深度合成技术不当应用的治理、无人驾驶引发交通事故的责任认定等问题，通过发布司法解释或指导性案例，同时充分用好人民法院案例库等资源，为司法实践提供明确指引和理据支持。

　　四是筑牢安全防线。数据安全是人工智能司法应用的生命线，必须坚持“原始数据不出域、数据可用不可见、数据可控可计量”，守住数据安全底线，加强司法数据安全防护体系建设，在技术创新与风险防范间寻求动态平衡。特别是对于作为政府公共数据的司法数据，应严格遵循“共享、开放、授权运营”规则，切实加强开发利用全过程的安全管理，按照数据的安全敏感程度分级分类，界定其使用范围和使用权限，分别采用相应的安全防范措施，并通过人工智能系统巡检，及时准确发现风险并予以警告。技术安全层面，建设数据规范管理工具，对当事人身份信息、商业秘密等敏感数据加密保护。加快推进算法模型的透明性和可解释性，建立算法备案与追溯系统，减少对算法黑箱的担忧，实现“谁开发、谁负责，谁使用、谁监管”。同时，加强算法安全评估及相应规制，强化人工智能算法的合法性和伦理性审查，防范算法歧视，严防因技术漏洞、算法变异导致司法偏差、裁决不公。

　　（作者系最高人民法院第一巡回法庭副庭长）  

　　（责编：杨洋）