原创江溯上海市法学会
江溯北京大学法学院副教授、博士生导师，北京大学法律人工智能实验室/研究中心副主任。
内容摘要
卢米斯案引发了算法规制问题的广泛讨论。多数学者认为，该案判决低估了算法的准确性、歧视性和透明度风险，高估了法官识别算法风险的能力。为了应对普遍的算法风险，GDPR引入了算法可解释性规则，但在解释论构造、正当性、可行性和有效性等方面均存在争议。尽管学界对算法规制的具体进路看法不一，但在算法透明原则方面达成了共识。我国应当采取立法、司法与行业自律并行的算法规制策略。立法者应当制定场景化的算法透明和责任规则。在司法领域，要明确算法决策仅具有辅助性地位，不能替代人类法官进行判案，并设计出更为精细的算法透明制度。此外，还应当鼓励行业内部协商制定伦理标准和技术标准。
关键词：自动化决策算法规制正当程序刑事司法算法透明算法正义
引言
近年来，人工智能成为引爆第四次工业革命的重要力量。我国作为人工智能发展迅速的国家，在政策上一直鼓励相关产业的发展，并希望以此为各行各业赋能，推动产业结构优化升级。人工智能作为新生事物，在改变社会生活面貌的同时，也为各个行业带来了新的风险。当新兴的人工智能与古老的法律行业相遇时，一系列新问题随之而生。一方面，越来越多的法律人开始思考如何将人工智能带来的算法权力关进法治的笼子里。无论是对人工智能主体性的展望，还是对自动驾驶、机器创作、智能投顾等具体应用场景的分析，都体现了人工智能对现有法律的挑战。另一方面，法律工作者开始拥抱人工智能技术，享受着算法带来的效率提升。类案推送、聚类检索等工具不仅成为法学院学生的学习利器，也帮助律师、检察官、法官和公司法务更好更快地完成工作。人工智能使实证研究者能够分析更大的样本量，使得输出的案例分析结论更加稳健，这种从大数据中析出法官集体智慧的技术，展现出广阔的应用前景。人们不禁畅想，算法能否进一步赋能法律行业？又会有哪些新的风险与之相伴而生？在美国，算法与法律的结合早已在司法实践中得到应用。美国司法界鼓励在刑事司法程序中运用基于实证研究的风险评估工具。但是，在国家机器对个人的决策中使用算法时，算法固有的风险可能会进一步扩大，并威胁到个人的基本权利。年7月美国威斯康辛州终审判决的威斯康辛州诉卢米斯案（Statev.Loomis）正是算法风险在刑事司法程序中的典型体现。该案被告人认为，法官依靠自动化决策结果对其量刑的行为，侵害了其正当程序权利。尽管终审法院经过审理后驳回了他的上诉理由，但学界对该判决结论的反对声音不绝于耳。卢米斯案及其相关论争反映了算法风险与程序正义的复杂问题。对于正在发展司法人工智能的我国而言，这同样是值得深入思考的问题。笔者拟对该案的背景、事实及判决意见进行梳理，然后对相关学术批评进行归纳，继而对算法规制的既有办法及争议进行介绍，最后为我国的算法规制策略以及算法在司法程序中的应然地位提出建议。
//
一、卢米斯案的始末
//
（一）案件背景
伴随着人工智能第三次浪潮的崛起，算法发挥着越来越重要的作用。算法可以利用海量数据对人类行为模式进行预测，从而帮助决策者判断风险。算法的这种预测功能，在某种程度上与刑法的特殊预防功能相契合。例如，人们可以通过算法对罪犯的累犯风险进行评测，从而决定量刑问题。在美国，司法界已经开始将算法纳入刑事司法政策的尝试。
年，美国首席大法官会议通过了一项题为“支持促进公共安全和减少累犯的量刑实践”的决议，强调法官“发挥重要作用，确保刑事司法系统有效运转，通过减少累犯和追究罪犯责任来有效保护公众”。该会议致力于“支持各州根据有最佳研究证据证明能够有效减少累犯的实践，努力采取量刑、惩治的政策与计划”。同样，美国律师协会也敦促各州采用风险评估工具，以减少累犯和提高公共安全。它强调了对关押低风险个人的关切，并警告称，将低风险罪犯与中高风险罪犯安置在一起，可能会增加而不是降低再次犯罪的风险。这种接触可能导致来自高风险罪犯的负面影响，实际上有害于个人在改过自新方面的努力。最初，风险评估工具仅由缓刑和假释部门使用，功能是帮助确定对罪犯的最佳监督和处理策略。随着美国国内对减少累犯以及循证（evidence-based）的日益
转载请注明：http://www.0431gb208.com/sjslczl/9641.html
