2017年4月11日，美國(guó)首席大法官羅伯茨在與紐約倫斯勒理工學(xué)院校長(zhǎng)的一場(chǎng)對(duì)話中被后者問道，“你能否預(yù)見將來有一天，AI驅(qū)動(dòng)的智能機(jī)器將協(xié)助法庭認(rèn)定事實(shí)，甚至頗具有爭(zhēng)議地介入司法裁決程序？”

“這一天其實(shí)已經(jīng)到來，” 大法官羅伯茨說，“而且這已經(jīng)讓司法實(shí)務(wù)的運(yùn)作方式面臨著巨大的壓力?！?/p>

這位大法官說的并不只是高精尖的AI技術(shù)，當(dāng)然更包括隨身攜帶的智能設(shè)備、DNA生物技術(shù)等科技革命給傳統(tǒng)證據(jù)基礎(chǔ)上的事實(shí)認(rèn)定帶來的沖擊，以及舊時(shí)代滯后的法律在技術(shù)革命新環(huán)境中的適用和演變，但最具有爭(zhēng)議的是，司法實(shí)踐中掌握國(guó)家機(jī)器的司法機(jī)關(guān)使用甚至依賴技術(shù)行使裁量權(quán)時(shí)，難免讓人開始思考改變世界的科技技術(shù)進(jìn)步與公平正義等社會(huì)目標(biāo)之間的微妙關(guān)系。

本文中，簡(jiǎn)法幫以美國(guó)威斯康辛州最高法院的一個(gè)法院判例來分享美國(guó)司法機(jī)關(guān)已經(jīng)廣泛使用的一個(gè)風(fēng)險(xiǎn)評(píng)估工具所面臨的程序正義問題。

概述

最初，風(fēng)險(xiǎn)評(píng)估技術(shù)工具僅由緩刑和假釋部門使用，用來幫助確定違法者的最佳監(jiān)督和處罰方式。隨著國(guó)家對(duì)減少重新犯罪的關(guān)注和注重證據(jù)的司法實(shí)務(wù)的發(fā)展，現(xiàn)在這種工具的使用已經(jīng)擴(kuò)大到了量刑的司法實(shí)踐中。然而，這些工具在量刑中的使用則更加復(fù)雜，因?yàn)轱L(fēng)險(xiǎn)評(píng)估工具主要面向減少重新犯罪的目標(biāo)，而司法判刑則具有多個(gè)目的，譬如（1）威懾，（2）救助，（3）懲罰，（4）隔離。

使用特定的以證據(jù)為基礎(chǔ)的風(fēng)險(xiǎn)評(píng)估工具進(jìn)行判刑就是這個(gè)案例的核心問題。在量刑過程中使用COMPAS風(fēng)險(xiǎn)評(píng)估工具是否侵害憲法規(guī)定的正當(dāng)法律程序權(quán)利（簡(jiǎn)法幫注：正當(dāng)法律程序權(quán)利源于英美法系，主要是指任何權(quán)益受到判決影響的當(dāng)事人，都享有被告知和陳述自己意見并獲得聽審的權(quán)利。），就是美國(guó)威斯康辛州上訴法庭向該州最高法院提請(qǐng)裁判的具體問題，因?yàn)镃OMPAS工具的專有保密性質(zhì)讓被告無法對(duì)COMPAS風(fēng)險(xiǎn)評(píng)估的科學(xué)效力提出質(zhì)疑。

被告Eric L. Loomis（以下簡(jiǎn)稱被告）認(rèn)為，一審法院在判刑期間對(duì)COMPAS風(fēng)險(xiǎn)評(píng)估的考慮違反了自己的正當(dāng)法律程序權(quán)利。

威斯康辛州最高法院得出的結(jié)論是：如果使用得當(dāng)，并遵守其明確要求的限制和注意事項(xiàng)，法院在判決中考慮COMPAS風(fēng)險(xiǎn)評(píng)估并不違反被告享有的正當(dāng)法律程序憲法權(quán)利。

最終，由于一審法院考慮COMPAS工具風(fēng)險(xiǎn)評(píng)分時(shí)具有其他獨(dú)立因素的支持，技術(shù)工具的使用并沒有發(fā)揮決定性的作用，所以威斯康辛州最高院認(rèn)定一審法院判決被告入獄六年并沒有不當(dāng)行使自由裁量權(quán)。

法官量刑使用算法技術(shù)工具的一個(gè)案例

這個(gè)案件的事實(shí)沒有爭(zhēng)議。公訴人認(rèn)為，被告是一起飛車槍擊案的駕車人。公訴人指控了五項(xiàng)罪名：（1）一級(jí)肆意危及安全罪，（2）交警抓捕逃逸罪，（3）未經(jīng)車主同意操控汽車罪，（4）罪犯持有槍支罪，（5）擁有短管霰彈槍或步槍罪。

被告否認(rèn)參與飛車槍擊。他放棄了庭審權(quán)利，在與公訴人的控辯交易中（簡(jiǎn)法幫注：美國(guó)的控辯交易是指在司法審查的前提下，刑事案件的檢察官和被告雙方達(dá)成滿意的傾向性意見的程序；通常是以檢察官撤銷指控、降格指控或者要求法官?gòu)妮p判處刑罰為條件，來?yè)Q取被告人的認(rèn)罪答辯，進(jìn)而由控辯雙方達(dá)成均可接受的控辯協(xié)議），該被告對(duì)兩項(xiàng)較輕的罪名指控做出認(rèn)罪答辯，也就是前文的第2項(xiàng)和第3項(xiàng)罪名。

在接受被告的認(rèn)罪答辯后，一審法院裁定開始量刑前調(diào)查。政府量刑前調(diào)查報(bào)告（下稱“量刑報(bào)告”）的附件中包括一個(gè)COMPAS風(fēng)險(xiǎn)評(píng)估的附件。

COMPAS是Northpointe公司設(shè)計(jì)的一款風(fēng)險(xiǎn)需求評(píng)估工具，在獄政局做出入監(jiān)決策、管理囚犯和規(guī)劃懲治時(shí)能夠用來提供決策支持。COMPAS風(fēng)險(xiǎn)評(píng)估依據(jù)的信息從被告的犯罪檔案和與被告的訪談中采集。

COMPAS報(bào)告包括旨在預(yù)測(cè)再犯的風(fēng)險(xiǎn)評(píng)估，另外還有用來確定就業(yè)、住房和藥物濫用等領(lǐng)域項(xiàng)目需求的單獨(dú)評(píng)估。COMPAS報(bào)告的風(fēng)險(xiǎn)評(píng)估部分會(huì)生成條形圖顯示的風(fēng)險(xiǎn)評(píng)分，其中三個(gè)條形格分別代表審前再犯風(fēng)險(xiǎn)、一般再犯風(fēng)險(xiǎn)和暴力再犯風(fēng)險(xiǎn)。每個(gè)條形格顯示的被告的風(fēng)險(xiǎn)級(jí)別落在從一到十的區(qū)間內(nèi)。

風(fēng)險(xiǎn)評(píng)分旨在預(yù)測(cè)具有類似犯罪歷史的人在被釋放后不太可能或更有可能再次犯罪的一般可能性。然而，COMPAS風(fēng)險(xiǎn)評(píng)估并不能預(yù)測(cè)特定罪犯?jìng)€(gè)人再次犯罪的具體可能性；它是基于特定個(gè)人信息與類似（人群）數(shù)據(jù)組的比較而提供的預(yù)測(cè)。

該案例中被告的COMPAS風(fēng)險(xiǎn)分?jǐn)?shù)顯示他在全部三個(gè)條形圖上都呈現(xiàn)了重新犯罪的高風(fēng)險(xiǎn)。他的量刑報(bào)告包括了如何使用COMPAS風(fēng)險(xiǎn)評(píng)估的說明，警示了不當(dāng)使用評(píng)估結(jié)果的風(fēng)險(xiǎn)，并且說明了它應(yīng)當(dāng)用于確定可以從干預(yù)措施中受益的囚犯以及在監(jiān)督期間應(yīng)該處理的風(fēng)險(xiǎn)因素。量刑報(bào)告還警示：COMPAS風(fēng)險(xiǎn)評(píng)估不應(yīng)該用于確定量刑的幅度以及罪犯是否應(yīng)當(dāng)采取監(jiān)禁措施。

此外，該案件中的COMPAS報(bào)告的確顯示了被告的高風(fēng)險(xiǎn)和高監(jiān)管需求：暴力的風(fēng)險(xiǎn)很高，再犯的風(fēng)險(xiǎn)很高，審前風(fēng)險(xiǎn)也高；所以這些都是決定適當(dāng)量刑的因素。

最終，一審法院參考了COMPAS風(fēng)險(xiǎn)評(píng)分以及其他判刑因素判決駁回了緩刑的請(qǐng)求：“通過COMPAS評(píng)估，您被確定為對(duì)社區(qū)構(gòu)成高風(fēng)險(xiǎn)的個(gè)人”。在衡量各種因素方面后，一審法院駁回緩刑請(qǐng)求不僅基于犯罪的嚴(yán)重程度，而且因?yàn)楸桓娴摹斑^往歷史、監(jiān)管措施歷史以及所使用的風(fēng)險(xiǎn)評(píng)估工具”都表明了被告再次犯罪的風(fēng)險(xiǎn)極高。

于是，法院針對(duì)被告在控辯交易中認(rèn)罪的交警抓捕逃逸罪和未經(jīng)車主同意操控汽車罪兩項(xiàng)罪名分別判處了兩年和四年的入獄監(jiān)禁及后續(xù)獄外監(jiān)管措施。

接著，被告提請(qǐng)一審法院開庭聽審其認(rèn)罪后的量刑異議。他認(rèn)為，一審法院在量刑時(shí)對(duì)COMPAS風(fēng)險(xiǎn)評(píng)估的考慮違反了他在憲法下的正當(dāng)法律程序權(quán)利。

在庭審中，一審法庭論證了正當(dāng)程序問題。被告提供的專家證人指出在量刑時(shí)使用COMPAS風(fēng)險(xiǎn)評(píng)估的問題。專家證人認(rèn)為，不應(yīng)將COMPAS風(fēng)險(xiǎn)評(píng)估用于決定是否采取入獄監(jiān)禁的判決，因?yàn)镃OMPAS風(fēng)險(xiǎn)評(píng)估不是為此而設(shè)計(jì)的，法院這樣做的巨大風(fēng)險(xiǎn)是過高估計(jì)犯罪人的風(fēng)險(xiǎn)并導(dǎo)致誤判或者基于不相關(guān)的因素做出量刑決定。

該專家證人進(jìn)一步指出，量刑法庭對(duì)于COMPAS評(píng)估如何分析風(fēng)險(xiǎn)的信息知之甚少：“法院不知道COMPAS到底如何將被告?zhèn)€人的歷史與與之進(jìn)行比較的基礎(chǔ)人群進(jìn)行比較。法院甚至都不知道對(duì)比人群是威斯康星人口，紐約人口，加利福尼亞人口……各種各樣的信息法庭都沒有，而我們（風(fēng)險(xiǎn)評(píng)估工具）現(xiàn)在的做法是徑直將這些分值圖放在法官面前讓他們將之用于刑罰，這樣會(huì)誤導(dǎo)法庭。”

一審法院最終還是駁回了緩刑的請(qǐng)求，同時(shí)解釋說使用COMPAS風(fēng)險(xiǎn)評(píng)估是為了驗(yàn)證該院自己的認(rèn)定，無論量刑過程中是否考慮COMPAS風(fēng)險(xiǎn)評(píng)分，該院都會(huì)做出同樣的量刑結(jié)果。

被告提起了上訴，上訴法院將該案子提請(qǐng)到威斯康辛州最高法院。

司法擁抱算法時(shí)的正當(dāng)程序權(quán)利問題

量刑時(shí)能夠使用COMPAS其實(shí)并不是一個(gè)新鮮的做法，威斯康辛州上訴法院在之前的判例中就支持了某初審法院量刑時(shí)對(duì)COMPAS評(píng)估的參考，并指出“COMPAS只不過是法庭在量刑時(shí)可以使用的一種工具”；但與本案例不同的是，該判例中沒有提到正當(dāng)程序的憲法權(quán)利問題。

但是，法律界不乏質(zhì)疑的聲音，擔(dān)心工具的作用被過分看重和濫用。

該案件中，獄政局在量刑報(bào)告里就承認(rèn)了工具的局限性：需要記住的重要一點(diǎn)是——風(fēng)險(xiǎn)評(píng)分不應(yīng)用來確定量刑的幅度以及罪犯是否應(yīng)當(dāng)采取監(jiān)禁措施。

威斯康辛州最高法院表示贊同，并在分析該案件中正當(dāng)程序權(quán)利的問題后提出了必要警示的要求（見下文算法量刑到底靠不靠譜？）。

被告最初主張，COMPAS工具的專有保密屬性讓他無法對(duì)風(fēng)險(xiǎn)評(píng)估的科學(xué)有效性提出質(zhì)疑。因此，被告認(rèn)為，由于量刑報(bào)告中附加了COMPAS風(fēng)險(xiǎn)評(píng)估的附件，被告被剝奪了獲取量刑報(bào)告全面信息的機(jī)會(huì)，因此無法確保自己基于準(zhǔn)確信息而獲得量刑的權(quán)利。

COMPAS的開發(fā)商N(yùn)orthpointe公司認(rèn)為COMPAS是自己專有的工具，構(gòu)成商業(yè)秘密。因此，該司沒有公開披露風(fēng)險(xiǎn)評(píng)分到底如何確定以及評(píng)估因素的權(quán)重到底是怎樣的。被告認(rèn)為，由于COMPAS不披露這些信息，所以他沒有得到一審法院量刑時(shí)使用的全部信息，基于以往判例類比認(rèn)為自己的正當(dāng)法律程序權(quán)利受到侵害。

也就是說，被告認(rèn)為他是最適合反駁或解釋自己COMPAS風(fēng)險(xiǎn)評(píng)估結(jié)果的人選，但僅僅看條形圖反映的分值讓他沒法有效反駁或解釋。此外，被告還認(rèn)為，除非他能夠查看工具背后這些因素是如何衡量的以及風(fēng)險(xiǎn)分?jǐn)?shù)是如何確定的，否則COMPAS評(píng)估的準(zhǔn)確性無法驗(yàn)證。

威斯康辛州最高法院則并不同意。該院指出，盡管被告無法查看和質(zhì)疑COMPAS算法如何計(jì)算風(fēng)險(xiǎn)，但他至少可以審查并質(zhì)疑量刑報(bào)告附件所載風(fēng)險(xiǎn)分值；因此，該案中被告并非沒有機(jī)會(huì)獲取法院依據(jù)的信息進(jìn)行反駁、補(bǔ)充或解釋。

威斯康辛州最高法院認(rèn)為，盡管風(fēng)險(xiǎn)分?jǐn)?shù)沒有解釋COMPAS程序如何使用信息來計(jì)算風(fēng)險(xiǎn)分值，但Northpointe公司COMPAS實(shí)務(wù)操作指南中解釋過風(fēng)險(xiǎn)分值主要基于犯罪歷史等靜態(tài)信息和犯罪同伙、藥物濫用等少數(shù)動(dòng)態(tài)變量。

被告量刑報(bào)告中附錄的COMPAS報(bào)告中就包含了21個(gè)靜態(tài)信息方面的問題，例如：

• 此人在假釋期間多少次被羈押？5+

• 此人在試用期間有多少次新的收費(fèi)/逮捕？4

• 此人以前被逮捕（僅限刑事拘留）了幾次？當(dāng)時(shí)成年還是未成年？12

因此，威斯康辛州最高法院認(rèn)為，被告的風(fēng)險(xiǎn)評(píng)估是基于他對(duì)這些問題的答案以及其犯罪史的公開數(shù)據(jù)，從這個(gè)意義上講，被告完全有機(jī)會(huì)核實(shí)COMPAS報(bào)告中列出的問題和答案是否準(zhǔn)確；一審法院和被告能夠看到的是相同的風(fēng)險(xiǎn)評(píng)估報(bào)告。被告有機(jī)會(huì)通過辯解其他因素或信息來質(zhì)詢風(fēng)險(xiǎn)分值的不準(zhǔn)確性。

算法量刑到底靠不靠譜？

美國(guó)使用COMPAS的一些州已經(jīng)對(duì)COMPAS進(jìn)行了驗(yàn)證研究，認(rèn)為它是一個(gè)足夠準(zhǔn)確的風(fēng)險(xiǎn)評(píng)估工具。紐約州刑事司法服務(wù)局進(jìn)行了一項(xiàng)研究，審查了COMPAS評(píng)估的重新犯罪量值的有效性和預(yù)測(cè)準(zhǔn)確性，并得出結(jié)論認(rèn)為：重新犯罪量值實(shí)用有效，并且預(yù)測(cè)準(zhǔn)確性取得了令人滿意的結(jié)果。與紐約州和其他州不同，威斯康星州尚未針對(duì)威斯康星州人口完成COMPAS統(tǒng)計(jì)驗(yàn)證研究。

另一方面，被告也找到了對(duì)風(fēng)險(xiǎn)評(píng)估工具的其他研究所提出的準(zhǔn)確性方面的質(zhì)疑。例如，他援引了2007年加利福尼亞管教和康復(fù)局的研究，結(jié)論是雖然COMPAS似乎在可以評(píng)估犯罪成因需求和再犯風(fēng)險(xiǎn)，但“幾乎沒有證據(jù)表明這是COMPAS實(shí)際評(píng)估的內(nèi)容”。

加利福尼亞研究報(bào)告進(jìn)一步得出結(jié)論，“沒有明確的證據(jù)表明COMPAS可以由不同的評(píng)估者給出一致的評(píng)分，也沒有明確的證據(jù)表明它可以評(píng)估其旨在評(píng)估的犯罪成因需求或者（非常重要的是）可以預(yù)測(cè)加利福尼亞管教和康復(fù)局囚犯的再次犯罪風(fēng)險(xiǎn)。”最終，該研究的作者沒有推薦加利福尼亞管教和康復(fù)局針對(duì)個(gè)人使用COMPAS工具。

然而，隨后加利福尼亞管教和康復(fù)局又發(fā)表了2010年關(guān)于加利福尼亞COMPAS驗(yàn)證研究的最終報(bào)告。2010年的研究得出結(jié)論，盡管并不完美，但“COMPAS是一個(gè)可靠的工具”。

除了這些問題之外，還有一些人擔(dān)心風(fēng)險(xiǎn)評(píng)估工具可能會(huì)將少數(shù)群體犯罪者的比例過高地歸類為更高的風(fēng)險(xiǎn)，包括家庭背景、教育和種族等各種不可控制的因素。

所以，威斯康辛州最高法院要求，使用風(fēng)險(xiǎn)評(píng)估工具的法域必須確保他們有資源、有能力維護(hù)這些工具并監(jiān)控其持續(xù)準(zhǔn)確性。

針對(duì)法院在量刑中使用所涉及的準(zhǔn)確性問題，威斯康辛州最高法院決定使用COMPAS風(fēng)險(xiǎn)評(píng)估除了前文所述的限制之外，還必須遵守一些注意事項(xiàng)。具體來說，任何含有COMPAS風(fēng)險(xiǎn)評(píng)估的量刑報(bào)告都必須告知量刑法庭關(guān)于COMPAS風(fēng)險(xiǎn)評(píng)估準(zhǔn)確性的以下注意事項(xiàng)：

• COMPAS的專有保密性質(zhì)導(dǎo)致無法公開披露風(fēng)險(xiǎn)評(píng)分到底如何確定以及評(píng)估因素的權(quán)重信息；

• 風(fēng)險(xiǎn)評(píng)估將被告與全國(guó)范圍的樣本進(jìn)行比較，但對(duì)威斯康星州人口的交叉驗(yàn)證研究尚未完成；

• 對(duì)COMPAS風(fēng)險(xiǎn)評(píng)估分值進(jìn)行的一些研究提出問題，質(zhì)詢是否存在少數(shù)群體犯罪者被不均衡地認(rèn)定為重新犯罪高風(fēng)險(xiǎn)的情況；

• 隨著人口結(jié)構(gòu)的不斷變化，風(fēng)險(xiǎn)評(píng)估工具必須不斷監(jiān)測(cè)和調(diào)整以維護(hù)準(zhǔn)確性。這樣，量刑法院才能夠更好地判斷風(fēng)險(xiǎn)評(píng)估的準(zhǔn)確性并賦予風(fēng)險(xiǎn)分值適當(dāng)?shù)臋?quán)重。

盡管如此，威斯康辛州最高法院明確認(rèn)可了COMPAS風(fēng)險(xiǎn)評(píng)估的作用，并且援引了印第安納州最高法院觀點(diǎn)：這些工具有助于法院衡量所有量刑因素。與此同時(shí)，COMPAS風(fēng)險(xiǎn)評(píng)估依據(jù)群體數(shù)據(jù)判斷高風(fēng)險(xiǎn)罪犯群體，而不是特定高風(fēng)險(xiǎn)的個(gè)人；所以，量刑法院針對(duì)每一個(gè)被告?zhèn)€體在考慮所有量刑因素時(shí)都應(yīng)當(dāng)注意這一點(diǎn)，而且COMPAS風(fēng)險(xiǎn)評(píng)估不能構(gòu)成量刑的決定性因素。

算法=正義？元芳，你怎么看？

科技的進(jìn)步在挑戰(zhàn)社會(huì)的每一個(gè)細(xì)胞，包括經(jīng)濟(jì)、政治和生活方式等方方面面，就連司法體系這些維系社會(huì)公平和正義的社會(huì)機(jī)制也不例外。當(dāng)算法工具這樣的科技成果逐漸浸入司法實(shí)踐中甚至影響量刑這樣重要的國(guó)家行為中時(shí)，難免讓人開始擔(dān)憂是否真的在不遠(yuǎn)的未來，AI驅(qū)動(dòng)的智能機(jī)器等技術(shù)工具不僅僅是協(xié)助性介入司法機(jī)關(guān)對(duì)法律的解釋和執(zhí)行，甚至逐步發(fā)揮更加重要的主導(dǎo)作用。

換句話說，人類會(huì)將同類的命運(yùn)或者公平正義等核心價(jià)值的落實(shí)交給人類發(fā)明創(chuàng)造的算法等技術(shù)工具嗎？

美國(guó)聯(lián)邦最高法院大法官羅伯茨聽起來保持著開放的態(tài)度，而且越來越多的法院也在擁抱技術(shù)的進(jìn)步，威斯康辛州最高法院在這個(gè)案子中就這樣樂觀且務(wù)實(shí)地評(píng)論：

在量刑過程中分析使用以證據(jù)為基礎(chǔ)的風(fēng)險(xiǎn)評(píng)估工具，務(wù)必考慮到諸如COMPAS等技術(shù)工具的變化和演進(jìn)。我們今天面臨的擔(dān)憂，今后可能會(huì)隨著工具的完善得到緩解。刑事司法系統(tǒng)應(yīng)該認(rèn)識(shí)到，在未來時(shí)間里，可供使用的研究數(shù)據(jù)會(huì)越來越多，各種各樣更好的工具將會(huì)被開發(fā)出來。隨著數(shù)據(jù)的變化，司法部門使用的工具也必須隨之改變。司法部門必須跟上研究的步伐，必須不斷評(píng)估這些工具在司法實(shí)踐中的使用。

最后，無論你愿意或是不愿意，司法擁抱科技進(jìn)步的明天已經(jīng)到來，至于公平、正義、效率等社會(huì)價(jià)值目標(biāo)在司法擁抱技術(shù)之后最終究竟會(huì)茁壯成長(zhǎng)還是黯然失寵？我們拭目以待。

元芳，你怎么看？

資料來源：本文案件事實(shí)內(nèi)容主要來源于威斯康辛州最高法院的判決書，判決書原文鏈接為：http://www.scotusblog.com/wp-content/uploads/2017/02/16-6387-op-bel-wis.pdf