圖片來源@視覺中國

文 | 陳述根本

當(dāng)前，大數(shù)據(jù)的快速發(fā)展正使算法融入并重塑人們的生活，算法作為機器可讀的程序性指令，利用匯集人類行為的大規(guī)模數(shù)據(jù)集影響著人們方方面面的社會生活。比如，算法推薦新聞、推送廣告、排名商品、安排專車，甚至經(jīng)營工廠、駕駛飛機、評級信用。算法規(guī)訓(xùn)的社會日益成型。

不可否認，算法給人類的生活帶來了諸多便利。然而，盡管算法在提高生產(chǎn)效率、社會福利、治理效能等方便發(fā)揮了重要作用，個體、社會和國家的發(fā)展都深受其益，但算法的應(yīng)用也是一把雙刃劍，帶來了包括算法歧視、算法崩潰等新問題，也加劇了大數(shù)據(jù)時代以來的信息不對稱、知識不對稱以及信息繭房的問題。

算法賦能個體的同時，也增強了政府公權(quán)力和平臺企業(yè)私權(quán)力的支配力、控制力和影響力，即算法權(quán)力。從一開始的“算法理性”再到后來的“算法暴政”，算法是否已經(jīng)偏離造福人類的軌道？而算法社會中賦能后失衡的權(quán)力與權(quán)利關(guān)系又如何糾偏再平衡？

從有限人類理性到無限算法理性

作為一項當(dāng)代科技，算法是一種有限、確定、有效并適合用計算機程序來實現(xiàn)的解決問題的方法，是計算機科學(xué)的基礎(chǔ)。算法是理論中最純粹的知識形式，在某種意義上，其可以看作是一種理性的計算工具。

由于有大數(shù)據(jù)和智能技術(shù)的支撐，因此，無論是在知識交流和知識共享方面，還是在學(xué)習(xí)既往經(jīng)驗方面，算法都遠超過人類個體可以達到的程度。

以 Google 翻譯為例，盡管其翻譯的質(zhì)量還有待提高，但其目前已經(jīng)可以處理 108 種語言，而且其翻譯的精度和可翻譯語言的數(shù)量每年甚至每個月都在提升。而在人類中，只要會十余種外語，就會被視為語言天才。借助Google 翻譯，一個人工智能可以運用的知識，是人類個體遠遠比不上的。

在學(xué)習(xí)既往經(jīng)驗方面，人工智能也遠遠超乎人類之上。比如，“人機大戰(zhàn)”中打敗人類圍棋高手李世石的 AlphaGo。要知道，李世石在過去 15 年獲得了十幾個世界冠軍頭銜，總共下了 1 萬盤圍棋對弈，經(jīng)過了 3 萬個小時訓(xùn)練，每秒可以搜索 10 個走子。而誕生只有兩年時間的 AlphaGo，差不多經(jīng)歷了 3 萬小時的訓(xùn)練，每秒?yún)s可以搜索 10 萬個走子。

可見，無論是在占有作為理性運用之基礎(chǔ)的理論性知識方面，還是在占有關(guān)涉理性運用本身的實踐性知識方面，算法都遠遠要超過人類。并且，作為無機生命，算法沒有理性意志方面的弱點。

人是具有情感的動物，人類在做決定時很大程度上會帶有主觀色彩，而算法的運行則依靠著設(shè)計出的代碼，本身沒有情感可言，也就不存在理性意志薄弱的問題。與人類司機經(jīng)常出現(xiàn)酒駕、不避讓行人、闖紅燈、疲勞駕駛等非理性行為相比，一個搭載智能算法的自動駕駛汽車可以避免這些問題。

換言之，人類常常因為情感或者欲望的限制，無法實施實踐理性所要求的行為，從而導(dǎo)致“實踐非理性”的出現(xiàn)，而沒有感情的算法恰好可以做到完全的理性。算法就像是一個不知疲倦的“永動機”，只要有電源，只要機器運轉(zhuǎn)正常，它就可以永遠執(zhí)行命令。正是這種“有理性、但又不會面臨著人類理性意志薄弱困境”的特性，使得算法具有廣闊的應(yīng)用前景。

一方面，算法正在憑借著日益增強的計算能力，在海量數(shù)據(jù)的投喂以及機器學(xué)習(xí)中不斷走向成熟。通過與互聯(lián)網(wǎng)絡(luò)的鏈接，開始逐步實現(xiàn)與整個社會的深度融合，實現(xiàn)權(quán)利賦能。算力的提高、算法技術(shù)自身的進步以及算法應(yīng)用的多樣化，賦予了各類私主體更多的權(quán)能和社會福利。

比如，算法應(yīng)用的成熟拓寬了民眾進行信息獲取、知識獲取、意見表達的渠道；政府可以通過相應(yīng)的算法應(yīng)用對民眾所需信息、反應(yīng)意見進行快速的歸納與分類；平臺企業(yè)作為私主體，也可以結(jié)合其所提供的相關(guān)服務(wù)，有針對性地收集各類用戶數(shù)據(jù)，促進算法技術(shù)的成長與成熟，再讓成熟的算法應(yīng)用反哺平臺業(yè)務(wù)的發(fā)展。

另一方面，權(quán)力作為一種社會關(guān)系，是某個主體能夠運用其擁有的資源，對他人發(fā)生強制性的影響力、控制力。而運用算法的主體可以通過算法進一步強化對其他主體的影響力和控制力，算法賦能權(quán)力由此而來。借由評級、分類、預(yù)測和數(shù)據(jù)處理，算法實際上是在作決斷，選擇某些方向、結(jié)果而不是另外的方向、結(jié)果。面對算法的強大支配力，人們正在失去選擇的權(quán)力。

算法賦權(quán)走向失衡

相比傳統(tǒng)權(quán)力形態(tài)，“智能化”的算法權(quán)力表現(xiàn)出更強大的控制力，可以深入社會、無遠弗界，無孔不入，效能強大，但硬幣的另一面則是算法對社會的異化。算法權(quán)力的作用直接表現(xiàn)為算法所產(chǎn)生的影響力與控制力，其深層次的影響在于對個體與社會之間關(guān)系的重塑，而重塑的結(jié)果卻帶來了權(quán)利與權(quán)力的格局失衡。

對于政府來說，當(dāng)政府機關(guān)利用算法應(yīng)用行使公權(quán)力時，其造成了治理的“算法化”與“去政治化”，人們必須普遍遵循政府機關(guān)所預(yù)設(shè)的算法規(guī)則。更進一步來看，算法已經(jīng)與公權(quán)力緊密結(jié)合，在宏觀調(diào)控、市場監(jiān)管、公共服務(wù)、司法執(zhí)法等各個領(lǐng)域得到深入應(yīng)用。

在相當(dāng)多場景下，算法已經(jīng)取代了人的位置，直接做出具體行政行為。比如，公共區(qū)域遍布人臉識別的監(jiān)控探頭，人們須接受智慧交通系統(tǒng)所開出的交通罰單。這種無處不在的算法一方面便利了政府監(jiān)管，另一方面也使得每個正常生活于現(xiàn)代社會的個人處于時刻被算法應(yīng)用監(jiān)聽、監(jiān)控、監(jiān)督的狀態(tài)，形成了一種控制型社會。

而對于企業(yè)來說，平臺企業(yè)通過算法行使的私權(quán)力則更加具有針對性與特殊性。究其原因，算法權(quán)力作為一種“軟權(quán)力”，有其自身的運行邏輯。智能算法的研發(fā)與使用依托于大型互聯(lián)網(wǎng)企業(yè)，注定了算法權(quán)力以利益為導(dǎo)向，遵循商業(yè)邏輯，具有與生俱來的歧視性和偏好性。

在這個過程中，算法的研發(fā)和運行作為商業(yè)秘密，受到各個企業(yè)的保護，具有“黑箱”性質(zhì)，資本可以輕易地將自身的利益訴求植入算法，利用技術(shù)的“偽中立性”幫助自身實現(xiàn)特定的訴求，實現(xiàn)平臺的發(fā)展與擴張，追求利益最大化。

研發(fā)者的價值導(dǎo)向會內(nèi)化在算法運行的過程中，進行意識形態(tài)的催化和導(dǎo)向。享有資本支持的算法技術(shù)能夠享用更全面的數(shù)據(jù)樣本，建立更優(yōu)化的運行架構(gòu)，強化對政府、公民、社會的影響力和控制力。

于是，在技術(shù)企業(yè)的層層包裝下，“知情-同意”其實已經(jīng)形同虛設(shè)，如在隱藏界面或者軟件升級中設(shè)置“后門”，在軟件下載使用過程中不設(shè)菜單式選擇而只有概括式同意，隱私政策和用戶協(xié)議有意用晦澀繁瑣冗長的表述等方式，讓用戶“被知情”“被同意”。

并且，由于算法應(yīng)用的廣泛性，一旦拒絕使用或者由于能力所限不能使用，往往意味著正常生活受到影響。如不會使用二維碼、智能手機的老年人、殘疾人、貧困者，無法上網(wǎng)購物點餐、難以乘坐公共交通，不能掃碼進出小區(qū)等。

要知道，權(quán)利是經(jīng)由社會判斷、協(xié)商和權(quán)衡后，得到公認受到保障的每個社會成員所應(yīng)分配的合理利益。在法理學(xué)的視域下，權(quán)力是為權(quán)利而設(shè)置的，權(quán)利是對利益分配的處置。權(quán)力的根本是利益，既為特定的利益而存在，也以利益為基礎(chǔ)和依托。

然而，算法權(quán)力的利益代表卻是資本。這意味著，資本能夠從事權(quán)利的界定及權(quán)衡，成為一種“公共機關(guān)”。并且，隨著技術(shù)企業(yè)權(quán)力的不斷壯大，國家與社會的二元結(jié)構(gòu)被打破，形成了“公權(quán)力-私權(quán)力-私權(quán)利”的新權(quán)力格局，但權(quán)力與權(quán)利之間卻出現(xiàn)了失衡。

一方面，公眾源源不斷地貢獻了自己的數(shù)據(jù)，這成為了財富增長、權(quán)力實現(xiàn)的重要基礎(chǔ)，而自己非但沒能從中分享絲毫收益，反而還面臨著隱私泄露、信息繭房、大數(shù)據(jù)殺熟等種種侵害，收益與風(fēng)險遠不成正比。另一方面，個人無時不刻地被算法定義、評級、處置，卻因算法的不公開、不透明，其知情權(quán)、參與權(quán)、異議權(quán)、救濟權(quán)等正當(dāng)權(quán)利被架空。

以“數(shù)字人權(quán)”對抗“算法暴政”

從“算法理性”到“算法暴政”，算法仿佛偏離了軌道。但是亡羊補牢，從來都為時不晚。事實上，秩序的構(gòu)建正是人類社會文明的本質(zhì)，規(guī)制權(quán)力也是規(guī)制技術(shù)。技術(shù)的良性發(fā)展不僅取決于自身的創(chuàng)新，更取決于人的正確引導(dǎo)。

首先，社會發(fā)展是制度進步的元動力，法律制度也應(yīng)隨社會的進步而完善，逐步走向精細化和人文化。對算法權(quán)力進行法律規(guī)制時，既要堅持預(yù)防，又要考慮成本效益，增強算法技術(shù)本身的透明度和算法權(quán)力運行的公開程度。要進行具體法律條文的精細化修訂，增強法的可解釋性，并設(shè)置監(jiān)管環(huán)節(jié)，不能以“技術(shù)中立”為借口，逃避意識形態(tài)和法律的責(zé)任。

其中，人工智能時代，不管算法如何向智能化階段演進，均不能脫離大數(shù)據(jù)而單獨存在。“技術(shù)只有透明才能獲益”。因此，防御算法風(fēng)險的首要舉措即是對大數(shù)據(jù)的收集與利用進行立法規(guī)制。只有對大數(shù)據(jù)收集與利用環(huán)節(jié)進行有力規(guī)制，算法決策環(huán)節(jié)才有可能降低歧視風(fēng)險的發(fā)生。

以算法歧視為例，目前，很多大數(shù)據(jù)學(xué)習(xí)算法在決策判斷時，標準并不透明，這使得從技術(shù)層面跟蹤代碼違規(guī)，幾乎是不可能實現(xiàn)。由于算法的復(fù)雜性，研究人員很難判斷在哪一個環(huán)節(jié)導(dǎo)致算法帶上歧視。因此，大數(shù)據(jù)公司應(yīng)公布所使用的大數(shù)據(jù)算法的源碼和所用的數(shù)據(jù)，一旦出現(xiàn)算法歧視，也能有跡可循。

其次，規(guī)制算法私權(quán)力，首先要發(fā)揮算法公權(quán)力的作用。無疑，算法的研發(fā)與運行需要投入巨大的資金和人力，資本為技術(shù)研發(fā)提供物質(zhì)保障，成為算法運行中的把控者。強大的技術(shù)研發(fā)能力是算法權(quán)力發(fā)展的重要推動力，但任何一項技術(shù)的發(fā)展都不應(yīng)離開政府的監(jiān)管。

而政府干預(yù)的核心則是打破商業(yè)資本與技術(shù)之間強烈的依附性，避免商業(yè)利益成為權(quán)力的方向盤。人工智能時代，算法治理是大勢所趨。政府要加大對算法技術(shù)的把控，建立透明的算法運行機制和協(xié)調(diào)的智能政務(wù)系統(tǒng)，設(shè)立算法技術(shù)研發(fā)和運行的標準，嵌入公共利益的價值觀，平衡多元價值。

最后，規(guī)制算法私權(quán)力，還需要以“數(shù)字人權(quán)”對抗“算法暴政”。所謂“數(shù)字人權(quán)”，就是要明確技術(shù)的出發(fā)點必須是要以人為本，并將人權(quán)保障作為技術(shù)應(yīng)用的尺度和標準。算法倫理的核心是保障人的價值和尊嚴，充分尊重個人權(quán)利。

也就是說，算法倫理要將人視為重要的、有權(quán)利的并且有價值的個體，體現(xiàn)技術(shù)關(guān)懷和以人為本的理念，尊重人的自由和人格。在實踐中，一方面要對算法技術(shù)相關(guān)從業(yè)人員進行技能培訓(xùn)和倫理培訓(xùn)，在道德層面上進行自律；另一方面，要加強人工智能行業(yè)的倫理建設(shè)，加強行業(yè)標準的設(shè)立。

算法正在潛移默化的影響著當(dāng)前的人們的生活以及人們做出的決定，但是這種微妙的操作并非不偏不倚。糾偏算法時代下權(quán)力與權(quán)利的失衡，更是項系統(tǒng)性工程。這需要緊抓算法權(quán)力的運行邏輯，加強對算法的立法規(guī)制與監(jiān)管，更要轉(zhuǎn)換制約權(quán)力的思維與方式，讓算法助力社會治理，在治理中找回“人”的存在。（本文首發(fā)鈦媒體APP）

更多精彩內(nèi)容，關(guān)注鈦媒體微信號（ID：taimeiti），或者下載鈦媒體App