由AI Portraits算法生成的圖像

【網易智能訊8月10日消息】近日，研究人員推出了名為AI Portraits的網站，借助人工智能（AI）技術，你可以上傳自拍照，然后看著它變成你的經典肖像。幾秒鐘之內，你就能成為梵高、倫勃朗或提香畫作中的主角。

據了解，AI Portraits利用AI的生成式對抗網絡（generative adversarial network）進行藝術創作，并迅速走紅。原因很容易理解：AI能夠創造令人印象深刻的藝術，這一事實已經吸引了公眾的想象力，畢竟曾有機器生成的畫作在拍賣會上拍出43.25萬美元的價格。現在，AI正在把我們變成令人印象深刻的藝術作品主角，我們當然會感到格外興奮。

我發現AI Portraits吸引人的地方，不僅在于它能把我變成文藝復興時期的漂亮女人，還在于研究人員首先給出的創建該網站的理由。他們希望我們探索人類偏見滲入AI的方式，包括他們剛剛放在我們指尖的AI。

在麻省理工學院-IBM沃特森AI實驗室，研究人員使用了4.5萬幅畫作來訓練他們的算法模型。這些數據包括從文藝復興早期到當代的藝術肖像畫，但其重點是15世紀的歐洲畫作。

研究人員在網站上寫道:“這種肖像畫非常具有西方藝術傳統特色。在具有如此強烈偏見的數據集上訓練我們的模型，讓我們反思AI公平的重要性。”

研究人員讓我們注意到這樣一個事實：他們的AI工具會把我們的自拍變成漂亮的肖像，但這是一種非常特別的美。它沒有以印度微型畫的風格重塑我們，因為它沒有接受過印度藝術品的訓練。一個專門研究歐洲藝術的人AI當然只會創作出偏向歐洲風格的肖像畫。

AI Portraits算法生成的油畫、水彩畫和水墨風格的肖像作品

此外，這些是不允許我們微笑的肖像。正如創作者所解釋的那樣：“我們鼓勵您使用該工具進行試驗，以探索算法模型的偏見。例如，嘗試在輸入圖像中微笑或大笑。你看到了什么?模型是否會產生沒有微笑或大笑的肖像?肖像大師很少畫微笑的人，因為微笑和大笑通常與風俗畫中更滑稽的一面聯系起來，而且像微笑這樣的外在表現似乎會扭曲被畫者的臉。AI無法重現我們的笑容，這讓我們對藝術史有所了解。”

這也說明了“輸入偏見，輸出偏見”的關鍵AI原則。這意味著你從AI系統中得到什么，實際上取決于你輸入了什么。換句話說，AI在某種程度上并非是“客觀的”。這是個我們很多人還沒有意識到的現實，很大程度上是因為算法決策系統的開發者和營銷者把它們作為工具，以此來幫助我們更公正地做出選擇。

算法偏見問題

到目前為止，我們知道打造“無偏見AI”依然只是夢想，因為我們已經看到了一個又一個關于算法偏見如何損害人們生活的例子。

亞馬遜放棄了一種招聘算法，因為該算法顯示男性簡歷比女性簡歷更受歡迎。研究人員得出結論，法庭判決中使用的算法對白人比對黑人更寬容。一項研究發現，抵押貸款算法歧視拉美裔和非裔美國借款人。

跨性別Uber司機的賬戶被凍結，因為該公司的面部識別系統不善于識別正在變性的人的面孔。另外三種面部識別系統被發現，與有色人種相比，白人更容易識別。我可以繼續舉出很多例子，但你應該明白了。這是相當令人沮喪的，我們能修好它嗎?

科技行業知道，人類的偏見會滲透到AI系統中，像IBM這樣的公司，正在發布“消除偏見工具包”來解決這個問題。這些方法提供了掃描AI系統偏見的方法，比如，通過檢查它們所訓練的數據來調整它們，使它們更公平。

但技術去偏見并不等同于公平。在某些情況下，它會導致更多的社會危害。例如，考慮到面部識別技術現在被用于警察監控中，主要針對有色人種，也許我們并不想讓它在識別黑人方面發揮太大作用。

這就是為何我認為我們需要新的法律保護來保護我們免受有偏見AI系統傷害的原因，并在10位AI專家的幫助下起草了算法權利法案。其中的要求包括透明度、知情同意、糾正機制以及對出錯算法系統的獨立監督等。

不過，現實情況是，這些保護措施要被企業內部化可能還需要一段時間，更不用說寫入法律了。與此同時，對我們來說，充分意識到AI帶來的風險至關重要。一個能把自拍變成炫酷肖像的有趣網站不會把我們帶到那里，但正因為它既有趣又酷，為此可以成為一個非常有效的教育工具。?

（選自：Vox 作者：Sigal Samuel 編譯：網易智能 參與：小小）