“2021 世界人工智能大會(huì)-可信 AI 論壇” 今日在上海召開，來自美、英、澳等多國院士、學(xué)者，共同探討可信 AI 從認(rèn)知演進(jìn)，到理論研究，再到產(chǎn)業(yè)探索等多個(gè)的議題。螞蟻集團(tuán)副總裁、首席 AI 科學(xué)家漆遠(yuǎn)教授在會(huì)上透露，繼 “隱私計(jì)算” 和 “圖學(xué)習(xí)” 技術(shù)取得實(shí)踐成果后，螞蟻集團(tuán)在可信 AI 技術(shù)體系中的又一項(xiàng)重要技術(shù)——“智能對(duì)抗” 技術(shù)現(xiàn)已正式上線部署，支持反欺詐等多個(gè)風(fēng)控場(chǎng)景。

漆遠(yuǎn)在會(huì)上分享了螞蟻集團(tuán)在可信 AI 技術(shù)領(lǐng)域的多項(xiàng)技術(shù)和應(yīng)用成果。他表示，融入經(jīng)濟(jì)學(xué) “博弈理論” 的 “智能對(duì)抗” 技術(shù)，能夠借助 “雙手互博” 的演習(xí)機(jī)制，讓 AI 模擬黑產(chǎn)發(fā)起對(duì)自身的攻擊演練，從而幫助 AI 在風(fēng)險(xiǎn)識(shí)別能力、抗打擊能力上持續(xù)、自動(dòng)進(jìn)化升級(jí)。據(jù)悉，該技術(shù)應(yīng)用于金融風(fēng)控領(lǐng)域，在業(yè)內(nèi)尚屬首次。

做好未來 5 年的技術(shù)儲(chǔ)備 “智能對(duì)抗” 技術(shù)已上線

“未來的風(fēng)控將不再是人和人的斗爭，而是 AI 與 AI 的博弈，” 漆遠(yuǎn)在演講中表示，“在支付寶上，每天上億筆交易背后，發(fā)起攻擊的早已不是散戶，而是專業(yè)的黑產(chǎn)團(tuán)伙。”

為了應(yīng)對(duì)復(fù)雜多變的黑產(chǎn)攻擊，如何持續(xù)加強(qiáng)風(fēng)控模型的抗打擊能力，做到 “魔高一尺，道高一丈” 成為擺在螞蟻集團(tuán)技術(shù)團(tuán)隊(duì)面前的難題。

2018 年，漆遠(yuǎn)帶領(lǐng)著螞蟻集團(tuán) AI 技術(shù)骨干，在人工智能模型算法中融入經(jīng)濟(jì)學(xué) “博弈理論”，開發(fā)了一項(xiàng)業(yè)界全新的技術(shù)——“智能對(duì)抗”，即通過結(jié)合 AI 和博弈對(duì)抗，讓機(jī)器自動(dòng)且實(shí)時(shí)、動(dòng)態(tài)地對(duì)自身系統(tǒng)進(jìn)行安全性攻擊，從而提升模型能力，使模型更加魯棒（robust），處理結(jié)果更加準(zhǔn)確。

就像金庸小說里的 “雙手互博”，借助 “智能對(duì)抗” 技術(shù)，用更智能的 “攻”，實(shí)現(xiàn)更安全的 “防”。 “智能對(duì)抗” 技術(shù)在權(quán)威機(jī)構(gòu) Gartner 發(fā)表的白皮書中被列為 2021 年十大金融科技趨勢(shì)之一。因該技術(shù)具有對(duì)風(fēng)險(xiǎn)知識(shí)形成感知、分析和預(yù)測(cè)的能力，未來將成為可信 AI 領(lǐng)域的核心安全技術(shù)。

記者了解到，自 2018 年起，螞蟻集團(tuán) “智能對(duì)抗” 技術(shù)的相關(guān)研究成果已陸續(xù)在包括 ICML、ICLR 在內(nèi)的全球技術(shù)頂會(huì)上發(fā)表，擁有全球?qū)＠?8 項(xiàng)。2020 年，“智能對(duì)抗” 技術(shù)正式應(yīng)用于支付寶反欺詐，目前已覆蓋支付寶風(fēng)控的賬戶、欺詐、交易安全等多個(gè)場(chǎng)景，對(duì) AI 模型的魯棒性（robustness）有明顯提升。

可信 AI 是數(shù)字時(shí)代 “抵御風(fēng)險(xiǎn)” 的關(guān)鍵能力

隨著數(shù)字化進(jìn)程的不斷加速，AI 在推進(jìn)傳統(tǒng)產(chǎn)業(yè)數(shù)字化升級(jí)的過程中作用顯著。在借助 AI 防御數(shù)字經(jīng)濟(jì)風(fēng)險(xiǎn)的同時(shí)，如何確保 AI 的安全、可信和公平成為全行業(yè)關(guān)注的重要課題。

今年 6 月，螞蟻集團(tuán)首次向外界發(fā)布了螞蟻可信 AI 技術(shù)架構(gòu)體系，具體來看：拓展數(shù)據(jù)價(jià)值的隱私計(jì)算技術(shù)，實(shí)現(xiàn)「數(shù)據(jù)不動(dòng)價(jià)值動(dòng)」的重要命題；“博弈與魯棒性” 是保障 AI 可信及穩(wěn)定運(yùn)營的關(guān)鍵，“可解釋性與因果分析” 和 “公平性” 的研究能夠幫助人類更好地信任及依賴 AI 做出正確決策。

全球?qū)＠麢?quán)威機(jī)構(gòu) IPR Daily 在 6 月發(fā)布報(bào)告顯示，螞蟻集團(tuán)目前擁有全球范圍內(nèi)數(shù)量最多的 “AI 安全可信關(guān)鍵技術(shù)” 專利。

可信 AI 不再是理論和暢想，已全面應(yīng)用實(shí)踐

作為數(shù)字經(jīng)濟(jì)中 “抵御風(fēng)險(xiǎn)” 的關(guān)鍵，可信 AI 技術(shù)目前已在螞蟻集團(tuán)包括反欺詐、反洗錢、反賭博、企業(yè)聯(lián)合風(fēng)控、數(shù)據(jù)隱私保護(hù)在內(nèi)的多個(gè)風(fēng)控場(chǎng)景下落地，支撐著支付寶全風(fēng)險(xiǎn)域的防御需求，也是 “螞蟻反欺詐智能風(fēng)險(xiǎn)感知與響應(yīng)系統(tǒng)” 的核心技術(shù)。

除金融風(fēng)控場(chǎng)景外，可信 AI 技術(shù)還被廣泛應(yīng)用于數(shù)據(jù)隱私保護(hù)、金融科技服務(wù)等多個(gè)領(lǐng)域。前不久，采用可信 AI 技術(shù)的網(wǎng)商銀行 “大山雀” 衛(wèi)星遙感風(fēng)控系統(tǒng)項(xiàng)目獲評(píng)農(nóng)業(yè)部農(nóng)村部農(nóng)村金融十佳創(chuàng)新實(shí)踐。

同時(shí)，圍繞 AI 公平性的建設(shè)和發(fā)展，螞蟻先后啟動(dòng)了針對(duì)不發(fā)達(dá)地區(qū)的 “AI 豆計(jì)劃”、針對(duì)視障礙人群的 “空中手勢(shì)” 驗(yàn)證碼方案等項(xiàng)目。通過可信 AI 技術(shù)的研究和投入，促進(jìn)相對(duì)落后地區(qū)的經(jīng)濟(jì)發(fā)展，幫扶弱勢(shì)群體，彌合數(shù)字鴻溝。