原標(biāo)題：人工智能面臨的三大安全風(fēng)險(xiǎn)

　　[據(jù)C4ISRNET網(wǎng)站2019年9月10日?qǐng)?bào)道] 安全與新興技術(shù)中心創(chuàng)始主任表示，在人工智能領(lǐng)域的系統(tǒng)保護(hù)上，美國(guó)政府需要投入更多的精力與資金，否則未來(lái)將耗費(fèi)數(shù)十億美元進(jìn)行補(bǔ)救。

安全與新興技術(shù)中心是一所位于喬治城大學(xué)沃爾什外交學(xué)院的研究機(jī)構(gòu)，旨在為美國(guó)政府出謀劃策并進(jìn)行智能分析。詹森·馬西尼是該中心的負(fù)責(zé)人，在這所機(jī)構(gòu)成立之前，他曾是美國(guó)國(guó)家情報(bào)部門(mén)的副主任。更早的時(shí)候，曾擔(dān)任過(guò)美國(guó)情報(bào)先期研究計(jì)劃局局長(zhǎng)；而現(xiàn)在，他是美國(guó)人工智能?chē)?guó)家安全委員會(huì)的成員之一。

2019年，美國(guó)召開(kāi)了情報(bào)和國(guó)家安全峰會(huì)。詹森·馬西尼在專(zhuān)題小組討論會(huì)上表示，雖然美國(guó)國(guó)防部與私營(yíng)企業(yè)都增加了在人工智能領(lǐng)域中的資金投入，可大家都沒(méi)有對(duì)人工智能系統(tǒng)開(kāi)發(fā)中日益明顯的安全隱患給予足夠的關(guān)注。

詹森·馬西尼表示：“我們現(xiàn)在用到的大部分技術(shù)在研發(fā)時(shí)都忽略了一個(gè)問(wèn)題——是否會(huì)遇到"聰明的對(duì)手"，這些技術(shù)都還沒(méi)被攻擊入侵過(guò)，有點(diǎn)"少不更事"。研發(fā)人員需考慮三種主要類(lèi)型的攻擊——對(duì)抗樣本、木馬程序與模型轉(zhuǎn)換。”

對(duì)抗樣本指的是通過(guò)讓人工智能系統(tǒng)輸出錯(cuò)誤分類(lèi)的數(shù)據(jù)，對(duì)該系統(tǒng)形成干擾。對(duì)手可利用人工智能系統(tǒng)處理數(shù)據(jù)的方式，讓該系統(tǒng)“看到”實(shí)際上并不存在的事物。

詹森·馬西尼表示：“對(duì)手可利用這種技術(shù)來(lái)干擾分類(lèi)器，使其產(chǎn)生錯(cuò)覺(jué)。舉個(gè)例子：分類(lèi)器本應(yīng)"看到"的是坦克的圖像，但卻把它認(rèn)作一輛校車(chē)或一只海豚了。這是一種讓機(jī)器學(xué)習(xí)系統(tǒng)產(chǎn)生視覺(jué)幻象的技術(shù)。”

對(duì)抗樣本通常出現(xiàn)在研發(fā)成功的人工智能系統(tǒng)上，而研發(fā)階段中的人工智能系統(tǒng)也許會(huì)遇到木馬程序攻擊。在木馬攻擊程序中，對(duì)手可以改變?nèi)斯ぶ悄芟到y(tǒng)的學(xué)習(xí)環(huán)境，使其學(xué)習(xí)錯(cuò)誤的內(nèi)容。

第三種類(lèi)型的攻擊稱為模型轉(zhuǎn)換，通常出現(xiàn)在機(jī)器學(xué)習(xí)系統(tǒng)中。基本上，入侵者可經(jīng)由模型轉(zhuǎn)換對(duì)機(jī)器學(xué)習(xí)系統(tǒng)執(zhí)行逆向工程，查看訓(xùn)練該系統(tǒng)的有關(guān)信息。

詹森·馬西尼表示：“因此，倘若你有一堆即將應(yīng)用于某個(gè)模型上的分類(lèi)數(shù)據(jù)，保護(hù)好模型確實(shí)是有必要的。哪怕它已經(jīng)完成了最高級(jí)別的分類(lèi)數(shù)據(jù)的訓(xùn)練，你也得謹(jǐn)慎行事。雖然人工智能技術(shù)存在這三個(gè)安全隱患，用在人工智能安全領(lǐng)域的研發(fā)資金卻不到1%。我們現(xiàn)在用于改進(jìn)大多數(shù)信息技術(shù)系統(tǒng)的安全措施，就是曾經(jīng)用來(lái)解決20世紀(jì)80年代甚至更早時(shí)期中系統(tǒng)出現(xiàn)的諸多漏洞的那些措施。在某些情況下，我們就必須在一開(kāi)始研發(fā)人工智能技術(shù)的時(shí)候就強(qiáng)化安全保障。否則，多年后我們就得花費(fèi)數(shù)十億美元來(lái)升級(jí)安全領(lǐng)域了。”（工業(yè)和信息化部電子第一研究所 朱航琪 宋文文）返回搜狐，查看更多

責(zé)任編輯：