原標(biāo)題：什么是機(jī)器行為？如何解釋AI？

理解人工智能(AI)代理或程序的“行為方式”，是未來十年人工智能的關(guān)鍵挑戰(zhàn)之一。某些方法提供了對(duì)AI程序行為的洞察，對(duì)于這些方法，我們稱其是具備可解釋性的。到現(xiàn)在為止，大多數(shù)可解釋性技術(shù)都集中于探索深度神經(jīng)網(wǎng)絡(luò)的內(nèi)部結(jié)構(gòu)。

最近，麻省理工學(xué)院(MIT)的一組AI研究人員正在探索一種較為激進(jìn)的方法，試圖用我們研究人類或動(dòng)物行為的方法，來解釋人工智能，觀察它們的行為。他們將自己的思路與方法總結(jié)為——機(jī)器行為，這有望成為未來幾年人工智能最令人興奮的領(lǐng)域之一。

機(jī)器行為背后的思想可能是與轉(zhuǎn)變有關(guān)的，但它的原則相對(duì)簡(jiǎn)單。為了理解AI代理的行為，機(jī)器行為更多地依賴于觀察而不是工程知識(shí)。具體可以參考我們?nèi)绾卧谧匀画h(huán)境中觀察動(dòng)物的行為，并從中得出結(jié)論。我們從觀察中得到的大多數(shù)結(jié)論與我們的生物學(xué)知識(shí)無關(guān)，而是與我們對(duì)社會(huì)互動(dòng)的理解有關(guān)。

在AI中，研究這些虛擬的和具體化的AI代理的行為的科學(xué)家，主要是那些自己創(chuàng)建了這些代理的科學(xué)家，相當(dāng)于需要生物學(xué)博士才能理解動(dòng)物的行為。理解AI代理不僅需要解釋特定的算法，還需要分析代理與周圍環(huán)境之間的交互。要做到這一點(diǎn)，通過簡(jiǎn)單的觀察進(jìn)行行為分析可能是一個(gè)強(qiáng)大的工具。

什么是機(jī)器行為?

機(jī)器行為是一個(gè)利用行為科學(xué)來理解AI代理行為的領(lǐng)域。目前，最常研究機(jī)器行為的科學(xué)家是計(jì)算機(jī)科學(xué)家、機(jī)器人專家和工程師，首先他們創(chuàng)造了這些機(jī)器。雖然這群人有豐富的計(jì)算機(jī)科學(xué)和數(shù)學(xué)知識(shí)來理解AI代理的內(nèi)部原理，但他們一般不是經(jīng)過長(zhǎng)期學(xué)習(xí)的行為主義研究者。他們很少接受實(shí)驗(yàn)方法論、基于人口的統(tǒng)計(jì)和抽樣范式或觀察性因果推理方面的正式指導(dǎo)，更不用說神經(jīng)科學(xué)、集體行為或社會(huì)理論了。同樣，即使行為科學(xué)家了解這些學(xué)科，他們也缺乏了解特定算法或技術(shù)效率的專業(yè)知識(shí)。從這個(gè)角度來看，機(jī)器行為處于計(jì)算機(jī)科學(xué)、工程學(xué)和行為科學(xué)的交叉點(diǎn)，以實(shí)現(xiàn)對(duì)AI代理行為的全面理解。

隨著人工智能代理變得越來越復(fù)雜，分析它們的行為將是理解它們的內(nèi)部架構(gòu)以及它們與其他代理或環(huán)境的交互的組合。前者基于深度學(xué)習(xí)優(yōu)化技術(shù)，后者將部分依賴于行為科學(xué)。

　理解AI代理的行為模式

動(dòng)物行為學(xué)是生物學(xué)的一個(gè)領(lǐng)域，主要研究動(dòng)物在自然條件下的行為和進(jìn)化特征。動(dòng)物行為學(xué)的奠基人之一是廷伯根(Nikolaas Tinbergen)，他因?yàn)榘l(fā)現(xiàn)了動(dòng)物行為的關(guān)鍵維度而獲得了1973年的諾貝爾生理學(xué)或醫(yī)學(xué)獎(jiǎng)。廷伯根的觀點(diǎn)是，理解動(dòng)物和人類行為有四個(gè)互補(bǔ)的維度：功能、機(jī)制、發(fā)展和進(jìn)化歷史。盡管AI和動(dòng)物之間存在根本性的差異，但機(jī)器行為還是借用了廷伯根的一些觀點(diǎn)來概括AI代理行為的主要部分。機(jī)器擁有產(chǎn)生行為的機(jī)制，經(jīng)歷了將環(huán)境信息集成到行為中，產(chǎn)生功能結(jié)果，使特定的機(jī)器在特定環(huán)境中或多或少變得常見，并體現(xiàn)進(jìn)化歷史，通過歷史環(huán)境和人類決策繼續(xù)影響機(jī)器行為。

機(jī)器行為的研究集中在四個(gè)基本領(lǐng)域：機(jī)制、發(fā)展、功能和進(jìn)化，跨越三個(gè)主要尺度：個(gè)體、集體和混合。

對(duì)于給定的AI代理，機(jī)器行為將試圖通過研究以下四個(gè)方面來解釋其行為:

1、機(jī)制：AI代理生成行為的機(jī)制基于其算法和執(zhí)行環(huán)境的特點(diǎn)。在最基本的層次上，機(jī)器行為利用可解釋性技術(shù)來理解特定行為模式背后的特定機(jī)制。

2、發(fā)展：AI代理的行為不是一次性發(fā)生的，而是隨著時(shí)間的推移而發(fā)展的。機(jī)器行為研究機(jī)器如何獲得(發(fā)展)特定的個(gè)人或集體行為。行為發(fā)展可能是工程選擇的結(jié)果，也可能是代理的經(jīng)驗(yàn)。

3、功能：行為分析的一個(gè)有趣方面是了解特定行為如何影響AI代理的全生命周期功能。機(jī)器行為研究行為對(duì)AI代理特定功能的影響，以及如何將這些功能復(fù)制或優(yōu)化到其他AI代理上。

4、進(jìn)化：除了功能，AI代理還容易受到進(jìn)化歷史和與其他代理交互的影響。在整個(gè)進(jìn)化過程中，AI代理算法的各個(gè)方面都在新的環(huán)境中得到重用，這既限制了未來的行為，也可能帶來新的創(chuàng)新。從這個(gè)角度來看，機(jī)器行為也研究AI代理的進(jìn)化。

上述四個(gè)方面為理解AI代理的行為提供了一個(gè)整體模型。然而，當(dāng)我們?cè)u(píng)估一個(gè)單一代理的分類模型時(shí)，這四個(gè)要素并不適用于一個(gè)擁有數(shù)百輛汽車的自動(dòng)駕駛汽車環(huán)境。從這個(gè)意義上說，機(jī)器行為在三個(gè)不同的尺度上應(yīng)用了前面的四個(gè)方面：

1、個(gè)體機(jī)器行為：在這個(gè)維度上，機(jī)器行為試圖研究個(gè)體機(jī)器本身的行為。研究單個(gè)機(jī)器行為有兩種常用方法。第一種方法側(cè)重于使用一個(gè)在機(jī)器內(nèi)部（within-machine）的方法分析任何特定機(jī)器代理的行為集，比較不同條件下特定機(jī)器的行為。第二種方法是一個(gè)處于機(jī)器之間（between-machine）的方法，研究各種機(jī)器代理在相同條件下的行為。

2、集體機(jī)器行為：與個(gè)體維度不同，這個(gè)領(lǐng)域通過研究群體中的交互來了解AI代理的行為。機(jī)器行為的集體維度試圖發(fā)現(xiàn)AI代理上的行為，而這些行為并沒有在單獨(dú)的層次上出現(xiàn)。

3、混合人機(jī)行為：在許多場(chǎng)景中，AI代理的行為受到它們與人類交互的影響。機(jī)器行為的另一個(gè)維度關(guān)注于分析AI代理中由與人類交互而觸發(fā)的行為模式。

機(jī)器行為是人工智能中最有趣、最新興的領(lǐng)域之一。行為科學(xué)可以補(bǔ)充傳統(tǒng)的解釋方法，開發(fā)新的方法來幫助我們理解和解釋人工智能的行為。隨著人類和人工智能之間的互動(dòng)變得越來越復(fù)雜，機(jī)器行為可能會(huì)在實(shí)現(xiàn)下一個(gè)層次的混合智能方面發(fā)揮關(guān)鍵作用。

原文作者：Jesus Rodriguez返回搜狐，查看更多

責(zé)任編輯：