【獵云網(wǎng)（微信號：）】9月24日報道（編譯：葛蘭東）

像蘋果Siri這樣的個人助理通過自然語言命令來完成任務(wù)。然而，它們的底層組件通常依賴于監(jiān)督機(jī)器學(xué)習(xí)算法，這些算法需要大量手工注釋的訓(xùn)練數(shù)據(jù)。為了減少收集這些數(shù)據(jù)的時間和精力，蘋果的研究人員開發(fā)了一個框架，利用用戶參與下的信號，來自動創(chuàng)建增強(qiáng)數(shù)據(jù)的標(biāo)簽。他們的報告中表示，當(dāng)使用諸如多任務(wù)學(xué)習(xí)和外部知識庫驗(yàn)證等策略時，帶注釋的數(shù)據(jù)顯著提高了生產(chǎn)深度學(xué)習(xí)系統(tǒng)的準(zhǔn)確性。

“我們認(rèn)為，這是首次使用用戶參與信號來幫助大規(guī)模生成序列標(biāo)記任務(wù)的訓(xùn)練數(shù)據(jù)，并可應(yīng)用于實(shí)際設(shè)置中，在幾乎沒有人工注釋數(shù)據(jù)的情況下加快新功能的部署，”研究人員在一篇待出版的論文中寫道。“此外，用戶參與信號可以幫助我們從數(shù)字助理自身的錯誤中吸取教訓(xùn)，從而確定其需要改進(jìn)的地方。”

研究人員使用了一系列啟發(fā)式方法來識別，可以表明積極參與或消極參與的行為。其中一些包括點(diǎn)擊內(nèi)容來進(jìn)一步參與（積極的回應(yīng)），長時間聽一首歌（另一個積極的回應(yīng)），或者打斷智能助手提供的內(nèi)容，手動選擇不同的內(nèi)容（消極的回應(yīng)）。這些信號被選擇性地以“隱私保護(hù)方式”獲取，以自動生成基本的具有真實(shí)性的注釋，隨后它們與人類注釋者提供的粗粒度標(biāo)簽相結(jié)合。

為了將粗粒度標(biāo)簽和推斷出的細(xì)粒度標(biāo)簽合并到人工智能模型中，論文的合作者設(shè)計了一個多任務(wù)學(xué)習(xí)框架，將粗粒度和細(xì)粒度實(shí)體標(biāo)簽作為兩個任務(wù)處理。此外，它們還合并了一個由實(shí)體及其關(guān)系組成的外部知識庫驗(yàn)證器。假設(shè)預(yù)測“something”作為一個音樂標(biāo)題，“the Beatles”作為一個音樂藝術(shù)家，我們可以查詢“Play something by the Beatles”，驗(yàn)證器將展開對一級標(biāo)簽的備選方案的查找，并將它們發(fā)送到一個組件，該組件將對預(yù)測重新排序，并返回最佳備選方案。

研究人員利用兩個獨(dú)立的測試集來評估多任務(wù)模型所執(zhí)行的任務(wù)，他們從生產(chǎn)系統(tǒng)中隨機(jī)抽取樣本，并對基礎(chǔ)的真實(shí)標(biāo)簽手工標(biāo)注。他們表示，在21次模型運(yùn)行中，添加的26萬個訓(xùn)練示例，與所有數(shù)量的人工注釋數(shù)據(jù)的基線相比，“一致地”降低了預(yù)測任務(wù)中的粗粒度實(shí)體錯誤率。此外，他們還報告說，當(dāng)有相對少量的人工注釋數(shù)據(jù)（5000個示例）時，添加弱監(jiān)督的細(xì)粒度數(shù)據(jù)會產(chǎn)生更大的影響。最后，他們報告說，對于任何頂級模型假設(shè)通過知識庫驗(yàn)證器的例子，細(xì)粒度實(shí)體錯誤率下降了大約50%。

在另一個實(shí)驗(yàn)中，團(tuán)隊試圖確定用戶意圖的更細(xì)微標(biāo)注，是否會增加系統(tǒng)選擇正確操作的可能性。他們采集了大約5000個“播放音樂”命令，其中包含對多個樂隊、藝術(shù)家和歌曲的引用，并通過一個包含其框架的系統(tǒng)將其發(fā)送出去，之后，他們要求注釋者將系統(tǒng)返回的響應(yīng)分為“滿意”或“不滿意”。研究人員報告說，增強(qiáng)后的系統(tǒng)產(chǎn)生的結(jié)果相對任務(wù)錯誤率降低了24.64%。

他們將繼續(xù)探索如何利用個人用戶的參與行為來提升個性化。

“我們觀察到，我們的模型改進(jìn)了用戶最終接收的結(jié)果，特別是對于包含困難或不尋常語言模式的請求，”論文合作者寫道。“例如，增強(qiáng)后的系統(tǒng)可以正確處理諸如‘你能播放Miley Cyrus新專輯中的Malibu嗎’和‘播放Kendrick Lamar的Humble’之類的查詢。此外，增強(qiáng)后的模型還能識別出用戶在遇到真正的語言歧義時更有可能引用的實(shí)體。例如，在Play one by Metallica中，one可以是一個非實(shí)體標(biāo)記（意為播放Metallica的任何歌曲），也可以特指Metallica一首名為One的歌。由于大多數(shù)用戶在說‘Play One by Metallica’時都會聽Metallica樂隊的‘One’這首歌，所以我們的模型會根據(jù)用戶參與注釋的數(shù)據(jù)來預(yù)測‘One’到底指什么，從而更好地捕捉用戶群體的趨勢和偏好。”

此前，有一篇論文描述了蘋果的人工智能開發(fā)工具Overton，該工具的模型處理了“數(shù)十億”個查詢。另外，蘋果最近研究了用戶是否更喜歡與“健談”的人工智能助手交談。