像蘋果Siri這樣的個人助理通過自然語言命令來完成任務。然而，它們的底層組件通常依賴于監(jiān)督機器學習算法，這些算法需要大量手工注釋的訓練數(shù)據(jù)。為了減少收集這些數(shù)據(jù)的時間和精力，蘋果的研究人員開發(fā)了一個框架，利用用戶參與下的信號，來自動創(chuàng)建增強數(shù)據(jù)的標簽。他們的報告中表示，當使用諸如多任務學習和外部知識庫驗證等策略時，帶注釋的數(shù)據(jù)顯著提高了生產(chǎn)深度學習系統(tǒng)的準確性。

“我們認為，這是首次使用用戶參與信號來幫助大規(guī)模生成序列標記任務的訓練數(shù)據(jù)，并可應用于實際設置中，在幾乎沒有人工注釋數(shù)據(jù)的情況下加快新功能的部署，”研究人員在一篇待出版的論文中寫道�！按送�，用戶參與信號可以幫助我們從數(shù)字助理自身的錯誤中吸取教訓，從而確定其需要改進的地方�！�

研究人員使用了一系列啟發(fā)式方法來識別，可以表明積極參與或消極參與的行為。其中一些包括點擊內(nèi)容來進一步參與（積極的回應），長時間聽一首歌（另一個積極的回應），或者打斷智能助手提供的內(nèi)容，手動選擇不同的內(nèi)容（消極的回應）。這些信號被選擇性地以“隱私保護方式”獲取，以自動生成基本的具有真實性的注釋，隨后它們與人類注釋者提供的粗粒度標簽相結(jié)合。

為了將粗粒度標簽和推斷出的細粒度標簽合并到人工智能模型中，論文的合作者設計了一個多任務學習框架，將粗粒度和細粒度實體標簽作為兩個任務處理。此外，它們還合并了一個由實體及其關(guān)系組成的外部知識庫驗證器。假設預測“something”作為一個音樂標題，“the Beatles”作為一個音樂藝術(shù)家，我們可以查詢“Play something by the Beatles”，驗證器將展開對一級標簽的備選方案的查找，并將它們發(fā)送到一個組件，該組件將對預測重新排序，并返回最佳備選方案。

研究人員利用兩個獨立的測試集來評估多任務模型所執(zhí)行的任務，他們從生產(chǎn)系統(tǒng)中隨機抽取樣本，并對基礎的真實標簽手工標注。他們表示，在21次模型運行中，添加的26萬個訓練示例，與所有數(shù)量的人工注釋數(shù)據(jù)的基線相比，“一致地”降低了預測任務中的粗粒度實體錯誤率。此外，他們還報告說，當有相對少量的人工注釋數(shù)據(jù)（5000個示例）時，添加弱監(jiān)督的細粒度數(shù)據(jù)會產(chǎn)生更大的影響。最后，他們報告說，對于任何頂級模型假設通過知識庫驗證器的例子，細粒度實體錯誤率下降了大約50％。

在另一個實驗中，團隊試圖確定用戶意圖的更細微標注，是否會增加系統(tǒng)選擇正確操作的可能性。他們采集了大約5000個“播放音樂”命令，其中包含對多個樂隊、藝術(shù)家和歌曲的引用，并通過一個包含其框架的系統(tǒng)將其發(fā)送出去，之后，他們要求注釋者將系統(tǒng)返回的響應分為“滿意”或“不滿意”。研究人員報告說，增強后的系統(tǒng)產(chǎn)生的結(jié)果相對任務錯誤率降低了24．64％。

他們將繼續(xù)探索如何利用個人用戶的參與行為來提升個性化。

“我們觀察到，我們的模型改進了用戶最終接收的結(jié)果，特別是對于包含困難或不尋常語言模式的請求，”論文合作者寫道�！袄�如，增強后的系統(tǒng)可以正確處理諸如‘你能播放Miley Cyrus新專輯中的Malibu嗎’和‘播放Kendrick Lamar的Humble’之類的查詢。此外，增強后的模型還能識別出用戶在遇到真正的語言歧義時更有可能引用的實體。例如，在Play one by Metallica中，one可以是一個非實體標記（意為播放Metallica的任何歌曲），也可以特指Metallica一首名為One的歌。由于大多數(shù)用戶在說‘Play One by Metallica’時都會聽Metallica樂隊的‘One’這首歌，所以我們的模型會根據(jù)用戶參與注釋的數(shù)據(jù)來預測‘One’到底指什么，從而更好地捕捉用戶群體的趨勢和偏好。”

此前，有一篇論文描述了蘋果的人工智能開發(fā)工具Overton，該工具的模型處理了“數(shù)十億”個查詢。另外，蘋果最近研究了用戶是否更喜歡與“健談”的人工智能助手交談。