文本生成強(qiáng)勢(shì)上升

嚴(yán)格來講自然語言處理應(yīng)被分為自然語言處理和自然語言生成兩個(gè)方向，然而受到技術(shù)的限制，傳統(tǒng)的文本生成多采用基于模板的方法，因此在研究上并沒有引起太多的關(guān)注。隨著序列到序列模型的產(chǎn)生，人們意識(shí)到可以采用類似的方法進(jìn)行逐詞的文本生成，從而產(chǎn)生了大量的研究和應(yīng)用問題，因此文本生成也成為了目前自然語言處理的熱門研究領(lǐng)域。今年ACL上的研究熱點(diǎn)如下圖所示。

問答系統(tǒng)絕地反擊

隨著斯坦福大學(xué)SQuAD數(shù)據(jù)集的誕生，以抽取式閱讀理解為代表的問答系統(tǒng)近年來引起了大量的關(guān)注。但是為什么說是“絕地反擊”呢？主要是因?yàn)樵诟�久之前，問答系統(tǒng)就曾經(jīng)是信息檢索和自然語言處理領(lǐng)域的熱門研究方向，但是受限于當(dāng)時(shí)的技術(shù)手段，答案準(zhǔn)確率并不是很高，因此該研究方向曾一度被人們所冷落。經(jīng)過這幾年的發(fā)展，問答系統(tǒng)的模型逐漸被預(yù)訓(xùn)練模型所統(tǒng)一，因此今年ACL上的相關(guān)文章更關(guān)注問答系統(tǒng)的各個(gè)子任務(wù)或引入更多資源。

新任務(wù)和資源挑戰(zhàn)機(jī)器

仍然是受預(yù)訓(xùn)練模型的影響，在很多剛被提出不久的自然語言處理任務(wù)上，機(jī)器的表現(xiàn)很快超過人類。因此最近有大量的研究工作試圖提出對(duì)機(jī)器更具有挑戰(zhàn)性的任務(wù)和資源，從而逼迫機(jī)器更像人一樣“思考”。

機(jī)器翻譯有所衰落

幾家歡樂幾家愁，由于上述領(lǐng)域的快速崛起，更重要的是由于模型逐漸為Transformer所統(tǒng)一，使得機(jī)器翻譯這一“老牌”自然語言處理任務(wù)受關(guān)注的程度有所降低。今年ACL的相關(guān)研究也分散到不同的翻譯場(chǎng)景設(shè)置上。

句法分析逐漸式微

和機(jī)器翻譯類似，句法分析這一曾經(jīng)自然語言處理領(lǐng)域的當(dāng)家任務(wù)也逐漸式微。其背后的原因有兩個(gè)：一方面是因?yàn)锽iaffine Parser的出現(xiàn)證明了結(jié)構(gòu)學(xué)習(xí)這一自然語言處理的特色問題，對(duì)于句法分析并不重要；另一方面，預(yù)訓(xùn)練模型的出現(xiàn)使得句法分析的處境更是雪上加霜。預(yù)訓(xùn)練模型不但能大幅提高句法分析的效果，更重要的是其內(nèi)部已經(jīng)蘊(yùn)含了句法結(jié)構(gòu)信息，因此就無需為下游任務(wù)提供顯式的句法結(jié)構(gòu)了。由于這些原因，今年ACL上句法分析的熱點(diǎn)也主要集中在了研究探針任務(wù)和句法分析的應(yīng)用上了。不過蘇州大學(xué)李正華老師所提出的高階TreeCRF模型還是能進(jìn)一步提升句法分析的效果，這一點(diǎn)非常難得。