基于棧式預(yù)訓(xùn)練模型的中文序列標(biāo)注

打開(kāi)文本圖片集

摘要：序列標(biāo)注（sequence labelling）是自然語(yǔ)言處理（natural language processing）中的一類重要任務(wù)。在文中，根據(jù)任務(wù)的相關(guān)性，使用棧式預(yù)訓(xùn)練模型進(jìn)行特征提取，分詞，命名實(shí)體識(shí)別/語(yǔ)塊標(biāo)注。并且通過(guò)對(duì)BERT內(nèi)部框架的深入研究，在保證原有模型的準(zhǔn)確率下進(jìn)行優(yōu)化，降低了BERT模型的復(fù)雜度，減少了模型在訓(xùn)練和預(yù)測(cè)過(guò)程中的時(shí)間成本。（剩余11174字）