基于BERT嵌入和對(duì)抗訓(xùn)練的農(nóng)業(yè)領(lǐng)域命名實(shí)體識(shí)別

打開(kāi)文本圖片集

摘要：面向農(nóng)業(yè)領(lǐng)域的命名實(shí)體識(shí)別任務(wù)是農(nóng)業(yè)領(lǐng)域中信息提取及問(wèn)答系統(tǒng)的關(guān)鍵步驟，目標(biāo)是從海量非結(jié)構(gòu)化農(nóng)業(yè)文本中找出需要的命名實(shí)體，通常存在諸如實(shí)體名稱(chēng)多樣和上下文語(yǔ)義缺失等挑戰(zhàn)。為完成復(fù)雜語(yǔ)境下的農(nóng)業(yè)命名實(shí)體識(shí)別任務(wù)，首先構(gòu)建一個(gè)農(nóng)業(yè)領(lǐng)域的標(biāo)注語(yǔ)料庫(kù)，其中包含6類(lèi)實(shí)體共16 048個(gè)樣本;接著將BERT預(yù)訓(xùn)練語(yǔ)言模型作為詞嵌入層，相比較傳統(tǒng)詞嵌入模型，很好地解決了不同語(yǔ)境下同一詞語(yǔ)的不同語(yǔ)義以及指代問(wèn)題;然后利用BiGRU網(wǎng)絡(luò)模型進(jìn)行上下文編碼;最后利用CRF優(yōu)化輸出標(biāo)注。（剩余15627字）