基于ERNIE-SA-DPCNN的文本分類研究

——以涉網(wǎng)新型犯罪案件文本為例

打開文本圖片集

摘  要：近年來自然語言處理領(lǐng)域發(fā)展迅猛，文本分類任務(wù)作為其中的基本任務(wù)出現(xiàn)了重大突破，但并未輻射到公安工作實務(wù)之中。目前文本分類領(lǐng)域以采用基于統(tǒng)計和概率的模型為主，但是相比于使用大量語料訓(xùn)練的預(yù)訓(xùn)練模型，其分類效果并不理想。文章采取預(yù)訓(xùn)練ERNIE作為特征提取模型，并以SA-Net結(jié)合ERNIE模型中的注意力機制，最后以DPCNN作為深度學(xué)習(xí)網(wǎng)絡(luò)形成ERNIE-SA-DPCNN算法。（剩余10848字）