基于RoBERTa和多頭注意力的簡(jiǎn)歷命名實(shí)體識(shí)別方法

打開文本圖片集

摘要：針對(duì)傳統(tǒng)簡(jiǎn)歷實(shí)體識(shí)別存在一詞多義和訓(xùn)練時(shí)間長(zhǎng)的問題，提出了一種新的簡(jiǎn)歷命名實(shí)體識(shí)別模型。通過RoBERTa預(yù)訓(xùn)練模型獲取具有上下文關(guān)系的字向量，結(jié)合BiGRU和多頭注意力機(jī)制（Multi-head Attention， MHA）層提取全局信息和局部相關(guān)性信息，采用CRF層修正解碼確定最終標(biāo)簽，同時(shí)裁剪RoBERTa預(yù)訓(xùn)練模型。（剩余9936字）