基于詞替換的對抗文本生成研究

打開文本圖片集

摘  要：對抗樣本的存在對自然語言處理領(lǐng)域的眾多應(yīng)用存在安全威脅，對抗攻擊方法的研究有助于評估甚至提高深度神經(jīng)網(wǎng)絡(luò)模型的魯棒性?，F(xiàn)有的詞級文本對抗攻擊在生成對抗樣本的過程中，依賴于單詞重要性評分并排序，但效率低下，需要頻繁訪問目標(biāo)模型來獲取重要性分?jǐn)?shù)。文章針對該問題，提出通過訓(xùn)練替代模型計(jì)算單詞重要性分?jǐn)?shù)，并結(jié)合語義相似度分層采樣后得到的目標(biāo)模型決策概率差值，對原始輸入中的單詞進(jìn)行排序。（剩余8287字）