基于梯度復(fù)用的對(duì)抗魯棒性模型的加速

打開文本圖片集

摘  要：深度神經(jīng)網(wǎng)絡(luò)對(duì)于對(duì)抗樣本表現(xiàn)出脆弱性，為了提高網(wǎng)絡(luò)的對(duì)抗魯棒性，一種有效的方法是對(duì)抗訓(xùn)練。具有良好的對(duì)抗魯棒性相較于自然訓(xùn)練的模型需要更大的模型容量，使得模型的存儲(chǔ)容量和計(jì)算量增加。文章將對(duì)抗訓(xùn)練的加速方案用于對(duì)抗模型的壓縮過程中，對(duì)魯棒模型的壓縮過程進(jìn)行加速。在MNIST數(shù)據(jù)集上做測(cè)試，結(jié)果表明文章在對(duì)抗魯棒模型的壓縮與加速上獲得一定的改進(jìn)。（剩余6602字）