基于多線程技術(shù)的ONNX音頻分離模型并發(fā)推理的設(shè)計(jì)與優(yōu)化

打開(kāi)文本圖片集

摘  要：文章探討了一種音頻分離模型推理加速的一種使用多線程的設(shè)計(jì)方法，這個(gè)方法可以有效地提高模型端側(cè)部署推理速度，有效節(jié)省用戶使用等待時(shí)間。對(duì)于一段10 s的音頻，使用文章中提出的方法可以僅使用0.48 s就完成推理，以此推算，文中算法在處理器為Inteli7時(shí)，處理一個(gè)時(shí)長(zhǎng)2分鐘的視頻時(shí)間不超過(guò)10秒。（剩余6210字）