DNP-PTQ:一種針對YOLO嵌入式部署的模型量化方法

摘要： 針對現(xiàn)有各類YOLO模型無法滿足在典型飛行平臺邊緣端部署的問題，以YOLO模型為基礎，基于C語言開發(fā)的Darknet框架，提出一種基于模型網(wǎng)絡參數(shù)分布的訓練后量化（DNP-PTQ）方法。與傳統(tǒng)訓練后量化（PTQ）方法不同，DNP-PTQ針對網(wǎng)絡中不同層及激活函數(shù)的數(shù)據(jù)分布，設計差異化的模型參數(shù)量化策略。針對卷積層，采用按通道量化方法消除各通道數(shù)據(jù)分布差異帶來的量化參數(shù)誤差；針對... （共12頁）