本發明公開一種圖像編解碼神經網絡分層定點化方法。該方法的步驟如下:(1)選取合適的靜態圖像訓練集及測試集建立并訓練端到端的圖像編解碼網絡;(2)對所述圖像編解碼網絡的參數和激活值進行定點化,其中,對于網絡不同層的參數和激活值采用不同的定點化比特數,并對需要進行浮點運算的激活函數進行簡化;(3)重新訓練經步驟(2)定點化后的圖像編解碼網絡;(4)將訓練后的圖像編解碼網絡的輸出數據,經過量化和無損熵編碼輸出作為壓縮數據。本發明的方法通過對不同的網絡層采用不同的量化系數,優化了定點化效果。
聲明:
“圖像編解碼神經網絡分層定點化方法” 該技術專利(論文)所有權利歸屬于技術(論文)所有人。僅供學習研究,如用于商業用途,請聯系該技術所有人。
我是此專利(論文)的發明人(作者)