在計算機視覺任務(wù)中,每層的輸入有許多不同的卷積濾波器卷積,如圖上所示。這些卷積濾波器的每個都可以具有不同的值范圍。因此,量化方法的一個區(qū)別是如何為權(quán)重計算裁切范圍[α,β]的粒度??蓪⑺鼈兎诸悶閷恿炕?,分組量化和通道量化:a.層量化:在這種方法中,裁切范圍是通過考慮層卷積濾波器中的所有權(quán)重來確定的,如上圖的第三列所示。通過該層整個參數(shù)的統(tǒng)計信息(如小、比較大和百分位數(shù)等),然后對整層卷積濾波器使用相同的裁切范圍。雖然這種方法實現(xiàn)非常簡單,但它通常會導(dǎo)致次優(yōu)解,因為每個卷積濾波器的范圍可能會有很大的變化,會使某些參數(shù)范圍相對較窄的卷積核失去量化分辨率。b.分組量化:可以將層內(nèi)的多個不同通道分組,以計算裁切范圍(或卷積核)。這對于單個卷積/中參數(shù)分布變化很大的情況可能會有所幫助,分組量化可以在量化分辨率和計算開銷之間建立一個很好的妥協(xié)。c.通道量化:裁切范圍的一個通常選擇是為每個卷積濾波器使用固定值,于其他通道,如上圖一列所示。也就是說,每個通道都被分配了一個的縮放因子。這確保了更好的量化分辨率,并通常導(dǎo)致更高的精度,通道量化是目前用于量化卷積核的標(biāo)準(zhǔn)方法。多樣化的亮化方案,滿足不同城市、不同場景的需求。臨夏戶外LED亮化照明公司
模型量化之野望從量化東西、硬件和NN架構(gòu)的共同規(guī)劃、聯(lián)合多種壓縮辦法和量化練習(xí)展望模型量化開展a.量化東西:運用當(dāng)時的辦法,將不同的NN模型量化并部署到INT8是很簡單的,而不會明顯失掉準(zhǔn)確性。有幾個軟件包可用于部署INT8量化模型(例如,Nvidia的TensorRT、TVM等),每個軟件包都有杰出的文檔。然而,用于低位精度量化的軟件并不廣可用,有時也不存在。例如,Nvidia的TensorRT目前不支持INT8以外的量化。此外,對INT4量化的支持直到近被添加到TVM中。運用INT4/INT8進行低精度和混合精度量化在實踐中有效和必要的,因此,開發(fā)用于低精度量化的高效軟件API將產(chǎn)生重要影響。甘南樓體亮化維修模塊化燈具設(shè)計,維護升級更輕松,節(jié)省時間成本。
模型量化的形式形式上,可分為均勻量化(線性量化,包括對稱和非對稱)和非均勻量化(對數(shù)量化),通常來說量化函數(shù)是一個分段的常數(shù)函數(shù),不同的量化等級之間的距離是相等的,即均勻量化,然而數(shù)據(jù)的分布往往不是均勻的,所以均勻量化不是比較合理的方案,因此有一些研究針對量化函數(shù)本身進行學(xué)習(xí)量化還可分為對稱量化和非對稱量化。量化前后0點的值不變的稱為對稱化。但在實際過程中,量化的對象分布式不均勻的,不一定在0點值兩邊對稱,所下圖右側(cè)所示,量化前后0點的值不同的稱為非對稱量化。
橋梁亮化選用先進的燈光控制辦法保證視覺條件下,滿足這些條件的視覺需求,縮短正常的導(dǎo)通時刻的,合理的導(dǎo)通時刻控制,先進能量控制設(shè)備不只保證了超卓的視覺,跋涉LED照明燈具的使用壽命,一同也節(jié)省了能量,跋涉了電路的功率因數(shù),下降功耗電力和照明電路。關(guān)于大型橋梁亮化工程,假定供給數(shù)百電力,管道千瓦,這些途徑通常是嵌入在橋內(nèi),假定不這樣做橋梁的結(jié)構(gòu)的初始核算是什么效果。在橋梁亮化工程前期,需求充沛考到橋梁的特殊性,和一般的裝修性照明和旅程照明相結(jié)合,才調(diào)合理化的對橋梁進行亮化??茖W(xué)布光設(shè)計,打造舒適美觀的夜間視覺效果。
硬件和NN架構(gòu)聯(lián)合設(shè)計:如上所述,低精度量化的經(jīng)典工作與機器學(xué)習(xí)的較新工作之間的一個重要區(qū)別是,神經(jīng)網(wǎng)絡(luò)參數(shù)可能具有非常不同的量化值,但仍然可以很好地泛化近似。例如,通過量化感知訓(xùn)練,我們可能會收斂到一個不同的解,遠離單一精度參數(shù)的原始解,但仍然獲得良好的準(zhǔn)確率。人們可以利用這種自由度,也可以在NN架構(gòu)被量化時調(diào)整它。例如,改變NN架構(gòu)的寬度可以減少/消除量化后的泛化間隙。未來的工作之一是在模型被量化時聯(lián)合調(diào)整其他體系結(jié)構(gòu)參數(shù),如深度或單個內(nèi)核。未來的另一項工作是將這種共同設(shè)計擴展到硬件體系結(jié)構(gòu)。聯(lián)合多種壓縮方法:如上所述,量化只是有效部署NN的方法之一。其他方法包括高效的NN架構(gòu)設(shè)計、硬件和NN架構(gòu)的協(xié)同設(shè)計、剪枝和知識蒸餾、網(wǎng)絡(luò)框架搜索等。量化可以與這些其他法結(jié)合使用。然而,目前很少有工作探索這些方法的比較好組合。例如,NAS聯(lián)合量化、剪枝和量化可以一起應(yīng)用于模型,以減少其開銷,理解結(jié)構(gòu)化/非結(jié)構(gòu)化剪枝和量化的比較好組合非常重要。同樣,未來的另一個方向是研究這些方法與上述其他方法之間的聯(lián)合。定期回訪維護,主動排查隱患,保障亮化效果持久。榆中亮化工程公司電話
燈光開啟關(guān)閉柔和漸變,保護人眼不受強光刺激。臨夏戶外LED亮化照明公司
亮化工程是為商業(yè)街本身及其周邊環(huán)境增加亮點,提高市民視覺體驗,為市民增加趣味。如此美麗的商業(yè)街也為游客描繪了商業(yè)街的無量魅力和獨特的夜景彩圖。人們覺得在商業(yè)街購物觀光是一種日子享用,是一種充滿趣味的夜日子。商業(yè)街照明工程是一項表現(xiàn)性工程,人為地使用光學(xué)高科技裝點商業(yè)街環(huán)境??墒牵炔皇黔h(huán)境的配套產(chǎn)品,也不是景象的配套產(chǎn)品。它是點亮環(huán)境的元素。建立城市環(huán)境系統(tǒng)的概念,打破單向思維和關(guān)閉發(fā)明的刻印象,完成城市景象與環(huán)境的匹配。臨夏戶外LED亮化照明公司