一般數(shù)字示波器采用的都是8位adc，對(duì)任何一個(gè)波形值都是用256個(gè)0和1來(lái)重組。假設(shè)示波器垂直方向滿(mǎn)量程為8格，對(duì)應(yīng)量化級(jí)數(shù)256。在垂直檔位為500mv/div的情況下，垂直精度為（500mv*8）/256=15.625 mv。測(cè)量同一個(gè)信號(hào)，在垂直檔位為50mv/div的情況下，即（50mv*8）/256=1.5625 mv，垂直精度就達(dá)到了1.5625 mv。
圖 測(cè)量精度
在實(shí)際測(cè)量中，由于測(cè)量波形的幅值不一樣，故垂直檔位設(shè)置也會(huì)不一樣，但是為了盡量使測(cè)量準(zhǔn)確，可進(jìn)行以下操作：
使測(cè)試信號(hào)幅值盡量占到屏幕6div左右。例如一個(gè)峰峰值為7vpp的正弦波，垂直檔位應(yīng)設(shè)為1v/div，而不是2v/div或5v/div。實(shí)際上，這涉及到一個(gè)電壓分辨率的問(wèn)題， zds4054 plus示波器adc的量化分辨率25lsb/div。例如在1v/div電壓下，電壓分辨率為40mv，而當(dāng)10v/div時(shí)，電壓分辨率為400mv?？芍?v/div下，測(cè)量值有更高的分辨率，測(cè)量值更準(zhǔn)確。