西門子S7-300/400的模擬量輸入的分辨率用位來表示，如下圖所示：

如圖所示：當分辨率是10位的時候，模擬量的數值是以32的倍數變化；當分辨率是15位的時候，模擬量的數值是以1的倍數變化，其它的依次類推。

例如：一個4~20mA的壓力傳感器的量程是0-100kPa，當選擇分辨率為10位的模塊時，每次變化數字量為：32*100/27648=0.1157，這時的誤差范圍就在0.1kPa以上了，想要達到0.1kPa的精度是不可能的；當選擇分辨率為11位的模塊時，每次變化數字量為：16*100/27648=0.0579，這時的誤差范圍就在0.1kPa以下了，就可以達到0.1kPa的精度。

首先說明的是：精度≠分辨率

分辨率是整個量程分成N個等份，如上圖對應各自的分辨率就是32767/256=128（即2的7次方）、32767/512=64（即2的6次方）、32767/1024=32（即2的5次方）等。

精度是測量值和實際值的偏差，模擬量轉換的精度除了取決于A/D轉換的分辨率，還受到轉換芯片的外圍電路的影響，在實際應用中，輸入的模擬量信號會有波動、噪聲和干擾，內部電路也會產生噪聲、漂移，這些都會對轉換的精度造成影響，這些因素造成的誤差要大于芯片A/D的轉換誤差，高精度必須要高分辨率，但高分辨率并不等于高精度。

有的模擬量輸入模塊的分辨率是可以在硬件組態中進行設置的，比如6ES7 331-7KF02-0AB0，硬件描述中分辨率最高可達到14位，但是對于不同的積分時間或干擾頻率抑制值，其分辨率是不一樣的，對于本例的模塊具體對應關系（每個模塊的詳細參數可以參考模塊的技術手冊）為：

由圖中數據可以看出：積分時間越長精度越高，干擾抑制頻率值越低精度越高。