首先,精度反映了测量值与实际值的相似性。分辨率(通常称为分辨率)是设备能够有效区分的最小值。对于模拟仪器,分辨率是索引值。
例如,如果标尺的最小刻度为1 mm,则分辨率为1 mm。您也可以直接查看仪器显示的最后几位数字之间的间隔。例如,通道器的显示值可以是410.01v、410.02v等等,因此分辨率是0.01v,因为它可以显示的最后一个值的间隔是0.01。
要提高仪器的精度,需要有足够的分辨率来保证,但不是分辨率越高,精度就越高。
高分辨率并不意味着更高的精度。例如,如果你测量一个电压,实际值是60.01v,你仪器的分辨率已经很高了,0.00001,但是如果测量值是51.00008v,测量值也不准确。
1. 精度接近真值,即绝对误差或相对误差。很难达到0.01%
2的精度。分辨率是量化尺度的精细度。要达到0.00001%的分辨率(例如24位aD,0.0000056%)
3不是很困难。概念理解:
示例:1米q带有1000个刻度,分辨率为1mm(分辨率0.1%),绝对误差为+5mm,精度为+0.5%。如果你能把直尺加长20毫米,绝对误差将是+25毫米,精度将降低到2.5%。然而,标尺仍有1000个刻度,其分辨率仍为1mm(0.1%)
对于气体探测器,分辨率和精度经常被提及。所以分辨率只是可以显示的最小值。准确度为满标度的相对误差值。一般来说,它是合格的正负百分之五,有些可以达到更高的精度。对传感器的要求越高,一般来说,高精度的质量就越高,分辨率也相对容易实现。