从原则上来说，通过 TM5SEAISG 上模拟信号的 Sigma-Delta 转换方法，会存在显示值的有效精度。
如果 TM5SEAISG 的 ADC 始终输出 24 位值，则根据计算可获得的精度始终小于 24 位转换器的精度。有效精度取决于 ConfiguOutput00 ADC 配置寄存器中定义的数据率和桥接因子。
例如，2.5 Hz 的数据率和 2 mV/Vdc 的桥接因子可获得 18.7 位的有效精度。因此，低阶位（标记为灰色）的信息量仅仅从理论上来讲是正常的，而且受到大量干扰。
AnalogInput00 通道包含用于具有 24 位精度的全桥应变计的 ADC 原始值。
下表提供取决于电子模块配置（数据率、桥接因子）的全桥应变计值的有效精度（单位为位）。请参阅 ADC 配置寄存器。
|
|
桥接因子 |
|||
|---|---|---|---|---|
|
± 16 mV/Vdc |
± 8 mV/Vdc |
± 4 mV/Vdc |
± 2 mV/Vdc |
|
|
数据率 (Hz) |
位 |
位 |
位 |
位 |
|
2.5 |
21.3 |
20.8 |
19.7 |
18.7 |
|
5 |
20.7 |
20.3 |
19.3 |
18.3 |
|
10 |
20.4 |
19.9 |
18.9 |
17.9 |
|
15 |
20.1 |
19.3 |
18.7 |
17.7 |
|
25 |
19.7 |
19.2 |
18.5 |
17.5 |
|
30 |
19.6 |
19.0 |
18.1 |
17.1 |
|
50 |
19.4 |
18.8 |
17.9 |
16.9 |
|
60 |
19.3 |
18.8 |
17.8 |
16.8 |
|
100 |
19.1 |
18.5 |
17.4 |
16.4 |
|
500 |
18.0 |
17.3 |
16.3 |
15.3 |
|
1000 |
17.2 |
16.5 |
15.6 |
14.6 |
|
2000 |
16.6 |
16.1 |
15.3 |
14.3 |
|
3750 |
16.2 |
15.7 |
14.7 |
13.7 |
|
7500 |
15.8 |
15.3 |
14.4 |
13.4 |
|
|
桥接因子 |
|||
|---|---|---|---|---|
|
± 256 mV/Vdc |
± 128 mV/Vdc |
± 64 mV/Vdc |
± 32 mV/Vdc |
|
|
数据率 (Hz) |
位 |
位 |
位 |
位 |
|
2.5 |
23 |
22.6 |
22.1 |
21.7 |
|
5 |
22.3 |
22.4 |
21.9 |
21.3 |
|
10 |
22.3 |
22 |
21.6 |
21 |
|
15 |
22 |
21.7 |
21.3 |
20.7 |
|
25 |
21.8 |
21.4 |
21.1 |
20.5 |
|
30 |
21.7 |
21.3 |
20.8 |
20.4 |
|
50 |
21.3 |
21.1 |
20.5 |
19.9 |
|
60 |
21.3 |
20.9 |
20.4 |
19.8 |
|
100 |
20.9 |
20.7 |
20.2 |
19.6 |
|
500 |
20.1 |
19.6 |
19.1 |
18.6 |
|
1000 |
19 |
18.6 |
18.1 |
17.5 |
|
2000 |
18.5 |
18.1 |
17.8 |
17 |
|
3750 |
18.1 |
17.8 |
17.3 |
16.6 |
|
7500 |
17.7 |
17.3 |
16.9 |
16.2 |
