| Medición de temperatura (sensor Pt100) 1 2 |
| Rango de medición |
-60 … +85 °C |
| Incertidumbre sobre el rango de temperatura -60 … +85 °C |
< ±0,04 °C |
| Error típico a 0 °C 3 |
< ±0,01 °C |
| Medición de la temperatura (sensor Pt1000) 1 2 |
| Rango de medición |
-60 … +85 °C |
| Incertidumbre sobre el rango de temperatura -60 … +85 °C |
< ±0,35 °C |
| Error típico a 0 °C 3 |
< ±0,2 °C |
|
Medición de voltaje |
| Incertidumbre sobre el rango de temperatura -40 … +70 °C: |
| Rango de ±2,5 V |
< 0,05 % de lectura de ±1,85 μV |
| Rango de ±1,25 V |
< 0,04 % de lectura de ±2,3 μV |
| Rango de ±620 mV |
< 0,04 % de lectura de ±0,9 μV |
| Rango de ±310 mV |
< 0,04 % de lectura de ±0,75 μV |
| Rango de ±156 mV |
< 0,04 % de lectura de ±0,8 μV |
| Rango de ±78 mV |
< 0,04 % de lectura de ±1,25 μV |
| Rango de ±39 mV |
< 0,04 % de lectura de ±0,8 μV |
| Incertidumbre sobre el rango de temperatura -60 … +85 °C: |
| Rango de ±2,5 V |
< 0,05 % de lectura de ±1,85 μV |
| Rango de ±1,25 V |
< 0,04 % de lectura de ±2,3 μV |
| Rango de ±620 mV |
< 0,04 % de lectura de ±0,9 μV |
| Rango de ±310 mV |
< 0,04 % de lectura de ±0,85 μV |
| Rango de ±156 mV |
< 0,04 % de lectura de ±1,2 μV |
| Rango de ±78 mV |
< 0,05 % de lectura de ±1,25 μV |
| Rango de ±39 mV |
< 0,06 % de lectura de ±0,95 μV |
| Rango común de modo |
+2,5 V / −0,9 V |
| Medición de voltaje 0–30 V |
| Incertidumbre sobre el rango de temperatura -60 … +50 °C |
±0,3 % de lectura ±3 mV, típico |
| Incertidumbre sobre el rango de temperatura -60 … +85 °C |
±1,2 % de lectura ±3 mV, típico |
| Medición de frecuencia |
| Rango de medición |
0–10 000 Hz |
| Incertidumbre sobre el rango de temperatura -60 … +85 °C: |
| 3–100 Hz |
< 0,04 % de lectura |
| 100–1000 Hz |
< 0,082 % de lectura |
| 1000–10 000 Hz |
< 0,82 % de lectura |