32
33
Precisión
Consulte la sección “Especificaciones” en relación con las condiciones de operación y el
coeficiente de temperatura.
La precisión se especifica de la siguiente manera: ± (un porcentaje de la l una cantidad
fija) a 23 °C ± 5 °C (73.4 °F ± 9 °F), 0% a 75% de humedad relativa.
Lecturas de valores RMS (eficaces) reales: Las precisiones de voltaje y corriente se especifican
a partir del 10% hasta el 100% de la escala a menos que se indique algo diferente. La frecuencia
debe hallarse dentro del ancho de banda especificado para formas de onda no sinusoidales. Los
factores de cresta son los siguientes:
• Factor de cresta < 3:1 a plena escala
• Factor de cresta < 6:1 a escala media
Todos los modelos
Voltaje de CA
Resistencia y conductancia
DM-810A • DM-820A • DM-830A • DML-430A
47
Precisión
Consulte la sección “Especificaciones” en relación con las condiciones de operación y el coeficiente de
temperatura.
La precisión se especifica de la siguiente manera: ± (un porcentaje de la l una cantidad fija) a
23 °C ± 5 °C (73.4 °F ± 9 °F), 0% a 75% de humedad relativa.
Lecturas de valores RMS (eficaces) reales: Las precisiones de voltaje y corriente se especifican a
partir del 10% hasta el 100% de la escala a menos que se indique algo diferente. La frecuencia debe
hallarse dentro del ancho de banda especificado para formas de onda no sinusoidales. Los factores de
cresta son los siguientes:
• Factor de cresta < 3:1 a plena escala
• Factor de cresta < 6:1 a escala media
Todos los modelos
Voltaje de CA (voltaje de CA + CC solamente para los modelos DM-830A y DML-430A)
Escala
Precisión a
50 a 60 Hz
Precisión a
40 a 500 Hz
Precisión a
500 Hz a 1 kHz
Precisión a
1 a 3 kHz
Precisión a
3 a 20 kHz
60.00 mV
± (0.5% +
0.03 mV)
± (0.8% +
0.04 mV)
± (2.0% +
0.03 mV)
± (2% +
0.03 mV)
± (2% +
0.03 mV)
(1)
600.0 mV
± (0.5% +
0.3 mV)
± (0.8% +
0.4 mV)
± (2.0% +
0.3 mV)
± (2% +
0.3 mV)
± (2% +
0.3 mV)
(1)
9.999 V
± (0.5% +
0.003 V)
± (1.0% +
0.004 V)
± (1.0% +
0.004 V)
± (3% +
0.004 V)
3 dB
99.99 V
± (± (0.5% +
0.03 V)
± (1.0% +
0.04 V)
± (1.0% +
0.04 V)
± (3% +
0.04 V)
3 dB
999.9 V
± (0.5% + 0.3 V) ± (2.0% + 0.4 V) ± (2.0% + 0.4 V) ± (3% + 0.4V) No especificada
(1)
Especificado a partir del 30% al 100% de la escala
Impedancia de entrada: 10 MΩ, 50 pF nominales (80 pF nominales para la escala de 600 mV)
Voltaje continuo (CC)
Escala
Precisión
60.00 mV
± (0.12% + 0.02 mV)
600.0 mV
± (0.06% + 0.2 mV)
9.999 V
± (0.08% + 0.002 V)
99.99 V
± (0.08% + 0.02 V)
999.9 V
± (0.08% + 0.2 V)
Impedancia de entrada: 10 MΩ, 50 pF nominales (80 pF nominales para la escala de 600 mV)
48
Precisión
(continuación)
Resistencia y conductancia
(conductancia en los modelos DM-820A, DM-830A y DML-430A solamente)
Escala
Precisión
Voltaje típico de circuito abierto
600.0 Ω
± (0.1% + 0.3 Ω)
1.2 VDC
6.000 kΩ
± (0.1% + 0.003 kΩ)
60.00 kΩ
± (0.1% + 0.03 kΩ)
600.0 kΩ
± (0.1% + 0.3 kΩ)
6.000 MΩ
± (0.4% + 0.003 MΩ)
60.00 MΩ
± (1.5% + 0.05 MΩ)
99.99 nS
± (0.8% + 0.1 nS)
1.2 VDC
Continuidad
Umbral de tono: Entre 20 Ω y 300 Ω
Tiempo de respuesta: < 100 µs
Capacitancia
Escala
Precisión
(1)
60.00 nF
± (0.8% + 0.03 nF)
600.0 nF
± (0.8% + 0.3 nF)
6.000 µF
± (1.0% + 0.003 µF)
60.00 µF
± (2.0% + 0.03 µF)
600.0 µF
(2)
± (3.5% + 0.5 µF)
6.000 mF
(2)
± (5.0% + 0.005 mF)
25.00 mF
(2)
± (6.5% + 0.05 mF)
(1)
Precisiones con condensadores de película o mayores
(2)
En modo manual de detección de escala, no se especifican mediciones por debajo de las escalas de
50.0 µF, 0.54 mF y 5.4 mF para 600.0 µF, 6.000 mF y 25.00 mF, respectivamente.
Verificación de diodos
Escala de medición: 2.000 V
Corriente de prueba (típica): 0.4 mA
Voltaje de circuito abierto: < 3.5 V CC
Precisión: 1.0% + 0.001 V
