Especificación de precisión y puntos de prueba de vacío con tolerancias
Descripción
All values are in Torr unless otherwise stated and FS denotes the full scale or maximum reading of the CDG. Televac reserves the right to change tolerances for any controllers, active gauges, or sensors. Any modification to any unit without approval from Televac® voids the unit’s certificate of compliance. Additional NIST Calibration Test Points are available upon request.
Indicadores aplicables
- MC300 2A, 2A VacuMini, or 2A NASA Mini
- MM200 2A, 2A VacuMini, or 2A NASA Mini
- MX200 2A, 2A VacuMini, or 2A NASA Mini
- MV2A, 2A VacuMini, or 2A NASA Mini
- Compact 2A, 2A VacuMini, or 2A NASA Mini
- Vacuguard™, 2A VacuMini, or 2A NASA Mini
- B2A Portable, 2A VacuMini, or 2A NASA Mini
- MP2AR
Especificación de la precisión
Rango |
Tolerancia |
1.0E-3 a 1.0E-2 |
±1.0E-3 |
1.0E-2 a 1.0E-1 |
±10% |
1.0E-1 a 1.0E+0 |
±20% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
1.0E+0 |
8.0E-1 |
1.2E+0 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-2 |
9.0E-3 |
1.1E-2 |
2.0E-2 |
1.8E-2 |
2.2E-2 |
5.0E-2 |
4.5E-2 |
5.5E-2 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
2.0E-1 |
1.6E-1 |
2.4E-1 |
5.0E-1 |
4.0E-1 |
6.0E-1 |
1.0E+0 |
8.0E-1 |
1.2E+0 |
Especificación de aviación de GE Calibración compatible con P10TF3
El sensor 2A, en combinación con cualquiera de los controladores anteriores, puede ser calibrado según la Especificación de Aviación de GE P10TF3.
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-2 |
9.0E-3 |
1.1E-2 |
2.0E-2 |
1.8E-2 |
2.2E-2 |
5.0E-2 |
4.5E-2 |
5.5E-2 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
2.0E-1 |
1.7E-1 |
2.3E-1 |
5.0E-1 |
4.3E-1 |
5.8E-1 |
1.0E+0 |
8.5E-1 |
1.2E+0 |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E-3 a 1.0E-2 |
±1.0E-3 |
1.0E-2 a 1.0E+1 |
±10% |
1.0E+0 to 1.0E+2 |
±30% |
1.0E+2 a 1.0E+3 |
±10% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
1.0E+0 |
9.0E-1 |
1.1E+0 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-2 |
9.0E-3 |
1.1E-2 |
2.0E-2 |
1.8E-2 |
2.2E-2 |
5.0E-2 |
4.5E-2 |
5.5E-2 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
2.0E-1 |
1.8E-1 |
2.2E-1 |
5.0E-1 |
4.5E-1 |
5.5E-1 |
1.0E+0 |
9.0E-1 |
1.1E+0 |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E-3 a 1.0E-2 |
±1.0E-3 |
1.0E-2 a 1.0E+1 |
±10% |
1.0E+1 a 1.0E+2 |
±20% |
1.0E+2 a 1.0E+3 |
±10% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E+0 |
9.0E-1 |
1.1E-0 |
7.6E+2 |
6.8E+2 |
8.4E+2 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-2 |
9.0E-3 |
1.1E-2 |
5.0E-2 |
4.5E-2 |
5.5E-2 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
5.0E-1 |
4.5E-1 |
5.5E-1 |
1.0E+0 |
9.0E-1 |
1.1E+0 |
1.0E+1 |
9.0E+0 |
1.1E+1 |
1.0E+2 |
8.0E+1 |
1.2E+2 |
7.6E+2 |
6.8E+2 |
8.4E+2 |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E-3 a 1.0E-2 |
±1.0E-3 |
1.0E-2 a 1.0E+3 |
±10% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E+0 |
9.0E-1 |
1.1E+0 |
7.6E+2 |
6.8E+2 |
8.4E+2 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-2 |
9.0E-3 |
1.1E-2 |
5.0E-2 |
4.5E-2 |
5.5E-2 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
5.0E-1 |
4.5E-1 |
5.5E-1 |
1.0E+0 |
9.0E-1 |
1.1E+0 |
1.0E+1 |
9.0E+0 |
1.1E+1 |
1.0E+2 |
9.0E+1 |
1.1E+2 |
7.6E+2 |
6.8E+2 |
8.4E+2 |
Indicadores aplicables
- MC300 7B
- MM200 7B
- MX200 7B
Especificación de la precisión
Rango |
Tolerancia |
1.0E-6 a 1.0E-3 |
±.2 década (-37% a 58%) |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-5 |
6.0E-6 |
1.6E-5 |
1.0E-4 |
6.0E-5 |
1.6E-4 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-6 |
6.3E-7* |
1.6E-6 |
5.0E-6 |
3.2E-6 |
8.0E-6 |
1.0E-5 |
6.3E-6 |
1.6E-5 |
5.0E-5 |
3.2E-5 |
8.0E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
*La tolerancia para el MM200 y el MC300 es de 6E-7*
Indicadores aplicables
- MC300 7E
- MM200 7E
- MX200 7E
- MP7ER
Especificación de la precisión
Rango |
Tolerancia |
1.0E-7 a 1.0E-2 |
±.2 década (-37% a 58%) |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-5 |
6.3E-6 |
1.6E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-6 |
6.3E-7 |
1.6E-6 |
5.0E-6 |
3.2E-6 |
8.0E-6 |
1.0E-5 |
6.3E-6 |
1.6E-5 |
5.0E-5 |
3.2E-5 |
8.0E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
Indicadores aplicables
- MC300 7F/7FC
- MM200 7F/7FC/7FCS
- MX200 7F/7FC/7FCS
- MP7FR
Especificación de la precisión
Rango |
Tolerancia |
1.0E-9 a 1.0E-2 |
±.2 década (-37% a 58%) |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-5 |
6.3E-6 |
1.6E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-6 |
6.3E-7 |
1.6E-6 |
5.0E-6 |
3.2E-6 |
8.0E-6 |
1.0E-5 |
6.3E-6 |
1.6E-5 |
5.0E-5 |
3.2E-5 |
8.0E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E-9 a 1.0E-1 |
±.2 década (-37% a 58%) |
1.0E-1 a 2.0E+2 |
±15% |
2.0E+2 a 1.0E+3 |
±5% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-05 |
6.0E-6 |
1.6E-5 |
1.0E+00 |
8.5E-1 |
1.2E+0 |
7.6E+02 |
7.2E+2 |
8.0E+2 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-6 |
6.3E-7 |
1.6E-6 |
5.0E-6 |
3.2E-6 |
8.0E-6 |
1.0E-5 |
6.3E-6 |
1.6E-5 |
5.0E-5 |
3.2E-5 |
8.0E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
1.0E-3 |
6.3E-4 |
1.6E-3 |
1.0E-2 |
6.3E-3 |
1.6E-2 |
1.0E-1 |
8.5E-2 |
1.2E-1 |
1.0E+0 |
8.5E-1 |
1.2E+0 |
1.0E+1 |
8.5E+0 |
1.2E+1 |
1.0E+2 |
8.5E+1 |
1.2E+2 |
7.6E+2 |
7.2E+2 |
8.0E+2 |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E+0 a 1.0E+1 |
±1.0E+0 |
1.0E+1 a 1.0E+2 |
±10% |
1.0E+2 a 1.0E+3 |
±5% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
5.0E+00 |
4.0E+0 |
6.0E+0 |
1.0E+2 |
9.0E+1 |
1.1E+2 |
7.6E+2 |
7.2E+2 |
8.0E+2 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
5.0E+00 |
4.5E+0 |
5.5E+0 |
1.0E+2 |
9.0E+1 |
1.1E+2 |
4.0E+2 |
3.8E+2 |
4.2E+2 |
7.6E+2 |
7.2E+2 |
8.0E+2 |
Indicadores aplicables
- MP3DR
- MC300 Mini BA
- MM200 Mini BA
Especificación de la precisión
Rango |
Tolerancia |
1.0E-9 a 1.0E-2 |
±.1 década (-21% a 26%) |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-05 |
7.9E-06 |
1.3E-05 |
1.0E-04 |
7.9E-05 |
1.3E-04 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-06 |
7.9E-07 |
1.3E-06 |
5.0E-06 |
4.0E-06 |
6.3E-06 |
1.0E-05 |
7.9E-06 |
1.3E-05 |
5.0E-05 |
4.0E-05 |
6.3E-05 |
1.0E-04 |
7.9E-05 |
1.3E-04 |
Indicadores aplicables
MM200 Medidor de diafragma capacitivo
Medidor de diafragma capacitivo MX200
Especificación de la precisión
Rango |
Tolerancia |
.01*FS a .1*FS |
±.001*FS |
.1*FS a FS |
±2% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.1*FS |
(0,1*FS)-2% |
(0,1*FS)+2% |
0.5*FS |
(0.5*FS)-2% |
(0,5*FS)+2% |
FS |
FS-2% |
FS+2% |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.01*FS |
0.01*FS-.001*FS |
0.01*FS +.001*FS |
0.1*FS |
(0,1*FS)-2% |
(0,1*FS)+2% |
0.2*FS |
(0,2*FS)-2% |
(0,2*FS)+2% |
0.3*FS |
(0,3*FS)-2% |
(0,3*FS)+2% |
0.4*FS |
(0,4*FS)-2% |
(0,4*FS)+2% |
0.5*FS |
(0.5*FS)-2% |
(0,5*FS)+2% |
0.6*FS |
(0,6*FS)-2% |
(0,6*FS)+2% |
0.7*FS |
(0,7*FS)-2% |
(0,7*FS)+2% |
0.8*FS |
(0.8*FS)-2% |
(0,8*FS)+2% |
0.9*FS |
(0,9*FS)-2% |
(0,9*FS)+2% |
FS |
FS-2% |
FS+2% |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E-7 to 1.0E-3 |
±30% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-05 |
7.0E-06 |
1.3E-05 |
1.0E-04 |
7.0E-05 |
1.3E-04 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-06 |
7.0E-07 |
1.3E-06 |
5.0E-06 |
3.5E-06 |
6.5E-06 |
1.0E-05 |
7.0E-06 |
1.3E-05 |
5.0E-05 |
3.5E-05 |
6.5E-05 |
1.0E-04 |
7.0E-05 |
1.3E-04 |