Spécification de précision et points d'essai sous vide avec tolérances
Description
All values are in Torr unless otherwise stated and FS denotes the full scale or maximum reading of the CDG. Televac® reserves the right to change tolerances for any controllers, active gauges, or sensors. Any modification to any unit without approval from Televac® voids the unit’s certificate of compliance. Additional NIST Calibration Test Points are available upon request.
Select Vacuum Gauge
MX200 | MM200 | MC300 | MV2A | Compact 2A | VacuGuard™ | B2A Portable | Jauges actives |
2A | 2A | 2A | 2A | 2A | 2A | 2A | MX2A |
2A VacuMini | 2A VacuMini | 2A VacuMini | 2A VacuMini | 2A VacuMini | 2A VacuMini | 2A VacuMini | MX4A |
2A NASA Mini | 2A NASA Mini | 2A NASA Mini | 2A NASA Mini | 2A NASA Mini | 2A NASA Mini | 2A NASA Mini | MX7B |
4A | 4A | 4A | MX7M | ||||
1E | 1E | 7B | CC-10 | ||||
7B | 7B | 7E | MP2AR | ||||
7E | 7E | 7F | MP3DR | ||||
7F | 7F | 7FC | MP4AR | ||||
7FC | 7FC | 3F Mini | MP7ER | ||||
7FCS | 7FCS | MP7FR | |||||
CDG | 3F Mini | ||||||
CDG |
Jauges applicables
- MX200 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- MM200 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- MC300 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- MV2A – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- Compact 2A – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- Vacuguard™ – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- B2A Portable – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- MP2AR Thermocouple Active Gauge
Spécification de précision
Gamme | Tolérance |
1.0E-3 à 1.0E-2 | ±1.0E-3 |
1.0E-2 à 1.0E-1 | ±10% |
1.0E-1 à 1.0E+0 | ±20% |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
1.0E+0 | 8.0E-1 | 1.2E+0 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-2 | 9.0E-3 | 1.1E-2 |
2.0E-2 | 1.8E-2 | 2.2E-2 |
5.0E-2 | 4.5E-2 | 5.5E-2 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
2.0E-1 | 1.6E-1 | 2.4E-1 |
5.0E-1 | 4.0E-1 | 6.0E-1 |
1.0E+0 | 8.0E-1 | 1.2E+0 |
Étalonnage compatible avec la spécification GE Aviation P10TF3
The 2A Thermocouple Vacuum Gauge in combination with any of the controllers above can be calibrated to the GE Aviation Specification P10TF3.
Point de test | Tolérance réduite | Tolérance supérieure |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-2 | 9.0E-3 | 1.1E-2 |
2.0E-2 | 1.8E-2 | 2.2E-2 |
5.0E-2 | 4.5E-2 | 5.5E-2 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
2.0E-1 | 1.7E-1 | 2.3E-1 |
5.0E-1 | 4.3E-1 | 5.8E-1 |
1.0E+0 | 8.5E-1 | 1.2E+0 |
Spécification de précision
Gamme | Tolérance |
1.0E-3 à 1.0E-2 | ±1.0E-3 |
1.0E-2 à 1.0E+1 | ±10% |
1.0E+0 to 1.0E+2 | ±30% |
1.0E+2 à 1.0E+3 | ±10% |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
1.0E+0 | 9.0E-1 | 1.1E+0 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-2 | 9.0E-3 | 1.1E-2 |
2.0E-2 | 1.8E-2 | 2.2E-2 |
5.0E-2 | 4.5E-2 | 5.5E-2 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
2.0E-1 | 1.8E-1 | 2.2E-1 |
5.0E-1 | 4.5E-1 | 5.5E-1 |
1.0E+0 | 9.0E-1 | 1.1E+0 |
Spécification de précision
Gamme | Tolérance |
1.0E-3 à 1.0E-2 | ±1.0E-3 |
1.0E-2 à 1.0E+3 | ±10% |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E+0 | 9.0E-1 | 1.1E+0 |
7.6E+2 | 6.8E+2 | 8.4E+2 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
Point de test | Tolérance réduite | Tolérance supérieure |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-2 | 9.0E-3 | 1.1E-2 |
5.0E-2 | 4.5E-2 | 5.5E-2 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
5.0E-1 | 4.5E-1 | 5.5E-1 |
1.0E+0 | 9.0E-1 | 1.1E+0 |
1.0E+1 | 9.0E+0 | 1.1E+1 |
1.0E+2 | 9.0E+1 | 1.1E+2 |
7.6E+2 | 6.8E+2 | 8.4E+2 |
Spécification de précision
Gamme | Tolérance |
1.0E-3 à 1.0E-2 | ±1.0E-3 |
1.0E-2 à 1.0E+1 | ±10% |
1.0E+1 à 1.0E+2 | ±20% |
1.0E+2 à 1.0E+3 | ±10% |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E+0 | 9.0E-1 | 1.1E-0 |
7.6E+2 | 6.8E+2 | 8.4E+2 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-2 | 9.0E-3 | 1.1E-2 |
5.0E-2 | 4.5E-2 | 5.5E-2 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
5.0E-1 | 4.5E-1 | 5.5E-1 |
1.0E+0 | 9.0E-1 | 1.1E+0 |
1.0E+1 | 9.0E+0 | 1.1E+1 |
1.0E+2 | 8.0E+1 | 1.2E+2 |
7.6E+2 | 6.8E+2 | 8.4E+2 |
Spécification de précision
Gamme | Tolérance |
1,0E+0 à 1,0E+1 | ±1.0E+0 |
1.0E+1 à 1.0E+2 | ±10% |
1.0E+2 à 1.0E+3 | ±5% |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
5.0E+00 | 4.0E+0 | 6.0E+0 |
1.0E+2 | 9.0E+1 | 1.1E+2 |
7.6E+2 | 7.2E+2 | 8.0E+2 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
5.0E+00 | 4.5E+0 | 5.5E+0 |
1.0E+2 | 9.0E+1 | 1.1E+2 |
4.0E+2 | 3.8E+2 | 4.2E+2 |
7.6E+2 | 7.2E+2 | 8.0E+2 |
Spécification de précision
Gamme | Tolérance |
1.0E-6 à 1.0E-3 | ±0,2 décennie (-37% à 58%) |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-5 | 6.0E-6 | 1.6E-5 |
1.0E-4 | 6.0E-5 | 1.6E-4 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-6 | 6.3E-7* | 1.6E-6 |
5.0E-6 | 3.2E-6 | 8.0E-6 |
1.0E-5 | 6.3E-6 | 1.6E-5 |
5.0E-5 | 3.2E-5 | 8.0E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
*La tolérance pour le MM200 et le MC300 est de 6E-7
Spécification de précision
Gamme | Tolérance |
1.0E-7 to 1.0E-3 | ±30% |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-05 | 7.0E-06 | 1.3E-05 |
1.0E-04 | 7.0E-05 | 1.3E-04 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-06 | 7.0E-07 | 1.3E-06 |
5.0E-06 | 3.5E-06 | 6.5E-06 |
1.0E-05 | 7.0E-06 | 1.3E-05 |
5.0E-05 | 3.5E-05 | 6.5E-05 |
1.0E-04 | 7.0E-05 | 1.3E-04 |
Spécification de précision
Gamme | Tolérance |
1.0E-7 à 1.0E-2 | ±0,2 décennie (-37% à 58%) |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-5 | 6.3E-6 | 1.6E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-6 | 6.3E-7 | 1.6E-6 |
5.0E-6 | 3.2E-6 | 8.0E-6 |
1.0E-5 | 6.3E-6 | 1.6E-5 |
5.0E-5 | 3.2E-5 | 8.0E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
Spécification de précision
Gamme | Tolérance |
1.0E-9 à 1.0E-2 | ±0,2 décennie (-37% à 58%) |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-5 | 6.3E-6 | 1.6E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-6 | 6.3E-7 | 1.6E-6 |
5.0E-6 | 3.2E-6 | 8.0E-6 |
1.0E-5 | 6.3E-6 | 1.6E-5 |
5.0E-5 | 3.2E-5 | 8.0E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
Spécification de précision
Gamme | Tolérance |
.01*FS à .1*FS | ±.001*FS |
.1*FS à FS | ±2% |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
0,1*FS | (0,1*FS)-2% | (0,1*FS)+2 |
0,5*FS | (0,5*FS)-2%. | (0,5*FS)+2 |
FS | FS-2% | FS+2 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
0,01*FS | 0,01*FS-.001*FS | 0,01*FS + 0,001*FS |
0,1*FS | (0,1*FS)-2% | (0,1*FS)+2 |
0,2*FS | (0,2*FS)-2%. | (0,2*FS)+2 |
0,3*FS | (0,3*FS)-2%. | (0,3*FS)+2 |
0,4*FS | (0,4*FS)-2%. | (0,4*FS)+2 |
0,5*FS | (0,5*FS)-2%. | (0,5*FS)+2 |
0,6*FS | (0,6*FS)-2%. | (0,6*FS)+2 |
0,7*FS | (0,7*FS)-2%. | (0,7*FS)+2 |
0,8*FS | (0,8*FS)-2%. | (0,8*FS)+2 |
0,9*FS | (0,9*FS)-2%. | (0,9*FS)+2 |
FS | FS-2% | FS+2 |
Spécification de précision
Gamme | Tolérance |
1.0E-9 à 1.0E-2 | ±0,1 décennie (-21% à 26%) |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-05 | 7.9E-06 | 1.3E-05 |
1.0E-04 | 7.9E-05 | 1.3E-04 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-06 | 7.9E-07 | 1.3E-06 |
5.0E-06 | 4.0E-06 | 6.3E-06 |
1.0E-05 | 7.9E-06 | 1.3E-05 |
5.0E-05 | 4.0E-05 | 6.3E-05 |
1.0E-04 | 7.9E-05 | 1.3E-04 |
Spécification de précision
Gamme | Tolérance |
1.0E-9 à 1.0E-1 | ±0,2 décennie (-37% à 58%) |
1.0E-1 à 2.0E+2 | ±15% |
2.0E+2 à 1.0E+3 | ±5% |
Points d'étalonnage standard avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-05 | 6.0E-6 | 1.6E-5 |
1.0E+00 | 8.5E-1 | 1.2E+0 |
7.6E+02 | 7.2E+2 | 8.0E+2 |
Points d'étalonnage NIST avec tolérances
Point de test | Tolérance réduite | Tolérance supérieure |
1.0E-6 | 6.3E-7 | 1.6E-6 |
5.0E-6 | 3.2E-6 | 8.0E-6 |
1.0E-5 | 6.3E-6 | 1.6E-5 |
5.0E-5 | 3.2E-5 | 8.0E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
1.0E-3 | 6.3E-4 | 1.6E-3 |
1.0E-2 | 6.3E-3 | 1.6E-2 |
1.0E-1 | 8.5E-2 | 1.2E-1 |
1.0E+0 | 8.5E-1 | 1.2E+0 |
1.0E+1 | 8.5E+0 | 1.2E+1 |
1.0E+2 | 8.5E+1 | 1.2E+2 |
7.6E+2 | 7.2E+2 | 8.0E+2 |