Televac® Vacuum Calibration Tolerances

Spécification de précision et points d'essai sous vide avec tolérances

Description

All values are in Torr unless otherwise stated and FS denotes the full scale or maximum reading of the CDG. Televac® reserves the right to change tolerances for any controllers, active gauges, or sensors. Any modification to any unit without approval from Televac® voids the unit’s certificate of compliance. Additional NIST Calibration Test Points are available upon request.

Jauges applicables

  • MX200 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MM200 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MC300 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MV2A – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • Compact 2A – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • Vacuguard™ – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • B2A Portable – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MP2AR Thermocouple Active Gauge
Spécification de précision
Gamme Tolérance
1.0E-3 à 1.0E-2 ±1.0E-3
1.0E-2 à 1.0E-1 ±10%
1.0E-1 à 1.0E+0 ±20%
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 8.0E-1 1.2E+0
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.6E-1 2.4E-1
5.0E-1 4.0E-1 6.0E-1
1.0E+0 8.0E-1 1.2E+0
Étalonnage compatible avec la spécification GE Aviation P10TF3

The 2A Thermocouple Vacuum Gauge in combination with any of the controllers above can be calibrated to the GE Aviation Specification P10TF3.

Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.7E-1 2.3E-1
5.0E-1 4.3E-1 5.8E-1
1.0E+0 8.5E-1 1.2E+0

Jauges applicables

  • Jauge active de thermocouple MX2A
Spécification de précision
Gamme Tolérance
1.0E-3 à 1.0E-2 ±1.0E-3
1.0E-2 à 1.0E+1 ±10%
1.0E+0 to 1.0E+2 ±30%
1.0E+2 à 1.0E+3 ±10%
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 9.0E-1 1.1E+0
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.8E-1 2.2E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0

Jauges applicables

  • MX200 – 4A Convection
  • Jauge active de convection MX4A
Spécification de précision
Gamme Tolérance
1.0E-3 à 1.0E-2 ±1.0E-3
1.0E-2 à 1.0E+3 ±10%
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E+0
7.6E+2 6.8E+2 8.4E+2
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 9.0E+1 1.1E+2
7.6E+2 6.8E+2 8.4E+2

Jauges applicables

  • MM200 – 4A Convection
  • MC300 – 4A Convection
  • MP4AR Convection Active Gauge
Spécification de précision
Gamme Tolérance
1.0E-3 à 1.0E-2 ±1.0E-3
1.0E-2 à 1.0E+1 ±10%
1.0E+1 à 1.0E+2 ±20%
1.0E+2 à 1.0E+3 ±10%
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E-0
7.6E+2 6.8E+2 8.4E+2
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 8.0E+1 1.2E+2
7.6E+2 6.8E+2 8.4E+2

Jauges applicables

  • MX200 – 1E Piezo Diaphragm
  • MM200 – 1E Piezo Diaphragm
Spécification de précision
Gamme Tolérance
1,0E+0 à 1,0E+1 ±1.0E+0
1.0E+1 à 1.0E+2 ±10%
1.0E+2 à 1.0E+3 ±5%
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
5.0E+00 4.0E+0 6.0E+0
1.0E+2 9.0E+1 1.1E+2
7.6E+2 7.2E+2 8.0E+2
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
5.0E+00 4.5E+0 5.5E+0
1.0E+2 9.0E+1 1.1E+2
4.0E+2 3.8E+2 4.2E+2
7.6E+2 7.2E+2 8.0E+2

Jauges applicables

  • MX200 – 7B Cold Cathode
  • MM200 – 7B Cold Cathode
  • MC300 – 7B Cold Cathode
Spécification de précision
Gamme Tolérance
1.0E-6 à 1.0E-3 ±0,2 décennie (-37% à 58%)
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-5 6.0E-6 1.6E-5
1.0E-4 6.0E-5 1.6E-4
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-6 6.3E-7* 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

*La tolérance pour le MM200 et le MC300 est de 6E-7

Jauges applicables

  • Jauge active à cathode froide MX7B
  • Jauge active à cathode froide MX7M
Spécification de précision
Gamme Tolérance
1.0E-7 to 1.0E-3 ±30%
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-05 7.0E-06 1.3E-05
1.0E-04 7.0E-05 1.3E-04
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-06 7.0E-07 1.3E-06
5.0E-06 3.5E-06 6.5E-06
1.0E-05 7.0E-06 1.3E-05
5.0E-05 3.5E-05 6.5E-05
1.0E-04 7.0E-05 1.3E-04

Jauges applicables

  • MX200 – 7E Cold Cathode
  • MM200 – 7E Cold Cathode
  • MC300 – 7E Cold Cathode
  • MP7ER Cold Cathode Active Gauge
Spécification de précision
Gamme Tolérance
1.0E-7 à 1.0E-2 ±0,2 décennie (-37% à 58%)
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

Jauges applicables

  • MX200 – 7F/7FC/7FCS Cold Cathodes
  • MM200 – 7F/7FC/7FCS Cold Cathodes
  • MC300 – 7F/7FC Cold Cathodes
  • MP7FR Cold Cathode Active Gauge
Spécification de précision
Gamme Tolérance
1.0E-9 à 1.0E-2 ±0,2 décennie (-37% à 58%)
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

Jauges applicables

  • MX200 – Capacitive Diaphragm Gauge (CDG)
  • MM200 – Capacitive Diaphragm Gauge (CDG)
Spécification de précision
Gamme Tolérance
.01*FS à .1*FS ±.001*FS
.1*FS à FS ±2%
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
0,1*FS (0,1*FS)-2% (0,1*FS)+2
0,5*FS (0,5*FS)-2%. (0,5*FS)+2
FS FS-2% FS+2
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
0,01*FS 0,01*FS-.001*FS 0,01*FS + 0,001*FS
0,1*FS (0,1*FS)-2% (0,1*FS)+2
0,2*FS (0,2*FS)-2%. (0,2*FS)+2
0,3*FS (0,3*FS)-2%. (0,3*FS)+2
0,4*FS (0,4*FS)-2%. (0,4*FS)+2
0,5*FS (0,5*FS)-2%. (0,5*FS)+2
0,6*FS (0,6*FS)-2%. (0,6*FS)+2
0,7*FS (0,7*FS)-2%. (0,7*FS)+2
0,8*FS (0,8*FS)-2%. (0,8*FS)+2
0,9*FS (0,9*FS)-2%. (0,9*FS)+2
FS FS-2% FS+2

Jauges applicables

  • MM200 – 3F Mini BA
  • MC300 – 3F Mini BA
  • MP3DR Hot Ion Active Gauge
Spécification de précision
Gamme Tolérance
1.0E-9 à 1.0E-2 ±0,1 décennie (-21% à 26%)
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-05 7.9E-06 1.3E-05
1.0E-04 7.9E-05 1.3E-04
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-06 7.9E-07 1.3E-06
5.0E-06 4.0E-06 6.3E-06
1.0E-05 7.9E-06 1.3E-05
5.0E-05 4.0E-05 6.3E-05
1.0E-04 7.9E-05 1.3E-04

Jauges applicables

  • CC-10 Jauge active à large portée
Spécification de précision
Gamme Tolérance
1.0E-9 à 1.0E-1 ±0,2 décennie (-37% à 58%)
1.0E-1 à 2.0E+2 ±15%
2.0E+2 à 1.0E+3 ±5%
Points d'étalonnage standard avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-05 6.0E-6 1.6E-5
1.0E+00 8.5E-1 1.2E+0
7.6E+02 7.2E+2 8.0E+2
Points d'étalonnage NIST avec tolérances
Point de test Tolérance réduite Tolérance supérieure
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4
1.0E-3 6.3E-4 1.6E-3
1.0E-2 6.3E-3 1.6E-2
1.0E-1 8.5E-2 1.2E-1
1.0E+0 8.5E-1 1.2E+0
1.0E+1 8.5E+0 1.2E+1
1.0E+2 8.5E+1 1.2E+2
7.6E+2 7.2E+2 8.0E+2