Televac® Vacuum Calibration Tolerances

Genauigkeitsspezifikation und Vakuumprüfpunkte mit Toleranzen

Beschreibung

All values are in Torr unless otherwise stated and FS denotes the full scale or maximum reading of the CDG. Televac® reserves the right to change tolerances for any controllers, active gauges, or sensors. Any modification to any unit without approval from Televac® voids the unit’s certificate of compliance. Additional NIST Calibration Test Points are available upon request.

Anwendbare Messgeräte

  • MX200 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MM200 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MC300 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MV2A – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • Compact 2A – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • Vacuguard™ – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • B2A Portable – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MP2AR Thermocouple Active Gauge
Genauigkeitsspezifikation
Bereich Toleranz
1,0E-3 bis 1,0E-2 ±1.0E-3
1,0E-2 bis 1,0E-1 ±10%
1,0E-1 bis 1,0E+0 ±20%
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 8.0E-1 1.2E+0
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.6E-1 2.4E-1
5.0E-1 4.0E-1 6.0E-1
1.0E+0 8.0E-1 1.2E+0
GE Aviation Spezifikation P10TF3 Kompatible Kalibrierung

The 2A Thermocouple Vacuum Gauge in combination with any of the controllers above can be calibrated to the GE Aviation Specification P10TF3.

Testpunkt Untere Toleranz Obere Toleranz
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.7E-1 2.3E-1
5.0E-1 4.3E-1 5.8E-1
1.0E+0 8.5E-1 1.2E+0

Anwendbare Messgeräte

  • MX2A Thermoelement-Aktivmessgerät
Genauigkeitsspezifikation
Bereich Toleranz
1,0E-3 bis 1,0E-2 ±1.0E-3
1,0E-2 bis 1,0E+1 ±10%
1.0E+0 to 1.0E+2 ±30%
1.0E+2 bis 1.0E+3 ±10%
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 9.0E-1 1.1E+0
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.8E-1 2.2E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0

Anwendbare Messgeräte

  • MX200 – 4A Convection
  • MX4A Aktives Konvektionsmessgerät
Genauigkeitsspezifikation
Bereich Toleranz
1,0E-3 bis 1,0E-2 ±1.0E-3
1.0E-2 bis 1.0E+3 ±10%
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E+0
7.6E+2 6.8E+2 8.4E+2
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
Testpunkt Untere Toleranz Obere Toleranz
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 9.0E+1 1.1E+2
7.6E+2 6.8E+2 8.4E+2

Anwendbare Messgeräte

  • MM200 – 4A Convection
  • MC300 – 4A Convection
  • MP4AR Convection Active Gauge
Genauigkeitsspezifikation
Bereich Toleranz
1,0E-3 bis 1,0E-2 ±1.0E-3
1,0E-2 bis 1,0E+1 ±10%
1.0E+1 bis 1.0E+2 ±20%
1.0E+2 bis 1.0E+3 ±10%
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E-0
7.6E+2 6.8E+2 8.4E+2
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 8.0E+1 1.2E+2
7.6E+2 6.8E+2 8.4E+2

Anwendbare Messgeräte

  • MX200 – 1E Piezo Diaphragm
  • MM200 – 1E Piezo Diaphragm
Genauigkeitsspezifikation
Bereich Toleranz
1.0E+0 bis 1.0E+1 ±1.0E+0
1.0E+1 bis 1.0E+2 ±10%
1.0E+2 bis 1.0E+3 ±5%
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
5.0E+00 4.0E+0 6.0E+0
1.0E+2 9.0E+1 1.1E+2
7.6E+2 7.2E+2 8.0E+2
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
5.0E+00 4.5E+0 5.5E+0
1.0E+2 9.0E+1 1.1E+2
4.0E+2 3.8E+2 4.2E+2
7.6E+2 7.2E+2 8.0E+2

Anwendbare Messgeräte

  • MX200 – 7B Cold Cathode
  • MM200 – 7B Cold Cathode
  • MC300 – 7B Cold Cathode
Genauigkeitsspezifikation
Bereich Toleranz
1,0E-6 bis 1,0E-3 ±,2 Dekade (-37% bis 58%)
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-5 6.0E-6 1.6E-5
1.0E-4 6.0E-5 1.6E-4
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-6 6.3E-7* 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

*Die Toleranz für das MM200 und MC300 beträgt 6E-7

Anwendbare Messgeräte

  • MX7B Kaltkathoden-Aktivmessgerät
  • MX7M Kaltkathoden-Aktivmessgerät
Genauigkeitsspezifikation
Bereich Toleranz
1.0E-7 to 1.0E-3 ±30%
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-05 7.0E-06 1.3E-05
1.0E-04 7.0E-05 1.3E-04
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-06 7.0E-07 1.3E-06
5.0E-06 3.5E-06 6.5E-06
1.0E-05 7.0E-06 1.3E-05
5.0E-05 3.5E-05 6.5E-05
1.0E-04 7.0E-05 1.3E-04

Anwendbare Messgeräte

  • MX200 – 7E Cold Cathode
  • MM200 – 7E Cold Cathode
  • MC300 – 7E Cold Cathode
  • MP7ER Kaltkathoden-Aktivmessgerät
Genauigkeitsspezifikation
Bereich Toleranz
1,0E-7 bis 1,0E-2 ±,2 Dekade (-37% bis 58%)
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

Anwendbare Messgeräte

  • MX200 – 7F/7FC/7FCS Cold Cathodes
  • MM200 – 7F/7FC/7FCS Cold Cathodes
  • MC300 – 7F/7FC Cold Cathodes
  • MP7FR Kaltkathoden-Aktivmessgerät
Genauigkeitsspezifikation
Bereich Toleranz
1,0E-9 bis 1,0E-2 ±,2 Dekade (-37% bis 58%)
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

Anwendbare Messgeräte

  • MX200 – Capacitive Diaphragm Gauge (CDG)
  • MM200 – Capacitive Diaphragm Gauge (CDG)
Genauigkeitsspezifikation
Bereich Toleranz
.01*FS bis .1*FS ±.001*FS
.1*FS bis FS ±2%
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
0,1*FS (0,1*FS)-2% (0,1*FS)+2%
0,5*FS (0,5*FS)-2% (0,5*FS)+2%
FS FS-2% FS+2%
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
0,01*FS 0,01*FS-.001*FS 0,01*FS +.001*FS
0,1*FS (0,1*FS)-2% (0,1*FS)+2%
0,2*FS (0,2*FS)-2% (0,2*FS)+2%
0,3*FS (0,3*FS)-2% (0,3*FS)+2%
0,4*FS (0,4*FS)-2% (0,4*FS)+2%
0,5*FS (0,5*FS)-2% (0,5*FS)+2%
0,6*FS (0,6*FS)-2% (0,6*FS)+2%
0,7*FS (0,7*FS)-2% (0,7*FS)+2%
0,8*FS (0,8*FS)-2% (0,8*FS)+2%
0,9*FS (0,9*FS)-2% (0,9*FS)+2%
FS FS-2% FS+2%

Anwendbare Messgeräte

  • MM200 – 3F Mini BA
  • MC300 – 3F Mini BA
  • MP3DR Hot Ion Active Gauge
Genauigkeitsspezifikation
Bereich Toleranz
1,0E-9 bis 1,0E-2 ±.1 Dekade (-21% bis 26%)
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-05 7.9E-06 1.3E-05
1.0E-04 7.9E-05 1.3E-04
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-06 7.9E-07 1.3E-06
5.0E-06 4.0E-06 6.3E-06
1.0E-05 7.9E-06 1.3E-05
5.0E-05 4.0E-05 6.3E-05
1.0E-04 7.9E-05 1.3E-04

Anwendbare Messgeräte

  • CC-10 Aktives Weitbereichsmessgerät
Genauigkeitsspezifikation
Bereich Toleranz
1,0E-9 bis 1,0E-1 ±,2 Dekade (-37% bis 58%)
1,0E-1 bis 2,0E+2 ±15%
2,0E+2 bis 1,0E+3 ±5%
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-05 6.0E-6 1.6E-5
1.0E+00 8.5E-1 1.2E+0
7.6E+02 7.2E+2 8.0E+2
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt Untere Toleranz Obere Toleranz
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4
1.0E-3 6.3E-4 1.6E-3
1.0E-2 6.3E-3 1.6E-2
1.0E-1 8.5E-2 1.2E-1
1.0E+0 8.5E-1 1.2E+0
1.0E+1 8.5E+0 1.2E+1
1.0E+2 8.5E+1 1.2E+2
7.6E+2 7.2E+2 8.0E+2