Genauigkeitsspezifikation und Vakuumprüfpunkte mit Toleranzen
Beschreibung
All values are in Torr unless otherwise stated and FS denotes the full scale or maximum reading of the CDG. Televac® reserves the right to change tolerances for any controllers, active gauges, or sensors. Any modification to any unit without approval from Televac® voids the unit’s certificate of compliance. Additional NIST Calibration Test Points are available upon request.
Select Vacuum Gauge
MX200 | MM200 | MC300 | MV2A | Kompakt 2A | VacuGuard™ | B2A Tragbar | Aktive Messgeräte |
2A | 2A | 2A | 2A | 2A | 2A | 2A | MX2A |
2A VacuMini | 2A VacuMini | 2A VacuMini | 2A VacuMini | 2A VacuMini | 2A VacuMini | 2A VacuMini | MX4A |
2A NASA Mini | 2A NASA Mini | 2A NASA Mini | 2A NASA Mini | 2A NASA Mini | 2A NASA Mini | 2A NASA Mini | MX7B |
4A | 4A | 4A | MX7M | ||||
1E | 1E | 7B | CC-10 | ||||
7B | 7B | 7E | MP2AR | ||||
7E | 7E | 7F | MP3DR | ||||
7F | 7F | 7FC | MP4AR | ||||
7FC | 7FC | 3F Mini | MP7ER | ||||
7FCS | 7FCS | MP7FR | |||||
CDG | 3F Mini | ||||||
CDG |
Anwendbare Messgeräte
- MX200 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- MM200 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- MC300 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- MV2A – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- Compact 2A – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- Vacuguard™ – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- B2A Portable – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
- MP2AR Thermocouple Active Gauge
Genauigkeitsspezifikation
Bereich | Toleranz |
1,0E-3 bis 1,0E-2 | ±1.0E-3 |
1,0E-2 bis 1,0E-1 | ±10% |
1,0E-1 bis 1,0E+0 | ±20% |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
1.0E+0 | 8.0E-1 | 1.2E+0 |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-2 | 9.0E-3 | 1.1E-2 |
2.0E-2 | 1.8E-2 | 2.2E-2 |
5.0E-2 | 4.5E-2 | 5.5E-2 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
2.0E-1 | 1.6E-1 | 2.4E-1 |
5.0E-1 | 4.0E-1 | 6.0E-1 |
1.0E+0 | 8.0E-1 | 1.2E+0 |
GE Aviation Spezifikation P10TF3 Kompatible Kalibrierung
The 2A Thermocouple Vacuum Gauge in combination with any of the controllers above can be calibrated to the GE Aviation Specification P10TF3.
Testpunkt | Untere Toleranz | Obere Toleranz |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-2 | 9.0E-3 | 1.1E-2 |
2.0E-2 | 1.8E-2 | 2.2E-2 |
5.0E-2 | 4.5E-2 | 5.5E-2 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
2.0E-1 | 1.7E-1 | 2.3E-1 |
5.0E-1 | 4.3E-1 | 5.8E-1 |
1.0E+0 | 8.5E-1 | 1.2E+0 |
Genauigkeitsspezifikation
Bereich | Toleranz |
1,0E-3 bis 1,0E-2 | ±1.0E-3 |
1,0E-2 bis 1,0E+1 | ±10% |
1.0E+0 to 1.0E+2 | ±30% |
1.0E+2 bis 1.0E+3 | ±10% |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
1.0E+0 | 9.0E-1 | 1.1E+0 |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-2 | 9.0E-3 | 1.1E-2 |
2.0E-2 | 1.8E-2 | 2.2E-2 |
5.0E-2 | 4.5E-2 | 5.5E-2 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
2.0E-1 | 1.8E-1 | 2.2E-1 |
5.0E-1 | 4.5E-1 | 5.5E-1 |
1.0E+0 | 9.0E-1 | 1.1E+0 |
Genauigkeitsspezifikation
Bereich | Toleranz |
1,0E-3 bis 1,0E-2 | ±1.0E-3 |
1.0E-2 bis 1.0E+3 | ±10% |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E+0 | 9.0E-1 | 1.1E+0 |
7.6E+2 | 6.8E+2 | 8.4E+2 |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
Testpunkt | Untere Toleranz | Obere Toleranz |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-2 | 9.0E-3 | 1.1E-2 |
5.0E-2 | 4.5E-2 | 5.5E-2 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
5.0E-1 | 4.5E-1 | 5.5E-1 |
1.0E+0 | 9.0E-1 | 1.1E+0 |
1.0E+1 | 9.0E+0 | 1.1E+1 |
1.0E+2 | 9.0E+1 | 1.1E+2 |
7.6E+2 | 6.8E+2 | 8.4E+2 |
Genauigkeitsspezifikation
Bereich | Toleranz |
1,0E-3 bis 1,0E-2 | ±1.0E-3 |
1,0E-2 bis 1,0E+1 | ±10% |
1.0E+1 bis 1.0E+2 | ±20% |
1.0E+2 bis 1.0E+3 | ±10% |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E+0 | 9.0E-1 | 1.1E-0 |
7.6E+2 | 6.8E+2 | 8.4E+2 |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
0.0E+0 | -1.0E-3 | 1.0E-3 |
1.0E-2 | 9.0E-3 | 1.1E-2 |
5.0E-2 | 4.5E-2 | 5.5E-2 |
1.0E-1 | 9.0E-2 | 1.1E-1 |
5.0E-1 | 4.5E-1 | 5.5E-1 |
1.0E+0 | 9.0E-1 | 1.1E+0 |
1.0E+1 | 9.0E+0 | 1.1E+1 |
1.0E+2 | 8.0E+1 | 1.2E+2 |
7.6E+2 | 6.8E+2 | 8.4E+2 |
Genauigkeitsspezifikation
Bereich | Toleranz |
1.0E+0 bis 1.0E+1 | ±1.0E+0 |
1.0E+1 bis 1.0E+2 | ±10% |
1.0E+2 bis 1.0E+3 | ±5% |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
5.0E+00 | 4.0E+0 | 6.0E+0 |
1.0E+2 | 9.0E+1 | 1.1E+2 |
7.6E+2 | 7.2E+2 | 8.0E+2 |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
5.0E+00 | 4.5E+0 | 5.5E+0 |
1.0E+2 | 9.0E+1 | 1.1E+2 |
4.0E+2 | 3.8E+2 | 4.2E+2 |
7.6E+2 | 7.2E+2 | 8.0E+2 |
Genauigkeitsspezifikation
Bereich | Toleranz |
1,0E-6 bis 1,0E-3 | ±,2 Dekade (-37% bis 58%) |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-5 | 6.0E-6 | 1.6E-5 |
1.0E-4 | 6.0E-5 | 1.6E-4 |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-6 | 6.3E-7* | 1.6E-6 |
5.0E-6 | 3.2E-6 | 8.0E-6 |
1.0E-5 | 6.3E-6 | 1.6E-5 |
5.0E-5 | 3.2E-5 | 8.0E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
*Die Toleranz für das MM200 und MC300 beträgt 6E-7
Genauigkeitsspezifikation
Bereich | Toleranz |
1.0E-7 to 1.0E-3 | ±30% |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-05 | 7.0E-06 | 1.3E-05 |
1.0E-04 | 7.0E-05 | 1.3E-04 |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-06 | 7.0E-07 | 1.3E-06 |
5.0E-06 | 3.5E-06 | 6.5E-06 |
1.0E-05 | 7.0E-06 | 1.3E-05 |
5.0E-05 | 3.5E-05 | 6.5E-05 |
1.0E-04 | 7.0E-05 | 1.3E-04 |
Genauigkeitsspezifikation
Bereich | Toleranz |
1,0E-7 bis 1,0E-2 | ±,2 Dekade (-37% bis 58%) |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-5 | 6.3E-6 | 1.6E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-6 | 6.3E-7 | 1.6E-6 |
5.0E-6 | 3.2E-6 | 8.0E-6 |
1.0E-5 | 6.3E-6 | 1.6E-5 |
5.0E-5 | 3.2E-5 | 8.0E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
Genauigkeitsspezifikation
Bereich | Toleranz |
1,0E-9 bis 1,0E-2 | ±,2 Dekade (-37% bis 58%) |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-5 | 6.3E-6 | 1.6E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-6 | 6.3E-7 | 1.6E-6 |
5.0E-6 | 3.2E-6 | 8.0E-6 |
1.0E-5 | 6.3E-6 | 1.6E-5 |
5.0E-5 | 3.2E-5 | 8.0E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
Genauigkeitsspezifikation
Bereich | Toleranz |
.01*FS bis .1*FS | ±.001*FS |
.1*FS bis FS | ±2% |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
0,1*FS | (0,1*FS)-2% | (0,1*FS)+2% |
0,5*FS | (0,5*FS)-2% | (0,5*FS)+2% |
FS | FS-2% | FS+2% |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
0,01*FS | 0,01*FS-.001*FS | 0,01*FS +.001*FS |
0,1*FS | (0,1*FS)-2% | (0,1*FS)+2% |
0,2*FS | (0,2*FS)-2% | (0,2*FS)+2% |
0,3*FS | (0,3*FS)-2% | (0,3*FS)+2% |
0,4*FS | (0,4*FS)-2% | (0,4*FS)+2% |
0,5*FS | (0,5*FS)-2% | (0,5*FS)+2% |
0,6*FS | (0,6*FS)-2% | (0,6*FS)+2% |
0,7*FS | (0,7*FS)-2% | (0,7*FS)+2% |
0,8*FS | (0,8*FS)-2% | (0,8*FS)+2% |
0,9*FS | (0,9*FS)-2% | (0,9*FS)+2% |
FS | FS-2% | FS+2% |
Genauigkeitsspezifikation
Bereich | Toleranz |
1,0E-9 bis 1,0E-2 | ±.1 Dekade (-21% bis 26%) |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-05 | 7.9E-06 | 1.3E-05 |
1.0E-04 | 7.9E-05 | 1.3E-04 |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-06 | 7.9E-07 | 1.3E-06 |
5.0E-06 | 4.0E-06 | 6.3E-06 |
1.0E-05 | 7.9E-06 | 1.3E-05 |
5.0E-05 | 4.0E-05 | 6.3E-05 |
1.0E-04 | 7.9E-05 | 1.3E-04 |
Genauigkeitsspezifikation
Bereich | Toleranz |
1,0E-9 bis 1,0E-1 | ±,2 Dekade (-37% bis 58%) |
1,0E-1 bis 2,0E+2 | ±15% |
2,0E+2 bis 1,0E+3 | ±5% |
Standard-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-05 | 6.0E-6 | 1.6E-5 |
1.0E+00 | 8.5E-1 | 1.2E+0 |
7.6E+02 | 7.2E+2 | 8.0E+2 |
NIST-Kalibrierpunkte mit Toleranzen
Testpunkt | Untere Toleranz | Obere Toleranz |
1.0E-6 | 6.3E-7 | 1.6E-6 |
5.0E-6 | 3.2E-6 | 8.0E-6 |
1.0E-5 | 6.3E-6 | 1.6E-5 |
5.0E-5 | 3.2E-5 | 8.0E-5 |
1.0E-4 | 6.3E-5 | 1.6E-4 |
1.0E-3 | 6.3E-4 | 1.6E-3 |
1.0E-2 | 6.3E-3 | 1.6E-2 |
1.0E-1 | 8.5E-2 | 1.2E-1 |
1.0E+0 | 8.5E-1 | 1.2E+0 |
1.0E+1 | 8.5E+0 | 1.2E+1 |
1.0E+2 | 8.5E+1 | 1.2E+2 |
7.6E+2 | 7.2E+2 | 8.0E+2 |