Televac® Vacuum Calibration Tolerances

공차와 정확도 사양 및 진공 테스트 포인트

설명

All values are in Torr unless otherwise stated and FS denotes the full scale or maximum reading of the CDG. Televac® reserves the right to change tolerances for any controllers, active gauges, or sensors. Any modification to any unit without approval from Televac® voids the unit’s certificate of compliance. Additional NIST Calibration Test Points are available upon request.

적용 가능한 게이지

  • MX200 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MM200 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MC300 – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MV2A – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • Compact 2A – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • Vacuguard™ – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • B2A Portable – 2A Thermocouple, 2A VacuMini, or 2A NASA Mini
  • MP2AR Thermocouple Active Gauge
정확도 사양
범위 공차
1.0E-3 ~ 1.0E-2 ±1.0E-3
1.0E-2 ~ 1.0E-1 ±10%
1.0E-1 ~ 1.0E+0 ±20%
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 8.0E-1 1.2E+0
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.6E-1 2.4E-1
5.0E-1 4.0E-1 6.0E-1
1.0E+0 8.0E-1 1.2E+0
GE 항공 사양 P10TF3 호환 교정

The 2A Thermocouple Vacuum Gauge in combination with any of the controllers above can be calibrated to the GE Aviation Specification P10TF3.

테스트 포인트 낮은 공차 상부 허용 오차
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.7E-1 2.3E-1
5.0E-1 4.3E-1 5.8E-1
1.0E+0 8.5E-1 1.2E+0

적용 가능한 게이지

  • MX2A 써모커플 액티브 게이지
정확도 사양
범위 공차
1.0E-3 ~ 1.0E-2 ±1.0E-3
1.0E-2 ~ 1.0E+1 ±10%
1.0E+0 ~ 1.0E+2 ±30%
1.0E+2 ~ 1.0E+3 ±10%
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 9.0E-1 1.1E+0
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.8E-1 2.2E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0

적용 가능한 게이지

  • MX200 – 4A Convection
  • MX4A 대류 액티브 게이지
정확도 사양
범위 공차
1.0E-3 ~ 1.0E-2 ±1.0E-3
1.0E-2 ~ 1.0E+3 ±10%
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E+0
7.6E+2 6.8E+2 8.4E+2
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
테스트 포인트 낮은 공차 상부 허용 오차
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 9.0E+1 1.1E+2
7.6E+2 6.8E+2 8.4E+2

적용 가능한 게이지

  • MM200 – 4A Convection
  • MC300 – 4A Convection
  • MP4AR Convection Active Gauge
정확도 사양
범위 공차
1.0E-3 ~ 1.0E-2 ±1.0E-3
1.0E-2 ~ 1.0E+1 ±10%
1.0E+1 ~ 1.0E+2 ±20%
1.0E+2 ~ 1.0E+3 ±10%
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E-0
7.6E+2 6.8E+2 8.4E+2
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 8.0E+1 1.2E+2
7.6E+2 6.8E+2 8.4E+2

적용 가능한 게이지

  • MX200 – 1E Piezo Diaphragm
  • MM200 – 1E Piezo Diaphragm
정확도 사양
범위 공차
1.0E+0 ~ 1.0E+1 ±1.0E+0
1.0E+1 ~ 1.0E+2 ±10%
1.0E+2 ~ 1.0E+3 ±5%
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
5.0E+00 4.0E+0 6.0E+0
1.0E+2 9.0E+1 1.1E+2
7.6E+2 7.2E+2 8.0E+2
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
5.0E+00 4.5E+0 5.5E+0
1.0E+2 9.0E+1 1.1E+2
4.0E+2 3.8E+2 4.2E+2
7.6E+2 7.2E+2 8.0E+2

적용 가능한 게이지

  • MX200 – 7B Cold Cathode
  • MM200 – 7B Cold Cathode
  • MC300 – 7B Cold Cathode
정확도 사양
범위 공차
1.0E-6 ~ 1.0E-3 ±.2 년 (-37% ~ 58%)
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-5 6.0E-6 1.6E-5
1.0E-4 6.0E-5 1.6E-4
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-6 6.3E-7* 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

*MM200 및 MC300에 대한 허용 오차는 6E-7입니다.

적용 가능한 게이지

  • MX7B 콜드 캐트호드 액티브 게이지
  • MX7M 콜드 캐트호드 액티브 게이지
정확도 사양
범위 공차
1.0E-7 ~ 1.0E-3 ±30%
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-05 7.0E-06 1.3E-05
1.0E-04 7.0E-05 1.3E-04
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-06 7.0E-07 1.3E-06
5.0E-06 3.5E-06 6.5E-06
1.0E-05 7.0E-06 1.3E-05
5.0E-05 3.5E-05 6.5E-05
1.0E-04 7.0E-05 1.3E-04

적용 가능한 게이지

  • MX200 – 7E Cold Cathode
  • MM200 – 7E Cold Cathode
  • MC300 – 7E Cold Cathode
  • MP7ER Cold Cathode Active Gauge
정확도 사양
범위 공차
1.0E-7 ~ 1.0E-2 ±.2 년 (-37% ~ 58%)
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

적용 가능한 게이지

  • MX200 – 7F/7FC/7FCS Cold Cathodes
  • MM200 – 7F/7FC/7FCS Cold Cathodes
  • MC300 – 7F/7FC Cold Cathodes
  • MP7FR Cold Cathode Active Gauge
정확도 사양
범위 공차
1.0E-9 ~ 1.0E-2 ±.2 년 (-37% ~ 58%)
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

적용 가능한 게이지

  • MX200 – Capacitive Diaphragm Gauge (CDG)
  • MM200 – Capacitive Diaphragm Gauge (CDG)
정확도 사양
범위 공차
.01*FS에서 .1*FS까지 ±.001*FS
FS에 .1*FS ±2%
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
0.1*FS (0.1*FS)-2% (0.1*FS)+2%
0.5*FS (0.5*FS)-2% (0.5*FS)+2%
FS FS-2% FS+2%
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
0.01*FS 0.01*FS-.001*FS 0.01*FS +.001*FS
0.1*FS (0.1*FS)-2% (0.1*FS)+2%
0.2*FS (0.2*FS)-2% (0.2*FS)+2%
0.3*FS (0.3*FS)-2% (0.3*FS)+2%
0.4*FS (0.4*FS)-2% (0.4*FS)+2%
0.5*FS (0.5*FS)-2% (0.5*FS)+2%
0.6*FS (0.6*FS)-2% (0.6*FS)+2%
0.7*FS (0.7*FS)-2% (0.7*FS)+2%
0.8*FS (0.8*FS)-2% (0.8*FS)+2%
0.9*FS (0.9*FS)-2% (0.9*FS)+2%
FS FS-2% FS+2%

적용 가능한 게이지

  • MM200 – 3F Mini BA
  • MC300 – 3F Mini BA
  • MP3DR Hot Ion Active Gauge
정확도 사양
범위 공차
1.0E-9 ~ 1.0E-2 ±.1 년 (-21% ~ 26%)
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-05 7.9E-06 1.3E-05
1.0E-04 7.9E-05 1.3E-04
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-06 7.9E-07 1.3E-06
5.0E-06 4.0E-06 6.3E-06
1.0E-05 7.9E-06 1.3E-05
5.0E-05 4.0E-05 6.3E-05
1.0E-04 7.9E-05 1.3E-04

적용 가능한 게이지

  • CC-10 와이드 레인지 액티브 게이지
정확도 사양
범위 공차
1.0E-9 ~ 1.0E-1 ±.2 년 (-37% ~ 58%)
1.0E-1 ~ 2.0E+2 ±15%
2.0E+2 ~ 1.0E+3 ±5%
공차가 있는 표준 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-05 6.0E-6 1.6E-5
1.0E+00 8.5E-1 1.2E+0
7.6E+02 7.2E+2 8.0E+2
공차가 있는 NIST 교정 포인트
테스트 포인트 낮은 공차 상부 허용 오차
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4
1.0E-3 6.3E-4 1.6E-3
1.0E-2 6.3E-3 1.6E-2
1.0E-1 8.5E-2 1.2E-1
1.0E+0 8.5E-1 1.2E+0
1.0E+1 8.5E+0 1.2E+1
1.0E+2 8.5E+1 1.2E+2
7.6E+2 7.2E+2 8.0E+2