측정 오차 원인을 이해하면 같은 부품을 여러 번 측정했을 때 왜 결과가 조금씩 달라지는지 알 수 있습니다.
제조 현장에서는 동일한 부품을 같은 측정기로 검사했는데도 측정값이 매번 완전히 똑같지 않은 경우가 있습니다. 처음에는 제품 자체가 변한 것처럼 보일 수 있지만 실제로는 측정 과정에서 여러 요인이 결과에 영향을 줄 수 있습니다.
측정은 단순히 장비가 숫자를 보여주는 과정이 아닙니다. 장비 상태, 측정환경, 제품의 고정방법, 기준 설정, 측정자의 조작방법 등이 모두 결과에 영향을 줄 수 있습니다.
따라서 품질관리를 할 때는 제품의 치수만 보는 것이 아니라 측정 시스템 자체가 얼마나 안정적인지도 함께 확인해야 합니다.
측정 오차란 무엇인가?
측정 오차는 측정값과 실제값 사이에서 발생하는 차이를 의미합니다.
다만 실제 제조 현장에서는 제품의 참값을 완벽하게 알고 있는 경우가 많지 않습니다.
그래서 실제 품질관리에서는 반복 측정했을 때 값이 얼마나 흔들리는지, 서로 다른 측정자가 같은 제품을 측정했을 때 얼마나 비슷한 결과가 나오는지 등을 함께 확인합니다.
예를 들어 실제 부품의 길이가 거의 변하지 않았는데 측정할 때마다 다음과 같은 결과가 나온다고 가정해보겠습니다.
100.02mm
100.08mm
99.98mm
100.05mm
이처럼 측정값이 조금씩 달라질 수 있습니다.
중요한 것은 이러한 차이가 제품 자체의 변화 때문인지, 측정 시스템의 영향 때문인지 구분하는 것입니다.
1. 측정장비의 상태
가장 기본적인 측정 오차 원인 중 하나는 측정장비 자체의 상태입니다.
버니어 캘리퍼스, 마이크로미터, 다이얼 게이지, 3차원 측정기 등 모든 측정장비는 일정한 정확도와 분해능을 가지고 있습니다.
장비가 오래 사용되면 마모가 발생할 수 있고 충격을 받으면 상태가 변할 수도 있습니다.
측정기 영점이 맞지 않거나 교정 상태가 좋지 않으면 모든 측정값이 한 방향으로 벗어날 가능성도 있습니다.
예를 들어 캘리퍼스의 측정면 사이에 이물질이 있는 상태에서 영점을 설정했다면 이후 측정값 전체에 영향을 줄 수 있습니다.
3차원 측정기에서는 프로브의 교정상태나 스타일러스의 상태도 중요합니다.
따라서 측정값이 갑자기 이상하게 변했다면 제품만 확인하기보다 측정장비 상태도 함께 확인해야 합니다.
2. 온도 변화
온도는 정밀 측정에서 매우 중요한 요소입니다.
금속과 같은 재료는 온도가 올라가면 팽창하고 내려가면 수축합니다.
따라서 같은 부품이라도 매우 정밀한 수준에서 측정하면 온도에 따라 길이가 달라질 수 있습니다.
측정장비 역시 온도의 영향을 받습니다.
예를 들어 차가운 공장에서 가져온 금속부품을 바로 정밀 측정실에서 검사하면 제품과 측정환경 사이의 온도 차이로 인해 측정값에 영향을 줄 수 있습니다.
손으로 오랫동안 잡고 있는 것만으로도 작은 부품의 온도가 변할 수 있습니다.
일반적인 측정에서는 이러한 차이가 크게 문제가 되지 않을 수도 있지만 공차가 매우 작은 정밀부품에서는 중요한 요인이 될 수 있습니다.
정밀 측정실에서 온도를 일정하게 관리하는 이유도 여기에 있습니다.
3. 측정 기준 설정의 차이
앞에서 살펴본 측정 기준점과도 연결되는 부분입니다.
같은 제품이라도 어떤 기준면과 기준홀을 사용해 좌표계를 설정했는지에 따라 위치와 방향 관련 측정값이 달라질 수 있습니다.
예를 들어 3차원 측정기에서 제품의 바닥면을 기준으로 측정한 결과와 다른 면을 기준으로 측정한 결과는 서로 다르게 나타날 수 있습니다.
특히 제품 자체에 휨이나 비틀림이 있다면 이러한 차이가 더 커질 수 있습니다.
따라서 서로 다른 측정 결과를 비교할 때는 동일한 제품을 측정했는지만 확인해서는 안 됩니다.
데이텀과 원점, X·Y·Z 방향을 동일하게 설정했는지도 확인해야 합니다.
4. 제품 고정방법의 차이
제품을 어떻게 고정했는지도 측정 오차 원인이 될 수 있습니다.
특히 얇은 판금이나 플라스틱 부품처럼 쉽게 변형되는 제품에서 중요합니다.
예를 들어 얇은 금속판을 측정할 때 한 작업자는 클램프를 강하게 조이고 다른 작업자는 약하게 고정한다고 가정해보겠습니다.
클램프 힘에 의해 제품이 변형되면 두 작업자의 측정값이 다르게 나타날 수 있습니다.
검사구에서도 마찬가지입니다.
제품을 기준면에 밀착시키기 위해 클램프를 사용하지만 지나치게 강한 힘을 가하면 원래 제품의 상태를 바꿀 수 있습니다.
반대로 충분히 고정하지 않으면 측정 중 제품이 움직일 수 있습니다.
따라서 제품을 안정적으로 유지하면서도 불필요한 변형을 발생시키지 않는 고정방법이 중요합니다.
5. 측정자에 따른 차이
측정자가 달라지면 결과가 달라질 수도 있습니다.
예를 들어 마이크로미터를 사용할 때 한 작업자는 측정력을 일정하게 유지하지만 다른 작업자는 더 강하게 조일 수 있습니다.
부드러운 소재라면 측정력이 달라지는 것만으로도 값에 영향을 줄 수 있습니다.
버니어 캘리퍼스를 사용할 때도 측정면이 제품에 정확하게 수직으로 접촉했는지에 따라 측정값이 달라질 수 있습니다.
다이얼 게이지 역시 측정 위치나 제품에 접촉하는 각도가 달라지면 차이가 발생할 수 있습니다.
3차원 측정기처럼 자동화된 장비에서도 측정 프로그램을 작성하는 사람이 기준과 측정점을 다르게 설정하면 결과에 차이가 생길 수 있습니다.
따라서 측정 작업을 표준화하고 동일한 방법을 사용하도록 관리하는 것이 중요합니다.
6. 측정 위치와 측정점의 차이
같은 부품이라도 어디를 측정했는지에 따라 결과가 달라질 수 있습니다.
예를 들어 판재의 두께가 모든 위치에서 완벽하게 동일하지 않다고 가정해보겠습니다.
왼쪽에서 측정한 값과 오른쪽에서 측정한 값이 조금 다를 수 있습니다.
원통형 부품도 완벽한 원형이 아니라면 어느 방향에서 지름을 측정했는지에 따라 결과가 달라질 수 있습니다.
3차원 측정에서도 마찬가지입니다.
평면을 세 점만 측정했을 때와 여러 점을 측정했을 때 계산되는 결과에 차이가 생길 수 있습니다.
구멍 역시 측정점의 수와 위치에 따라 계산되는 중심이나 지름이 조금씩 달라질 수 있습니다.
따라서 반복 측정에서는 가능한 한 동일한 위치와 동일한 방법으로 측정하는 것이 중요합니다.
7. 제품 자체의 변형과 상태 변화
측정값이 달라진다고 해서 항상 측정 시스템만 문제가 있는 것은 아닙니다.
제품 자체가 실제로 변했을 수도 있습니다.
금속 부품은 가공이나 용접 후 내부에 잔류응력이 남아 있을 수 있습니다.
시간이 지나면서 응력이 풀리거나 열처리, 보관환경 등에 따라 미세한 변형이 발생할 수도 있습니다.
얇은 판금 부품은 이동하거나 보관하는 과정에서 변형될 수 있습니다.
플라스틱 제품은 온도와 습도 조건에 따라 치수가 변하는 경우도 있습니다.
따라서 제품을 처음 측정한 상태와 나중에 다시 측정한 상태가 정말 동일한지도 확인해야 합니다.
측정 오차와 공차는 다른 개념이다
측정 오차와 공차는 혼동하기 쉽지만 서로 다른 개념입니다.
공차는 설계자가 제품에 허용한 범위입니다.
측정 오차는 실제 제품을 측정하는 과정에서 발생할 수 있는 차이입니다.
예를 들어 제품의 공차가 ±0.5mm라고 해서 측정기가 ±0.5mm 정도 틀려도 된다는 뜻은 아닙니다.
측정 시스템의 변동이 너무 크면 제품이 공차 안에 있는지 정확하게 판단하기 어렵습니다.
특히 공차가 작을수록 측정 시스템의 성능이 더욱 중요해집니다.
제품의 공차가 ±0.05mm인데 측정 결과 자체가 ±0.1mm씩 흔들린다면 정확한 합격과 불합격 판정이 어려울 수 있습니다.
반복성과 재현성이 중요한 이유
측정 시스템을 평가할 때 자주 등장하는 개념이 반복성과 재현성입니다.
반복성은 동일한 측정자가 동일한 장비로 같은 제품을 반복 측정했을 때 결과가 얼마나 일관되게 나오는지를 나타냅니다.
재현성은 서로 다른 측정자가 같은 제품을 측정했을 때 결과가 얼마나 비슷한지를 나타냅니다.
예를 들어 한 작업자가 제품을 세 번 측정했는데 값이 크게 흔들린다면 반복성에 문제가 있을 가능성이 있습니다.
반면 각 작업자는 자신의 측정에서는 비슷한 값을 얻지만 작업자 A와 작업자 B의 평균값이 크게 다르다면 재현성 문제를 의심할 수 있습니다.
이러한 측정 시스템의 변동을 분석하기 위해 Gage R&R과 같은 방법이 사용됩니다.
측정 오차를 줄이려면 어떻게 해야 할까?
먼저 측정장비를 적절하게 관리해야 합니다.
영점과 교정상태를 확인하고 측정면이나 프로브에 손상과 이물질이 없는지 확인할 필요가 있습니다.
정밀 측정에서는 제품과 측정환경의 온도를 안정화하는 것도 중요합니다.
측정 기준과 제품 고정방법 역시 표준화해야 합니다.
작업자마다 서로 다른 기준이나 측정 위치를 사용하지 않도록 측정 절차를 명확하게 만드는 것이 좋습니다.
측정점과 측정순서도 가능한 한 동일하게 유지해야 합니다.
또한 반복 측정 데이터를 확인하여 측정 시스템 자체의 변동이 어느 정도인지 주기적으로 확인할 필요가 있습니다.
측정값이 다르면 무엇부터 확인해야 할까?
동일한 제품에서 측정값 차이가 발생했다면 무조건 제품 불량으로 판단하기 전에 몇 가지 사항을 확인하는 것이 좋습니다.
먼저 같은 측정장비를 사용했는지 확인합니다.
장비의 교정상태와 영점도 확인해야 합니다.
다음으로 동일한 데이텀과 좌표계를 사용했는지 확인합니다.
제품을 어떻게 고정했는지도 비교해야 합니다.
측정자와 측정위치, 측정점의 수가 동일한지도 확인할 필요가 있습니다.
측정환경의 온도나 제품 상태가 달라지지 않았는지도 살펴봅니다.
이러한 조건을 하나씩 확인하면 실제 제품 변화인지 측정 시스템의 차이인지 원인을 좁히는 데 도움이 됩니다.
측정 오차 원인을 이해할 때 기억할 점
측정 결과는 제품 하나만의 특성이 아닙니다.
제품과 측정장비, 측정환경, 측정방법, 측정자가 모두 함께 만들어낸 결과입니다.
따라서 정확한 품질판정을 위해서는 제품뿐 아니라 측정 시스템 전체를 관리해야 합니다.
특히 서로 다른 측정실이나 업체에서 동일한 제품의 측정 결과가 다르게 나온다면 장비 정확도만 비교하기보다 기준 설정과 고정방법, 측정점, 환경조건이 동일한지 먼저 확인할 필요가 있습니다.
결론
측정 오차 원인은 하나로 결정되지 않습니다.
측정장비의 상태, 온도 변화, 기준 설정, 제품 고정방법, 측정자, 측정 위치와 측정점, 제품 자체의 변형 등 다양한 요인이 측정 결과에 영향을 줄 수 있습니다.
같은 부품을 측정했는데 값이 다르게 나왔다면 제품이 실제로 변했다고 바로 판단하기보다 측정 조건이 동일했는지 먼저 확인하는 것이 중요합니다.
특히 제조 품질에서는 측정값을 이용해 합격과 불합격을 결정하기 때문에 측정 시스템의 안정성이 매우 중요합니다.
측정 시스템 자체의 변동이 크다면 실제 제품의 품질과 측정에서 발생한 차이를 구분하기 어려워집니다.
그래서 반복성과 재현성을 확인하고 필요한 경우 Gage R&R과 같은 측정시스템 분석을 활용합니다.
다음으로 알아볼 내용은 Gage R&R입니다. 같은 부품을 여러 번 측정하고 여러 측정자가 검사했을 때 측정 시스템에서 발생하는 변동을 어떻게 구분하고 평가하는지 살펴볼 수 있습니다.