크기를 정의하는 Norm을 쓰는 이유

매트랩에는 선형대수와 관련된 개념이 정말 많이 나온다. 

그리고 이번에는 Norm(노름)의 함수인 norm이 나왔는데, norm이 무엇인가 검색해보니 

벡터, 행렬 또는 신호 등의 길이, 크기 등을 정의하기 위해 만들어진 개념이라 정의되어있다.

 

물론 이 정의만 보고 내가 이것을 이해할 턱이 없었다. 

그래서 조금 더 자세히 찾아보고 이해하기 위해 오늘의 포스팅을 작성해본다. 

 

Norm의 정의

• Norm은 벡터나 행렬의 크기를 수학적으로 정의한 것 
• 단순한 길이(length)라고만 생각하기보다는, 수학에서 상황에 맞게 여러가지 방식으로 '크기'를 정의할 수 있는 것 
  • 유클리드 거리(일반적인 직선 거리)
  • 최대값 크기
  • 신호의 에너지 
    → 이런 여러 상황들을 통일된 수학적 언어로 다룰 수 있도록 Norm이라는 개념을 만들어 둔 것 ! 

 

그럼 이 다양한 크기들이 같은 Norm에서 어떻게 다르게 구분되는지, 굳이 왜 Norm을 쓰는지 ?

 

Norm을 쓰는 이유 

Norm은 단순한 길이 계산을 넘어 다양한 응용 분야에서 사용된다. 

• 벡터 비교 : 어떤 벡터가 더 큰지, 더 작은지를 수치적으로 표현
• 오차 측정 : 근사값과 실제값의 차이를 norm으로 계산하여 오차의 크기 알아내기 
• 최적화 문제 : '거리를 최적화'하는 문제 = 결국 norm을 최소화하는 문제가 됨 
• 신호 처리 : 신호의 에너지(2-norm의 제곱), 최대 진폭등을 계산 
• 행렬 계산 : 행렬의 안정성(조건 수), 수치 해석에서의 에러 분석 등 

Norm에는 다양한 형태가 있는데, 

1-norm은 모든 원소의 절댓값을 더한 것, 2-norm은 피타고라스 거리, 무한-norm은 원소 중 절대값이 가장 큰 값이다. 

 

그런데 계속 의문이 들었다.

 

'아니 각각의 함수를 써서 사용하면 되는데,

왜 굳이 Norm이라는 공통 개념을 묶어서 그 개념 안에서 1,2,3... 이렇게 분류를 할까 ?'

 

그러나 언제나 수학에서 추상화를 만드는 이유가 있었다. 

 

'크기'라는 개념을 통합하자. 

 

일상에서 접하는 '거리'나 '크기'는 종류가 다양한다.

유클리드 거리(직선 거리) 부터 벡터의 크기, 행렬의 조건수, 함수의 진폭 등등 이렇게 다 따로 써 오면서 그때마다 정의, 성질, 증명을 매번 다시해왔고, norm을 알기 전까지는 이 모든 '크기'의 공통점을 몰랐다. 각각 다른 용도라고만 생각했을 뿐,

 

▶ 그런데 수학자들은 이 다양한 '크기'의 게념을 만족하는 공통 조건을 뽑아내어 norm이라는 하나의 언어로 추상화했다. 

 

 

Norm의 공통 성질 (정의)

 

앞서 정의한 부분이 있지만 조금 더 자세히 정의해보자. 

Norm은 다음 3가지 조건을 만족하는 함수이다. 

 

1. 0일때만 크기가 0

||𝑥|| =0  ⟺ 𝑥= 0

2. 스칼라 배에 비례

||𝛼𝑥|| = |𝛼| ⋅|𝑥|

3. 삼각 부등식 (triangle inequality)

|| 𝑥+𝑦 || ≤ ||𝑥|| +||𝑦||

 

이 세가지 조건을 만족한다면 그게 어떤 방식으로 정의된 함수이든 간에 모두 일관된 크기로 사용할 수 있다. 

 

어떤 norm을 쓰든 기본 성질인 이 세가지 조건은 항상 참이기에, 증명이나 이론 전개를 한 번만 해두면 모든 구체적인 norm(1,2,무한대, 그 외 Lp norm등)에 자동으로 적용된다. 

 

즉, 이론의 재사용성과 통일성 때문에 norm이라는 개념을 만들어 묶어두는 것이다. 

 

---

대표적인 Norm들 

 

1. L1 norm 

|x| + |y| = 1 

• 모든 원소의 절댓값을 더한 것 
• 맨헤튼 거리, 도시 블록처럼 직각으로만 움직일 때의 거리 계산에 자주 사용 

2. L2 norm 

√ ( x² +y²) = 1

• 일반적으로 우리가 말하는 길이(벡터의 크기) = 피타고라스 거리 
• 가장 일반적인 벡터의 크기
• 최단거리, 직선거리, 물리적인 크기 계산에 사용 

3. 무한Nomr

max(|x|,|y|) = 1 

• 원소 중 가장 절댓값이 큰 값 
• 최댓값을 기준으로 크기를 비교할 때, 신호의 피크 크기 같은 것을 구할 때 자주 사용 

 

모양은 각각 다르지만 사실상 "단위 길이가 1인 점들의 집합"을 각각의 방식으로 정의한 것이다. 

그래서 서로 다른 모양이지만 모두 같은 '크기'라는 개념의 변형이고 

이들을 묶어서 Norm이라 부르는 것이다. 

 

norm은 단순히 크기를 정의하는 도구이고, 

어떤 상황에서는 총합(L1 norm) 

어떤 상황에서는 직선거리(L2 norm)

또 어떤 상황에서는 최댓값이 더 정확하기에 여러 형태가 존재하는 것이다.