[ML] Nearest Neighbor Method - 정규화(Normalization)(2)

🤔KNN(K - Nearest Neighors Classifier)

KNN이란 말 그대로 K개의 가장 가까운 이웃(데이터)들을 이용하여 분류를 진행하는 것을 말합니다.

 

매우 단순한 알고리즘이지만 생각보다 좋은 성능을 내기 때문에 드래곤볼의 전투력 측정기와 같은 역할을 합니다.

 

즉, KNN알고리즘보다 좋지 못한 성능을 내는 모델들은 믿고 걸러주시면 됩니다.

 

이번 포스팅에서는 KNN의 Normalization 에 대해 알아보도록 하겠습니다.

 

 

 

 

 

 

 

 

 

 

 

 

🔎 정규화(Normalization)

정규화 또는 정상화(normalization)는 어떤 대상을 일정한 규칙이나 기준에 따르는 ‘정규적인’ 상태로 바꾸거나, 비정상적인 대상을 정상적으로 되돌리는 과정을 뜻합니다.

 

정규화에는 z-normalization과 min-max normalizaition(scaling)이 있습니다.

 

 

✍️ z-normalization

z normalization은 평균을 0으로 맞추고 단위를 분산으로 맞추는 것을 말합니다.

 

이를 수식으로 표현하면 아래와 같습니다.

 

z-normalization은 기준을 0에 맞출 수 있다는 점입니다.

 

기준을 0에 맞추었을 때는 해당 값을 판별하기 쉬워집니다.

 

 

 

✍️ min-max normalization(scaling)

min-max norm은 평균을 1 분산을 1로 만들어 주는 것을 말합니다.

 

이를 수식으로 나타내면 아래와 같습니다.

 

 

 

 

min-max norm은 값의 범위가 0부터 1까지라는 장점이 있습니다.

 

예시를 들어 보자면 아래와 같습니다.