[시스템 프로그래밍] 정수의 표현 방법

컴퓨터에서는 정수를 어떤 방법으로 표현하는지 알아보도록 하겠습니다.

크게 부호가 없는 정수, BCD코드, 부호를 갖는 정수를 주로 알아보겠습니다.

결론부터 말하자면 컴퓨터는 2의 보수를 통해 부호형 정수를 표시하기로 정했습니다.

비부호형 수에서 2의 보수형 정수로 변환하는 것입니다.

쉽게말해 비트를 모두 뒤집고 1을 더하면 됩니다.

아래에서 조금 더 자세하게 알아보겠습니다.

비부호형 정수와 부호형 정수는 간단하게 수식으로 나타낼 수 있습니다.

비부호형 정수는 $B2U(X)$라고도 하는데 아래와 같이 나타낼 수 있습니다.

부호형 정수(2의 보수)는 아래와 같이 나타낼 수 있습니다.

이를 통해 길이가 W비트인 정수의 표현 가능한 범위를 추측해볼 수 있습니다.

비부호형 정수의 경우 최소값은 $0$ 최대값은 $2^w - 1$입니다.

부호형 정수 즉 2의 보수로 표현한 정수는 최소값은 $-2^{w-1}$ 최대값은 $2^{w-1} - 1$입니다

아래의 표를 통해 이해를 도울 수 있습니다.

C 언어에서는 부호형 정수로부터 비부호형 정수로의 변환을 허용합니다.

이때 비트 표현에는 변화가 없습니다.

하지만 부호형 정수 중 음수는 비부호형 정수로 변환했을때 양수로 변환되기 때문에 큰 오류를 야기할 수 있습니다.

예를 들어 아래의 코드에서 $y = -15213$이지만 비부호형 정수로 변환했을때 50323이라는 엄청난 차이의 값을 출력합니다.

short int x = 15213;
unsinged short int ux = (unsigned short) x;
short int y = -15213;
unsinged short int uy = (unsinged short) y;

이러한 과정에서 발생하는 오류를 캐스팅 충격이라고 합니다.

비부호형의 덧셈의 경우 일반적인 덧셈 연산과 동일합니다.

길이가 W 비트인 정수의 계산이라고 가정했을 때, 최상위 비트를 넘어가는 즉 $u + v$의 값이 $2^w - 1$ 보다 크면 Carry가 발생하고 이 경우 Carry를 무시합니다.

mod 함수 $S = UAdd_w(u, v) = (u + v) mod 2^w$로 표시 가능합니다.

비부형에서의 덧셈과 동일하게 수행합니다.

비부호형 연산과 달리 부호형 연산에서는 두 가지 방향으로 overflow가 발생가능한데

이는

$$u, v < 0, s ≥0$$

또는

$$u, v ≥ 0, s < 0$$

일때 발생합니다.

티스토리툴바