
실수형의 저장 형식과 부동 소수점의 오차
·
자바/기본적인 개념
1. 실수형의 저장 형식 - S는 부호 비트이며, 0이면 양수 1이면 음수를 나타낸다. 또한 양의 실수에서 음의 실수로 변환할 때, 정수형과 달리 '2의 보수법'을 사용하지 않고 그저 부호비트만 바꿔주면 된다. - E는 지수이며, float는 -127 ~ 128, double은 -1023 ~ 1024의 범위를 가진다. (그러나, 실제로는 숫자 아님(NAN)과 양의 무한대와 음의 무한대를 표현하기 위해 예약되어 있으므로 float는 -126 ~ 127까지의 값을 표현할 수 있다.) - M은 가수이며, 실제 값을 저장하는 부분이다. 또한 float와 double은 각각 정밀도가 다르므로 유의한다. * S와 E, M을 합쳐서 부동소수점의 형태로 저장한다. 그러므로, 값의 범위는 (+-)Mx2^E로 저장이 된다..