728x90 부동 소수점 반올림1 [Chapter 3.5 컴퓨터 구조 및 설계] IEEE 754 부동 소수점 반올림과 근사 본 정리는 CS422-컴퓨터 구조 및 설계 : 하드웨어/소프트웨어 인터페이스. David A. Patterson, 존 헤네시 책을 바탕으로 하고 있음을 미리 알립니다. IEEE 754 FP는 다음과 같은 반올림 모드를 갖고 있다. Always round up (toward +∞) Always round down (toward -∞) Truncate Round to nearest even 이러한 반올림 모드가 필요한 이유는 다음과 같이 F field가 23bit로 제한되어있기 때문에 해당 bit보다 더 소수 자리 수가 큰 수를 표현하기 위함이다. 현재의 부동소수점 표현 방식에선 거의 Round to nearest even를 사용한다. Always round up 항상 올림을 뜻한다. 1.0011111001.. 2022. 7. 13. 이전 1 다음 728x90
