부동 소수점 함정1 [Chapter 3.8 컴퓨터 구조 및 설계] 연산에 있어서 겪을 수 있는 오류 및 함정 본 정리는 CS422-컴퓨터 구조 및 설계 : 하드웨어/소프트웨어 인터페이스. David A. Patterson, 존 헤네시 책을 바탕으로 하고 있음을 미리 알립니다. 오류와 함정 (여기서 부르는 함정은 흔히들 하는 실수이고, 오류는 많은 사람들이 공통적으로 잘못 알고 있는 부분이다.) 오류 : 한 비트 왼쪽 자리이동 명령어가 2를 곱해준 것과 같은 결과를 보이듯이 오른쪽 자리이동 명령어는 2로 나누어 준 것과 같은 결과를 나타낸다. 해당 오류는 부호 없는 정수에서는 찾을 수 없다. 문제는 부호있는 정수를 사용하는 경우이다. 예를 들어, -5를 4로 나눈다고 생각하자. 1111 1111 1111 1111 1111 1111 1111 1011 (-5의 2의 보수 표현법) 이러한 오류에 따르면 2비트 오른쪽으.. 2022. 7. 16. 이전 1 다음
