[Trouble Shooting] 부동소수점 오차 / float, double (실수 자료형) 정확도, BigDecimal

최근 소수점을 중요하게 다뤄야하는 작업을 하고 있던 중 실수 계산 값이 미묘하게 다른 것을 알았고 오류를 찾기 위해 소스 코드를 다시 보았습니다. 디버깅을 하던 중, 언젠가 실수 계산의 정확도 에 대해 들었던 것이 생각나 구글링을 해보니 많은 분들이 float, double의 정확도에 대해서 쓴 글을 찾을 수 있었습니다. 이번 기회에 제대로 알고 넘어가고자 정리할 겸 포스팅합니다. 실수의 표현 방식 컴퓨터에서 실수를 표현하는 방법은 정수에 비해 훨씬 복잡합니다. 실수를 정수와 마찬가지로 2진수로만 표현해야하기 때문입니다. 따라서 실수를 표현하기 위해 현재에는 다음과 같은 방식이 사용되고 있습니다. 1. 고정 소수점 방식 : Fixed Point 실수는 보통 정수부와 소수부로 나눌 수 있습니다. 따라서 실..

2019.10.02