IT
[math]부동 소수점 수학이 깨 졌습니까?
부동 소수점 수학이 깨 졌습니까? 질문 다음 코드를 고려하십시오.0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 왜 이러한 부정확성이 일어나는가? 답변 이진 부동 소수점 수학은 이와 같습니다.대부분의 프로그래밍 언어에서는 IEEE 754 표준을 기반으로합니다.문제의 핵심은 숫자가 2의 힘의 정수 로이 형식으로 표현된다는 것입니다.분모가 2의 힘이 아닌 것은 정확히 표현 될 수없는 합리적인 숫자 (예 : 0.1, 1/10)를 정확하게 표현할 수 없습니다.표준 바이너리 64 형식에서 0.1의 경우 표현은 정확하게 쓸 수 있습니다.0.1000000000000000055551115123125782702118158340211815834045410156201..
2022. 4. 2. 12:22
최근댓글