Error Party
  • 홈
    • 분류 전체보기
      • IT
      • 이슈
      • 애니
  • 글작성
  • 방명록
  • 환경설정
  • 메뉴 닫기
수학 검색 결과
1 개의 검색 결과가 있습니다.
IT

[math]부동 소수점 수학이 깨 졌습니까?

부동 소수점 수학이 깨 졌습니까? 질문 다음 코드를 고려하십시오.0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 왜 이러한 부정확성이 일어나는가? 답변 이진 부동 소수점 수학은 이와 같습니다.대부분의 프로그래밍 언어에서는 IEEE 754 표준을 기반으로합니다.문제의 핵심은 숫자가 2의 힘의 정수 로이 형식으로 표현된다는 것입니다.분모가 2의 힘이 아닌 것은 정확히 표현 될 수없는 합리적인 숫자 (예 : 0.1, 1/10)를 정확하게 표현할 수 없습니다.표준 바이너리 64 형식에서 0.1의 경우 표현은 정확하게 쓸 수 있습니다.0.1000000000000000055551115123125782702118158340211815834045410156201..

2022. 4. 2. 12:22
  • «
  • 1
  • »
  • 최근 글

최근 글

최근댓글

전체 카테고리

  • 분류 전체보기
    • IT
    • 이슈
    • 애니
Powered by Privatenote Copyright © Error Party All rights reserved. TistoryWhaleSkin3.4

티스토리툴바

단축키

내 블로그

내 블로그 - 관리자 홈 전환
Q
Q
새 글 쓰기
W
W

블로그 게시글

글 수정 (권한 있는 경우)
E
E
댓글 영역으로 이동
C
C

모든 영역

이 페이지의 URL 복사
S
S
맨 위로 이동
T
T
티스토리 홈 이동
H
H
단축키 안내
Shift + /
⇧ + /

* 단축키는 한글/영문 대소문자로 이용 가능하며, 티스토리 기본 도메인에서만 동작합니다.