"반올림 오차"의 두 판 사이의 차이

2번째 줄: 2번째 줄:
;round-off error, rounding error
;round-off error, rounding error
;반올림 오차, 라운드-오프 오차, 라운딩 오차
;반올림 오차, 라운드-오프 오차, 라운딩 오차
* 반올림을 하였기 때문에 생기는 오차.
* 반올림을 하였기 때문에 생기는 오차
* 부동 소수점으로 표시된 수를 기억하는 비트수(한 단어 길이)가 제한됨에 따라서 아주 작은 유효 자리수의 값을 제거하거나 유지되어야 하는 부분에 어떤 조정 법칙을 적용함으로써 발생되는 오차


==같이 보기==
==같이 보기==

2018년 6월 20일 (수) 00:54 판

1 개요

round-off error, rounding error
반올림 오차, 라운드-오프 오차, 라운딩 오차
  • 반올림을 하였기 때문에 생기는 오차
  • 부동 소수점으로 표시된 수를 기억하는 비트수(한 단어 길이)가 제한됨에 따라서 아주 작은 유효 자리수의 값을 제거하거나 유지되어야 하는 부분에 어떤 조정 법칙을 적용함으로써 발생되는 오차

2 같이 보기

3 참고

문서 댓글 ({{ doc_comments.length }})
{{ comment.name }} {{ comment.created | snstime }}