반올림 오차

Jmnote (토론 | 기여)님의 2018년 6월 20일 (수) 00:57 판 (→‎같이 보기)

1 개요

round-off error, rounding error
반올림 오차, 라운드-오프 오차, 라운딩 오차
  • 반올림을 하였기 때문에 생기는 오차
  • 수치를 반올림하면 근삿값이 되므로 이때 발생하는 오차
  • 부동 소수점으로 표시된 수를 기억하는 비트수(한 단어 길이)가 제한됨에 따라서 아주 작은 유효 자리수의 값을 제거하거나 유지되어야 하는 부분에 어떤 조정 법칙을 적용함으로써 발생되는 오차

2 같이 보기

3 참고

문서 댓글 ({{ doc_comments.length }})
{{ comment.name }} {{ comment.created | snstime }}