"반올림 오차"의 두 판 사이의 차이

1번째 줄: 1번째 줄:
==개요==
==개요==
;round-off error, rounding error
;round-off error, rounding error
;[[半올림]] [[誤差]]
;반올림 오차, 라운드-오프 오차, 라운딩 오차
;반올림 오차, 라운드-오프 오차, 라운딩 오차
* 반올림을 하였기 때문에 생기는 오차
* 반올림을 하였기 때문에 생기는 오차

2018년 6월 20일 (수) 01:00 판

1 개요

round-off error, rounding error
半올림 誤差
반올림 오차, 라운드-오프 오차, 라운딩 오차
  • 반올림을 하였기 때문에 생기는 오차
  • 수치를 반올림하면 근삿값이 되므로 이때 발생하는 오차
  • 부동 소수점으로 표시된 수를 기억하는 비트수(한 단어 길이)가 제한됨에 따라서 아주 작은 유효 자리수의 값을 제거하거나 유지되어야 하는 부분에 어떤 조정 법칙을 적용함으로써 발생되는 오차

2 같이 보기

3 참고

문서 댓글 ({{ doc_comments.length }})
{{ comment.name }} {{ comment.created | snstime }}