정확도와정밀도
-
2. 반올림 오차와 절단 오차 (feat. 진법, bit, byte, 정확도, 정밀도)수치해석 with MATLAB 2019. 10. 29. 20:40
1. 진법에 대하여 진법은 초등학생,, 혹은 중학생(?) 때 배운 개념이다. (그래도 복습하는 겸으로 다시 기억을 더듬어 보았다.) 2진법, 10진법이 대표적이다. 컴퓨터 내의 기억장치(주로 RAM)에서는 on/off (1과 0)의 2진법을 사용한다. 하지만 인간은 10진법을 사용하기 때문에 따라서 상호 변환이 필요하다. 2진법과 10진법은 밑수를 통해 표현하는데, 이진법의 경우는 (1001.11)₂ 이런식으로 표현하며, 우리가 사용하는 10진법의 경우에 밑수는 보통 생략한다. (abcd.ef)r 이라는 r진법의 수가 있을 때 이를 10진법으로 변환하는 방법은 다음과 같은 식으로 계산 할 수 있다. 예를 들어, (1001.11)₂ 이 수를 10진법으로 변환시켜 보면 다음과 같은 결과가 나온다. 2. bi..