수치해석
-
2. 반올림 오차와 절단 오차 (feat. 진법, bit, byte, 정확도, 정밀도)수치해석 with MATLAB 2019. 10. 29. 20:40
1. 진법에 대하여 진법은 초등학생,, 혹은 중학생(?) 때 배운 개념이다. (그래도 복습하는 겸으로 다시 기억을 더듬어 보았다.) 2진법, 10진법이 대표적이다. 컴퓨터 내의 기억장치(주로 RAM)에서는 on/off (1과 0)의 2진법을 사용한다. 하지만 인간은 10진법을 사용하기 때문에 따라서 상호 변환이 필요하다. 2진법과 10진법은 밑수를 통해 표현하는데, 이진법의 경우는 (1001.11)₂ 이런식으로 표현하며, 우리가 사용하는 10진법의 경우에 밑수는 보통 생략한다. (abcd.ef)r 이라는 r진법의 수가 있을 때 이를 10진법으로 변환하는 방법은 다음과 같은 식으로 계산 할 수 있다. 예를 들어, (1001.11)₂ 이 수를 10진법으로 변환시켜 보면 다음과 같은 결과가 나온다. 2. bi..
-
1. 수학적 모델링과 수치해법수치해석 with MATLAB 2019. 10. 14. 20:36
1. 수학적 모델링과 수치해법의 이해 수학적 모델링은, 뉴턴 법칙과 같은 잘 알려진 과학법칙을 이용하여 식(수학적 형태)을 세우는 과정이다. 이 식을 통해 해를 구하는 것이 수치해법이며, 해석해와 수치해 두가지 방법으로 구할 수 있다. 해석해는 미적분 등 수학적 기법을 사용하여 정확한 해를 구하는 방법이다. 하지만 수학적 기법을 통해 정확한 해를 구하지 못하는 수학적 모델들이 현실에선 많이 존재한다. 따라서 수치해를 구하게 되는데 이는 컴퓨터를 이용한 수치적 기법을 사용하여 근사한 해를 구하는 방법이다. 멀리 번지점프 하는 사람이 보인다. 자유낙하 하는 이사람의 속도를 실시간으로 예측해보자. 이때 떨어지는 사람에 대해 작용하는 힘은 위 그림에서 보듯 두가지 힘이 존재하는데, 즉, 힘의 총합은 Fd와 Fu..