컴퓨터가 실수를 표현하는 방법 (feat. Floating Point)

1991년 걸프전에서 패트리어트 미사일 방어 시스템의 부동소수점 연산 오류로 인해 미군 병사 28명이 사망하고 100여 명이 부상을 입었다. 패트리어트 시스템은 내부 클럭을 이용해 미사일의 궤적을 계산하는데, 0.1초를 부동소수점으로 저장하면서 이진수로 정확히 표현되지 않아 미세한 오차가 발생했고, 100시간 이상 가동되며 누적된 오차는 0.34초까지 증가해 결국 적 미사일의 위치를 잘못 예측하게 되었다. 이로 인해 요격에 실패했고 미사일이 미군 병영을 타격하며 큰 피해를 초래했다. 실제로 위와 같은 사건이 있었습니다. 사건의 발단은 32, 64비트로 제한된 컴퓨터에서 무한소수를 정확하게 나타내지 못하기 때문입니다. 해당 포스팅에서는 아래와 같은 내용을 알아보겠습니다.컴퓨터가 부동 소수점을 표현하는 방법..
컴퓨터과학 2025. 3. 9. 19:13
1