0.1 + 0.2가 무엇인지 묻는다면? 멍한 표정을 지으실 수도 있어요, 0.1 + 0.2 = 0.3 아, 아직도 물어볼 게 있나요? 유치원에 다니는 아이들도 그러한 소아과 질문에 답할 수 있습니다. 하지만 프로그래밍 언어에서 동일한 문제가 생각만큼 간단하지 않을 수도 있습니다.
믿을 수 없나요? 먼저 JS의 일부를 살펴보겠습니다.
var 숫자A = 0.1;
var numB = 0.2;
경고( (numA + numB) === 0.3 );
실행 결과가 거짓입니다. 네, 처음 이 코드를 봤을 때 사실인 줄 알았는데, 실행 결과를 보니 제 여는 방법이 잘못된 걸까요? 아니, 아니. 다음 코드를 다시 실행해 보면 결과가 거짓인 이유를 알 수 있습니다.
var 숫자A = 0.1;
var numB = 0.2;
경고(숫자A + 숫자B);
0.1 + 0.2 = 0.30000000000000004로 밝혀졌습니다. 이상하지 않나요? 실제로 부동 소수점 수의 4가지 산술 연산의 경우 거의 모든 프로그래밍 언어에서 정밀도 오류와 유사한 문제가 발생합니다. 그러나 C++/C#/Java와 같은 언어에서는 정밀도 문제를 피하기 위해 메서드가 캡슐화되어 있습니다. JavaScript는 약한 유형입니다. 언어에는 설계 개념에서 부동 소수점 숫자에 대한 엄격한 데이터 유형이 없으므로 정밀도 오류 문제가 특히 두드러집니다. 이러한 정확도 오류가 발생하는 이유와 해결 방법을 분석해 보겠습니다.
우선, 우리는 컴퓨터 관점에서 0.1 + 0.2의 겉보기에 소아적인 문제에 대해 생각해야 합니다. 컴퓨터가 읽을 수 있는 것은 십진수가 아닌 이진수라는 것을 알고 있으므로 먼저 0.1과 0.2를 이진수로 변환하고 살펴보겠습니다.
0.1 => 0.0001 1001 1001 1001… (무한 루프)
0.2 => 0.0011 0011 0011 0011… (무한 루프)
배정밀도 부동 소수점 숫자의 소수 부분은 최대 52비트를 지원하므로 두 비트를 더한 후 0.0100110011001100110011001100110011001100110011001100이라는 문자열을 얻습니다. 부동 소수점 숫자의 소수 자릿수 제한으로 인해 이진수는 잘려져 있습니다. 이때 이를 십진수로 변환하면 0.30000000000000004가 됩니다.
그렇다면 이 문제를 어떻게 해결해야 할까요? 내가 원하는 결과는 0.1 + 0.2 === 0.3 아! ! !
가장 간단한 솔루션 중 하나는 값을 반환하는 과정에서 다음과 같이 명확한 정밀도 요구 사항을 제공하는 것입니다.
var 숫자A = 0.1;
var numB = 0.2;
경고(parseFloat((numA + numB).toFixed(2)) === 0.3 );
그러나 분명히 이것이 단번에 해결되는 방법은 아닙니다. 이러한 부동 소수점 숫자의 정밀도 문제를 해결하는 데 도움이 될 수 있는 방법이 있다면 좋을 것입니다. 이 방법을 시도해 봅시다:
Math.formatFloat = function(f, 숫자) {
var m = Math.pow(10, 숫자);
returnparseInt(f * m, 10) / m;
}
var 숫자A = 0.1;
var 숫자B = 0.2;
Alert(Math.formatFloat(numA + numB, 1) === 0.3);
이 방법은 무엇을 의미합니까? 정밀도 차이를 피하기 위해서는 계산하려는 숫자에 10의 n승을 곱하고, 컴퓨터가 정확하게 인식할 수 있는 정수로 변환한 후, 10의 n승으로 나누어야 하는 방법이 가장 많습니다. 프로그래밍 언어는 정밀도 차이를 처리하므로 이를 사용하여 JS에서 부동 소수점 숫자의 정밀도 오류를 처리합니다.
다음에 누군가가 0.1 + 0.2가 무엇인지 묻는다면 대답에 주의해야 합니다! !