1. js로 계산
12.32 * 7 결과는 무엇입니까? 답: 86.24000000000001
이 문제는 왜 발생합니까? 어떻게 해결하나요?
소수의 곱셈과 나눗셈을 처리할 때 js에 버그가 있습니다. 해결 방법은 다음과 같습니다. 처리를 위해 소수를 정수로 변환합니다.
위의 계산은 다음과 같이 변경될 수 있습니다.
12.32*100*7/100
결과는 86.24입니다. 정확합니다.
또한 몇 가지 계산을 수행하십시오.
8.80*100*12/100
결과: 105.60000000000002
38.80에서도 비슷한 문제가 발생합니다.
정확도가 10배 증가했습니다.
8.80*1000*12/1000
결과: 105.6
정상입니다.
16.40 * 1000000 * 6 / 1000000
결과에도 문제가 있다
js 실행을 보다 정확하게 하기 위해 앞으로 js 십진수 계산에서는 값을 직접 10,000배로 확장한 다음 10,000으로 나누어 문제를 해결합니다.
바넘 = 38.80;
var num2 = 13;
경고(숫자 * 10000 * 12 / 10000);
곱하고 나눌 숫자는 테스트 결과 10,000으로 나타났습니다. 더 작으면 일부 숫자는 문제를 일으킬 수 있습니다. 더 큰 경우(1,000,000) 일부 숫자도 문제를 일으킬 수 있습니다.
둘,
다음과 같이 코드 코드를 복사합니다.
<스크립트 연기>
Number.prototype.rate=function(){
varoStr=this.toString();
if(oStr.indexOf(".")==-1)
반환1;
또 다른
returnMath.pow(10,parseInt(oStr.length-oStr.indexOf(".")-1));
}
함수트랜(){
args=tran.arguments;
vartemp=1;
for(i=0;i<args.length;i++)
temp*=args[i]*args[i].rate();
for(i=0;i<args.length;i++)
온도/=args[i].rate();
반환 온도
}
경고(트랜(11,22.9));
</script>
이 솔루션은 좀 더 번거롭지만 이 문제를 해결하는 실제 프로세스에 대한 아이디어를 제공합니다.
다음과 같이 코드 코드를 복사합니다.
//정확한 나눗셈 결과를 얻기 위해 사용되는 나눗셈 함수
//참고: JavaScript의 나누기 결과에는 오류가 있습니다. 이는 두 개의 부동 소수점 숫자를 나눌 때 더 분명해집니다. 이 함수는 더 정확한 나누기 결과를 반환합니다.
//호출: accDiv(arg1,arg2)
//반환 값: arg1을 arg2로 나눈 정확한 결과
함수 accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
(수학){
r1=숫자(arg1.toString().replace(".",""))
r2=숫자(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
//더 편리하게 호출할 수 있도록 Number 타입에 div 메소드를 추가합니다.
Number.prototype.div = 함수(인수){
return accDiv(this, arg);
}
//정확한 곱셈 결과를 얻기 위해 사용되는 곱셈 함수
//참고: JavaScript의 곱셈 결과에는 오류가 있습니다. 이는 두 개의 부동 소수점 숫자를 곱할 때 더 분명해집니다. 이 함수는 더 정확한 곱셈 결과를 반환합니다.
//호출: accMul(arg1,arg2)
//반환 값: arg1에 arg2를 곱한 정확한 결과
함수 accMul(arg1,arg2)
{
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
// 호출을 더욱 편리하게 하기 위해 Number 타입에 mul 메소드를 추가합니다.
Number.prototype.mul = 함수(인수){
return accMul(arg, this);
}
//정확한 덧셈 결과를 얻기 위해 사용되는 덧셈 함수
//참고: JavaScript의 추가 결과에는 오류가 있으며, 이는 두 개의 부동 소수점 숫자를 추가할 때 더 분명해집니다. 이 함수는 더 정확한 덧셈 결과를 반환합니다.
//호출: accAdd(arg1,arg2)
// 반환 값: arg1과 arg2의 정확한 결과
함수 accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
반환 (arg1*m+arg2*m)/m
}
//더 편리하게 호출할 수 있도록 Number 타입에 add 메소드를 추가합니다.
Number.prototype.add = 함수(인수){
return accAdd(arg,this);
}