큰 수·정밀 계산기

왜 보통 계산기로는 큰 수가 틀릴까요?

휴대폰 계산기, 엑셀, 자바스크립트는 숫자를 ‘64비트 부동소수점(IEEE 754)’으로 저장해요. 이 방식은 십진수로 15~17자리까지만 정확해서, 그보다 긴 수는 끝자리가 반올림되고 0.1처럼 이진수로 딱 떨어지지 않는 소수는 작은 오차가 생겨요. 그래서 0.1 + 0.2가 0.30000000000000004로 나오고, 엑셀에 16자리 넘는 카드 번호를 넣으면 끝자리가 0으로 바뀌어요.

이 계산기는 이렇게 계산해요

• 정밀 소수: 수학 라이브러리 math.js의 BigNumber(내부적으로 decimal.js)로, 고른 자릿수보다 40자리 더 여유 있게 십진수로 계산한 뒤 반올림해 보여 줘요. 결과가 정수이면 자릿수가 아무리 많아도(2만 자리까지) 모두 보여 줘요.
• 정확한 분수: 분자·분모를 큰 정수로 들고 계산해서 1/3 + 1/6 = 1/2처럼 오차가 전혀 없어요. 무리수(√2, π)는 분수로 나타낼 수 없어서 이 모드에서는 계산하지 않아요.

쓸 수 있는 기호와 함수

+ − * /, 거듭제곱 ^, 팩토리얼 !, 나머지 mod, 괄호를 쓸 수 있고, sqrt(x), cbrt(x), exp(x), log(x)(자연로그), log10(x), log(x, 밑), sin·cos·tan(라디안), gcd(a, b), lcm(a, b), 상수 pi, e를 쓸 수 있어요. 천 단위 쉼표(1,000,000)는 자동으로 지워서 읽어요.

소수점 아래 1000자리 같은 아주 긴 계산은 기기에 따라 1~2초 걸릴 수 있어요. 결과는 ‘결과 복사’나 ‘텍스트로 저장’으로 그대로 가져갈 수 있어요. 숫자는 이 기기 안에서만 계산하고 어디에도 보내지 않아요.

참고한 자료

• math.js BigNumber 문서 (Apache-2.0)
• math.js Fraction 문서
• IEEE 754 배정밀도 부동소수점 (자바스크립트 Number, ECMAScript 명세)