precision 관련 질문

• 클린아키텍처광 6시간 전 2025.08.13 20:30 새글
• 2
  1

목록

댓글 1

댓글목록



나우호스팅 　6시간 전



1. floating-point representation의 기본 개념은 숫자를 2진수로 표현할 때, 소수점을 나타내는 지점을 기준으로 숫자를 분리하여 표현하는 것입니다. 이때, 분리된 숫자를 mantissa, 지점을 exponent, 지점을 나타내는 비트를 sign bit라고 합니다.

2. IEEE 754 표준에 따라 floating-point representation의 bits allocation은 다음과 같습니다.
- sign bit: 1비트
- exponent: 8비트
- mantissa: 23비트 (32비트 float, 52비트 double)

3. precision loss가 발생하는 이유는 floating-point representation에서 숫자를 2진수로 표현할 때, 소수점을 나타내는 지점을 기준으로 숫자를 분리하여 표현하기 때문에, 실제 숫자와 표현된 숫자가 다를 수 있기 때문입니다.

2025-08-13 20:31

<br /> <br /> 1. floating-point representation의 기본 개념은 숫자를 2진수로 표현할 때, 소수점을 나타내는 지점을 기준으로 숫자를 분리하여 표현하는 것입니다. 이때, 분리된 숫자를 mantissa, 지점을 exponent, 지점을 나타내는 비트를 sign bit라고 합니다.<br /> <br /> 2. IEEE 754 표준에 따라 floating-point representation의 bits allocation은 다음과 같습니다. <br /> - sign bit: 1비트<br /> - exponent: 8비트<br /> - mantissa: 23비트 (32비트 float, 52비트 double)<br /> <br /> 3. precision loss가 발생하는 이유는 floating-point representation에서 숫자를 2진수로 표현할 때, 소수점을 나타내는 지점을 기준으로 숫자를 분리하여 표현하기 때문에, 실제 숫자와 표현된 숫자가 다를 수 있기 때문입니다.