Computer Science Lectures/Introduction to Computer Systems - CMU

Lecture 04: Floating Point

오렌지색 귤 2022. 10. 18. 21:34
반응형

K Fractional Binary Numbers

 

Representable Numbers

 

Limitation 1

- Can only exactly represent numbers of the form x / 2^k

- 다른 숫자들은 무한 소수가 된다

 

Limitation 2

- Just one setting of binary point within the w bits

- 소수점을 왼쪽으로 옮기면 큰 수를 나타낼 수 없고, 오른쪽으로 옮기면 소수점 자리를 자세하게 나타내지 못한다

 

 

Floating Point Representation

 

Precision Options

 

Normalized Values

  • When : exp != 0000...0 and exp != 1111...1

공식 외우기
M은 항상 1.xxx로 나타나도록 normalize 해준다

 

 

Normalized Encoding Example

Exp가 8 bit이므로 Bias는 127이다

 

 

 

Denormalized Values

  • Condition : exp = 0000...0
  • Exponent Value : E = 1 - Bias
  • Significand coded with implied leading 0 : M = 0.xxx...xx (2)

 

 

 

Special Values

  • Condition : exp = 1111...1

 

 

Visualization : Floating Point Encodings

 

 

s, exp, frac 값으로 E와 Value 계산해보기

 

 

 

Distribution of Values

 

 

 

Floating Point Operations : Basic idea

 

Basic Idea

  • First compute exact result
  • Make it fit into desired precision

 

 

Rounding modes

Nearest Even은 보통의 반올림 방식에서 .5일 때 짝수쪽으로 향하는 방식이다

 

 

 

Rounding Binary Numbers

 

 

 

FP Multiplication

 

 

Floating Point Addition

 

 

 

Mathematical Properties of FP Add

 

 

 

 

Mathematical Properties of FP Mult

 

 

 

Floating Point Puzzles

1.     NO – not enough frac bit

2.     YES

3.     YES

4.     NO – not enough frac bit

5.     YES

6.     NO – 2/30이다

7.     YES – overflow 되더라도 negative infinity쪽으로

8.     YES

9.     YES

10.   NO – lack of associative

반응형