컴퓨터에 따른 실수의 정밀도(precision)와 범위(range)
computer Total number Number of bits Precision in Number of bits exponent
of bits Number in mantissa decimal digits in exponent range
IEEE 754 PC 3224 7 8 E-38 ~ E38
645315 11 E-308 ~ E308
VAX 3224 7 8 E-38 ~ E38
64 5615 8 E-38 ~ E38
Cray64491415E-2465 ~ E2465
'Programming > Fortran' 카테고리의 다른 글
| CASE Contruct (0) | 2008.11.24 |
|---|---|
| Block IF Construct (0) | 2008.11.24 |
| Pointer and Linked List (0) | 2008.10.01 |
| 컴퓨터 사용 기록 검색(Derived types and structures) (0) | 2008.09.30 |
| 저장값의 범위 (0) | 2008.09.29 |