計算機はミクロにはon,offの2状態しか扱うことができない. したがって計算機が計算している「数」は実際にはすべて2進数である. そこで計算機の内部で数がどう表されているか考えてみよう. ここではまず整数を考える.
簡単のために3ビットの計算機を考えよう. つまりこの計算機で取り扱えるのは3個の0, 1の組である. 3ビット計算機は次の表に表されるように整数を取り扱う.
| 符合のための1bit | 数値のための2bits | 表される整数 | 0 | 11 | 3 | 0 | 10 | 2 | 0 | 01 | 1 | 0 | 00 | 0 | 1 | 11 | -1(1に対する2の補数) | 1 | 10 | -2(2に対する2の補数) | 1 | 01 | -3(3に対する2の補数) | 1 | 00 | -4=2の(3-1)乗 |
|---|
この表から推測されるように, nビット計算機で取り扱える数は2の(n-1)乗-1からマイナス2の(n-1)乗までとなる. 次のプログラムを実行してみよ.
implicit none
integer n,m,k
n=2147483647
m=n+1
k=m+n+1
write(6,*) n,m,k
end
このプログラムはどうなるであろうか?
implicit none
integer n,m,k
n=2147483648
m=n+1
k=m+n+1
write(6,*) n,m,k
end
現在流通している多くのコンピューターは32ビット計算機である.これは,内部で扱う数値を32個の0と1で表現しているということである.
| 仮数部の符号1bit | 指数部の8bits | 仮数部(23bits) | 0 | 00000000 | 00000000000000000000000 |
|---|
| 仮数部の符号1bit | 指数部の11bits | 仮数部(52bits) | 0 | 00000000000 | 00000000000000000000000.. |
|---|
1bitはプラスかマイナスの符号につかう.8bitsを指数部に使う(倍精度の場合11bits).8個の0と1で-126から+127までの数を表す(倍精度の場合-1022から1023まで). ここからフォートランで用いることができる数値は2の127乗=10の38乗まで(倍精度の場合10の308乗まで)ということになる.広く採用されているIEEE規格では基数を2ととることに注意.
残りの23個(倍精度の場合52個)を使って仮数部(0.234E5 だったら 0.234の部分)を表す.小数第1桁目は1ときまっているので表現はしないため実質2進数で24桁(倍精度の場合53桁)ということになる. 24桁なので仮数部で表せるもっとも小さな数は2の-24乗=0.6*10^(-7)(倍精度の場合0.1*10^(-15))となる.このことから数値的な誤差が発生する. 次のプログラムを実行させてみよう.
implicit none
real*8 a,b,c,d,e
a=1.D-15
b=1.D-16
c=1.D0
d=c+a
e=c+b
write(6,"(3E26.18)") a,b,c,d,e
end
結果はどうなったであろうか? これが誤差を生み出す原因である.ここで見ら
れる誤差は二つあって
![]() |
(3) |
| (4) |
![]() |
|||
![]() |
(5) |
| (6) |
| (8) |
| (9) |
![]() |
![]() |
||
![]() |
(10) |
![]() |
|||
![]() |
(11) |
| (1) |
| (2) |
| (3) |
| (4) |