A koproci hogyan ábrázolja a lebegőpontos számokat?

Panther

Lebegőpontosan tárolt számokat általában akkor használunk, ha

• vagy nagy számokkal,
• vagy pontosan akarunk számolni.

8,4 * 10¹ = 0,84 * 10²

Általános formában:

m* p^k

• p: az alapszám: most 2
• m: a mantissza
• k: a karakterisztika

• e: a mantissza előjele, a karakterisztika előjelét nem tárolják külön biten, helyette kineveznek egy értékét nulla pontnak.

"IEEE Standard for Binary Floating-Point Arithmetic" ANSI / IEEE Std 754-1985 New York

Típus	Pontosság	Hossz	Biteloszlás	Nulla pont	Pascal	C
Egyszerű pontosság	6-7 jegy	32 bit	1-8-23	127	single	float
Dupla pontosság	15-16 jegy	64 bit	1-11-52	1023	double	double
Bővített pontosság	19 jegy	80 bit	1-15-1-63	16383	extended	longdouble

A koprocesszor is ezeket a formátumokat támogatja.

A Pascal nyelvben létezik még egy real típus is, amelynél szoftveres úton számol a fordító program, ezért használata nem igényli a koprocesszort, de ugyanakkor sokkal lassabb kódot eredményez. Ezen típus adatai:

Típus	Pontosság	Hossz	Biteloszlás	Nulla pont	Pascal	C
Szoftveres	11-12 jegy	48 bit	1-39-8	129	real	-

Hogy a tárolás teljesen egyértelmű legyen, oldjunk meg egy konkrét példát:

Ábrázoljuk a 13,625-t egyszerű potossággal!

1. Felírva kettes számrendszerben: 1101,101₂
2. Normalizálva: 1,101101₂ * 2³ (a mantissza eleje mindig "1," lesz, ezért ez tároláskor elhagyható!)
3. A karakterisztika = nulla pont + 3 = 127 + 3 = 130 = 1000 0010₂
4. A megfelelő bitmezőket kitöltve:

   0	100 0001 0	101 1010 0000 0000 0000 0000

5. Ugyanez hexában:

   4

   1

   5

   A

   0

   0

   0

   0

6. Memóriában az Intel bájtsorrenddel:

   00	00	5A	41