什么是浮點(diǎn)運(yùn)算數(shù)據(jù)是怎樣的
浮點(diǎn)運(yùn)算就是實(shí)數(shù)運(yùn)算,因?yàn)橛?jì)算機(jī)只能存儲整數(shù),那么你對浮點(diǎn)運(yùn)算了解多少呢?以下是由學(xué)習(xí)啦小編整理關(guān)于什么是浮點(diǎn)運(yùn)算的內(nèi)容,希望大家喜歡!
浮點(diǎn)運(yùn)算的簡介
當(dāng)我們用不同的電腦計(jì)算圓周率時,會發(fā)現(xiàn)一臺電腦的計(jì)算較另一臺來講結(jié)果更加精確?;蛘呶覀冊谶M(jìn)行槍戰(zhàn)游戲的時候,當(dāng)一粒子彈擊中墻壁時,墻上剝落下一塊墻皮,同樣的場面在一臺電腦上的表現(xiàn)可能會非常的呆板、做作;而在另外一臺電腦上就會非常生動形象,甚至與我們在現(xiàn)實(shí)中看到的所差無幾。這都是浮點(diǎn)運(yùn)算能力的差異導(dǎo)致的。
如果是實(shí)數(shù)的話,就不是這樣了,機(jī)器有兩種辦法表示實(shí)數(shù),一種是定點(diǎn),就是小數(shù)點(diǎn)位置是固定的,一種是浮點(diǎn),就是小數(shù)點(diǎn)位置不固定,計(jì)算方法也比較麻煩,通常會比整數(shù)運(yùn)算代價大很多
FPU->Floating Point Unit,浮點(diǎn)運(yùn)算部件
BCD->Binary Coded Decimal 壓縮的二進(jìn)制數(shù),是用4個位來表示數(shù)字0~9,一個byte表示兩個十進(jìn)制數(shù),比如1001111表示79
科學(xué)計(jì)數(shù)法:a×10的n次冪的形式。將一個數(shù)字表示成 (a×10的n次冪的形式),其中1≤|a|<10,n表示整數(shù),這種記數(shù)方法叫科學(xué)記數(shù)法
浮點(diǎn)運(yùn)算的數(shù)據(jù)
浮點(diǎn)運(yùn)算使用三種不同的數(shù)據(jù):
1)整數(shù)(Integer),又分為字,短整數(shù)(Short Integer)和長整數(shù)(longint)
2)實(shí)數(shù)(Real)分單精度(Single Real)和雙精度(Double Real)
3)壓縮的二十進(jìn)制數(shù)(BCD)
下面是其位數(shù)(bits)和能表示的大致范圍和
Type Length Range
-----------------------------------------------
Word Integer 16 bit -32768 to 32768
Short Integer 32 bit -2.14e9 to 2.14e9
Long Integer 64 bit -9.22e18 to 9.22e18
Single Real 32 bit 1.18e-38 to 3.40e38
Double Real 64 bit 2.23e-308 to 1.79e308
extended Real 80 bit 3.37e-4932 to 1.18e4932
Packed BCD 80 bit -1e18 to 1e18
雙精度數(shù)和擴(kuò)展精度數(shù)表示范圍對一般應(yīng)用來說已經(jīng)足夠大了!
1)整數(shù),以補(bǔ)碼形式存儲,正數(shù)的補(bǔ)碼是其本身,負(fù)數(shù)補(bǔ)碼是其絕對值的各位變反后加1,下面是實(shí)際存儲的例子:
0024 var1 dw 24
FFFE var2 dw -2
000004D2 var3 dd 1234
FFFFFF85 var4 dd -123
0000000000002694var5 dq 9876
2)BCD數(shù)
在FPU中用80位表示正好是浮點(diǎn)堆寄存器的寬度,在其格式如下存儲:
Bit
79___72_71________________________________________0
符號 ---18個二十進(jìn)制數(shù)——————————---
看下面的例子:
00000000000000012345 var1 dt 12345
80000000000000000100 var2 dt -100
3)浮點(diǎn)數(shù),這個復(fù)雜點(diǎn),有三種格式
單精度:_31_30________23_22___________0
符號 指數(shù) 有效數(shù)
雙精度:_63_62__________52_51__________________0
符號 指數(shù) 有效數(shù)
擴(kuò)展精度數(shù):
_79_78____________64_63___________________0
符號 指數(shù) 有效數(shù)
浮點(diǎn)運(yùn)算的格式
單精度:_31_30________23_22___________0
符號 指數(shù) 有效數(shù)
雙精度:_63_62__________52_51__________________0
符號 指數(shù) 有效數(shù)
擴(kuò)展精度數(shù): _79_78____________64_63___________________0
符號 指數(shù) 有效數(shù)
例子:
C377999A var1 dd -247.6
40000000 var2 dd 2.0
486F4200 var3 real4 2.45e+5
4059100000000000 var4 dq 100.25
3F543BF727136A40 var5 real8 0.00123
C377999A var1 dd -247.6
40000000 var2 dd 2.0
486F4200 var3 real4 2.45e+5
4059100000000000 var4 dq 100.25
3F543BF727136A40 var5 real8 0.001235
400487F34D6A161E4F76 var6 real10 33.9876
DD和real4都可以在asm中來定義單精度浮點(diǎn)數(shù),4 bytes
DQ和real8都可以在asm中來定義雙精度浮點(diǎn)數(shù),8 bytes
DT和real10都可以在asm中來定義擴(kuò)展精度浮點(diǎn)數(shù),10 bytes
看過“浮點(diǎn)運(yùn)算的數(shù)據(jù)”的人還看了:
1.什么是浮點(diǎn)運(yùn)算 浮點(diǎn)運(yùn)算的格式