整數(shù)是指正整數(shù)、負整數(shù)和零,如-6、0、32 等。
浮點數(shù)是指帶有有限位小數(shù)的有理數(shù),如-10.8、0.00、25.01 等。
整數(shù)既可以是整數(shù),也可以是浮點數(shù),例如255 是整數(shù),而255.0 則是浮點數(shù)。
整數(shù)運算,得到的結(jié)果是一個整數(shù),并且計算結(jié)果中的小數(shù)部分將被忽略。例如:用整數(shù)運算時,100÷3=33。
浮點運算,得到的結(jié)果是一個浮點數(shù),計算結(jié)果中的小數(shù)部分將保留下來。
例如:用浮點運算時,100.0÷3.0=33.33333333。
浮點式:
4.2×10^8=420000000
整數(shù)式:
42×1000000=420000000
浮點運算性能可以直觀地反映一個cpu的計算能力,注意是“計算能力”
浮點數(shù)在計算機中用以近似表示任意某個實數(shù)。具體的說,這個實數(shù)由一個整數(shù)或定點數(shù)(即尾數(shù))乘以某個基數(shù)(計算機中通常是2)的整數(shù)次冪得到,這種表示方法類似于基數(shù)為10的科學記數(shù)法。
浮點計算是指浮點數(shù)參與的運算,這種運算通常伴隨著因為無法精確表示而進行的近似或舍入。
一個浮點數(shù)a由兩個數(shù)m和e來表示:a = m × be。在任意一個這樣的系統(tǒng)中,我們選擇一個基數(shù)b(記數(shù)系統(tǒng)的基)和精度p(即使用多少位來存儲)。m(即尾數(shù))是形如±d.ddd...ddd的p位數(shù)(每一位是一個介于0到b-1之間的整數(shù),包括0和b-1)。如果m的第一位是非0整數(shù),m稱作規(guī)格化的。有一些描述使用一個單獨的符號位(s 代表+或者-)來表示正負,這樣m必須是正的。e是指數(shù)。
這種設計可以在某個固定長度的存儲空間內(nèi)表示定點數(shù)無法表示的更大范圍的數(shù)。
例如,一個指數(shù)范圍為±4的4位十進制浮點數(shù)可以用來表示43210,4.321或0.0004321,但是沒有足夠的精度來表示432.123和43212.3(必須近似為432.1和43210)。當然,實際使用的位數(shù)通常遠大于4。
此外,浮點數(shù)表示法通常還包括一些特別的數(shù)值:+∞和?6?1∞(正負無窮大)以及nan('not a number')。無窮大用于數(shù)太大而無法表示的時候,nan則指示非法操作或者無法定義的結(jié)果。
大部份計算機采用二進制(b=2)的表示方法。位(bit)是衡量浮點數(shù)所需存儲空間的單位,通常為32位或64位,分別被叫作單精度和雙精度。有一些計算機提供更大的浮點數(shù),例如英特爾公司的浮點運算單元intel8087協(xié)處理器(以及其被集成進x86處理器中的后代產(chǎn)品)提供80位長的浮點數(shù),用于存儲浮點運算的中間結(jié)果。還有一些系統(tǒng)提供128位的浮點數(shù)。