2016-11-15 72 views
0

根據維基百科,只要有少於7位有效數字,單精度浮點數就保持精確。有沒有一個公式來找到這個有效數字的最大數量?計算浮點數上的精確值的最大位數

例如: 關於使用符號位,7位,超過63指數,8位小數和2次冪求冪的浮點格式的精度有多少個小數位?

回答

0

十進制有效數字的數量,因爲這意味着任何事情,或多或少是n/log (10),其中n是有效二進制數字的數量。在你的例子中,有效二進制數字的數量是9(隱含一個,後面跟着8個有效位)。日誌(10)約爲3.32,所以你得到略少於3個重要的小數位數。

如果您有一個「重要的十進制數字」的具體定義,例如「可以通過二進制格式從具有重要n位數的十進制表示開始舍入數字的位數並舍入到十進制數數字在回來的路上,不會丟失任何信息「,您將需要閱讀this Exploring Binary post