1
我在這裏問這個問題,因爲我相信這是一個比其他任何問題更多的程序問題。爲什麼我的計算器在2^34 == 2^34 - 1時返回true?
我正在使用TI-84 Plus Sliver Edition計算器,它包含可測試小於,大於和平等的邏輯運算符。我發現,當我輸入的表達式:
2^34 == 2^34 - 1
它給了我一個驚人的真實。值得一提的是,我的計算器無法精確輸出2^34的結果。相反,它使用指數表示法以及任何其他大於33的功率。這是布爾輸出中的潛在因素嗎?
此外,如果第二個表達式減1到9,則等於測試只返回true。當數字大於等於10時,它會正確返回false。
它可能是一個舍入誤差?爲什麼這個表達式返回true?
其舍入誤差... – 2013-03-13 23:16:18
不要TI-84只有8位精度? – Blender 2013-03-13 23:17:21
雅1.99999999999 <---其中11個,基本相當於2個。我只想扔掉計算器。 – 2013-03-13 23:26:13