precision

0熱度

2回答

我正在寫一個程序，它從數據庫中取出原始的double值並將它們轉換爲8字節的十六進制字符串，但我不知道如何防止精度損失。從所有設備收到的數據都以雙精度存儲，包括8字節的標識值。雙打實例如7.2340172821234e + 16解析正確的沒有精度，其中指數是10^16損失。但是，在指數爲10^17的情況下，Java會失去精度。例如，2.88512954935019e + 17由爪哇解釋爲1.

2熱度

1回答

將符號位，指數和尾數轉換爲浮點數？

我有Sign Bit，Exponent和Mantissa（如下面的代碼所示）。我試圖把這個價值變成浮動。這樣做的目的是讓59.98（它會讀作59.9799995） uint32_t FullBinaryValue = (Converted[0] << 24) | (Converted[1] << 16) | (Converted[2] << 8) | (Converted[3

0熱度

1回答

最大化精度的操作順序

我正在使用浮點操作進行這些操作：這兩個中哪一個更精確？（A * B）/ C 或（A/C）* B 不管它是否在所有或者它取決於情況？如果是這樣，我應該選擇哪種情況？

2熱度

1回答

2 ^（ - x）= Matlab中的realmini

我試圖通過表達式-log2（realmin）找到在Matlab中2 ^（ - x）= realmin的最大值x。結果是1022.但是，當我嘗試代碼2 ^（ - x）> 0（範圍從1023到1074的x）時，結果爲1（真）。根據我的理解，realmin是最小的正浮點數。那麼，爲什麼-log2（realmin）沒有給出最大的x使得2 ^（ - x）> 0？

0熱度

3回答

有條件的小數點位置格式

我有一個場景，我需要顯示' - '如果值爲空，並且數值數據如果不爲空。我已經創建了一個處理這個的函數。下面是相同的剪輯。 DECLARE @response varchar(max) set @response=Case when (@data is null) then '-' else STR(@data,25,@roundUp) end RETURN

2熱度

2回答

爲什麼x <= x false？

標題有點誤導，因爲它不完全是x和x，它是x和0.3;然而，值應該是相同的。我： arr = np.arange(0, 1.1, 0.1) ，我得到： arr[arr <= 0.3] > array([0., 0.1, 0.2]) 正確的結果應該是： arr[arr <= 0.3] > array([0., 0.1, 0.2, 0.3]) 我還沒有偶然發現了這個問題。我知道它與浮點

2熱度

1回答

我也應該使用numpy.float64而不是Python float當使用numpy.array

我到目前爲止還沒有遇到任何問題，所以這是純粹出於好奇的問題。在Python我通常限定的浮紗和浮陣列是這樣的： import numpy as np s = 1.0 v = np.array([1.0, 2.0, 3.0]) 在上述s的情況下是float，但v元素是numpy.float64類型。更一致的，我可以，例如，而是執行此操作： import numpy as np s =

8熱度

4回答

C++中的空間旋轉向量和高精度

這是我的函數，用於計算C++中的3D旋轉，該旋轉由圍繞軸的輻射角度定義。 Vector rotate(const Vector& axis, const Vector& input, const double angle) { double norm = 1/axis.norm(); if(norm != 1) axis *= norm; double

2熱度

1回答

numpy中的高精度計算

如何在numpy中執行高精度計算？通過高精度我的意思是100精度在十進制。

0熱度

1回答

這是C++半庫的問題嗎？

我知道我使用的是沒有內置到C++的功能，但是這個庫看起來很常用，我很驚訝地發現這個錯誤會彈出。對於那些不瞭解圖書館的人可以找到here。本質上，它應該允許支持16位浮點數（較低精度）。我的問題是，半數的精度似乎減少了正數。在這段代碼中，我正在生成一堆要通過OpenGl呈現到屏幕上的點。 {xs1，ys1}表示sigmoid的浮點精度計算。 {xs3，ys3}表示轉換爲浮點精度的值。 vect