floating-point

2熱度

1回答

我有.net（4.6.1）中的場景解析6dp浮點值的字符串表示形式產生不同的結果32和64位模式。 [Fact] public void ParseTest() { var numText = "51.580133"; double.Parse(numText) .ToString("R") .Should().Be(numText); } 此

0熱度

1回答

爲什麼我沒有獲得浮點數？

我正在寫一個非常簡單的練習腳本（我是一個新手），它將採用a，b，c和x的值並將它們插入到二次函數中。出於某種原因，我沒有得到浮點數進入我的等式。我曾嘗試將float（）添加到比我感覺需要更多的地方，但我仍然獲得了定點數字。注：我嘗試了幾種方法後，結束了這麼多浮動輸入;這僅僅是最後一次迭代。這裏是我的代碼： def quadratic(a, b, c, x): return floa

0熱度

1回答

在倒置時關閉雙值

對於哪個輸入是否減少到標識（模1的ulp）？ public static double invertTwice(double value) { double inverse = 1.0/value; return 1.0/inverse; } 此外，什麼是最大間隔爲[min, max]該函數是單位（模1 ULP）？倒數時，範圍[1E-320 ... 1E-310]中的值

0熱度

2回答

目的C--用浮點數除長而不丟失精度

我在使用浮點數分隔long類型時遇到了精度問題，並最終導致應用程序中的計算出現混亂。假設我只是將毫秒轉換爲秒，因爲這是我們結束的要求。以下是一個樣本測試用例 long startTimeMS = 2529095; NSTimeInterval expectedStartTime = 2529.095 NSTimeInterval startTime = startTimeMS/1000.f;

1熱度

1回答

Python3.x：格式浮點數到2位，限制到3個小數位

我已經看到很多關於格式化floats和限制小數位的問題，但我沒有看到兩者都一次完成。我希望我的變量seconds的值始終表示爲SS.mmm。我 t = int(input('time?: ')) seconds = (t/1000) % 60 minutes = (t // (1000 * 60)) % 60 hours = (t // (1000 * 60 * 60)) % 24 我

0熱度

1回答

parseFloat在JavaScript中安全嗎？

在數據庫中，商店價格不應該使用浮點型（應該是十進制）。那麼在JavaScript parseFloat()的價格安全嗎？例如我有1000000個數字的數組，我想解析所有浮點數，並在整個集合和整體中執行各種操作。

0熱度

2回答

給定兩個數據集的3列，提取的量，第三列的值是在兩個數據幾乎相等的行設置

給定這兩個數據集： data_set_1.txt：https://pastebin.com/VQrsv8kU data_set_2.txt：https://pastebin.com/jFBa6kZq （可以下載這些不登記）我想獲得的x_1值，y_1，x_2和y_2其中： z_1 = z_2（在閾值內）。有沒有辦法做到這一點？ 1）兩個數據集不具有相同的長度， 2）由於z_1和z_2永遠不會完全

0熱度

1回答

將浮點數向量轉換爲十六進制/二進制字符串

基於this關於編碼/解碼爲基礎64的答案和this關於從浮點數轉換爲字節向量並返回的答案，我嘗試將浮點向量轉換爲十六進制或二進制串。這是我的代碼： vector<float> floats = ...; const unsigned char* bytes = reinterpret_cast<const unsigned char*>(&floats[0]); std::vector<u

0熱度

1回答

取整字典中的浮點值

我有一個包含字典的數組。我需要將關鍵「價格」的值更改爲浮點值，並保留2位小數，但字典應保持不變。我試圖獲取每個價格值並將其替換爲可變數組。但我需要一個更簡單的解決方案。提前致謝。 ( { pen = { price = 180.1299; }; pencil = { price = 20.1299; }; }, {

3熱度

2回答

快捷的方式來編碼花車的載體爲十六進制或使用Base64Binary

現在，我在做這樣的： //encoding std::vector<float> data = ... const unsigned char* bytes = reinterpret_cast<const unsigned char*>(&data[0]); std::vector<unsigned char> byteVec(bytes, bytes + sizeof(float) *