precision

1熱度

2回答

我對特定項目使用Mathematica，要求精度浮點數。 Mathematica似乎支持這一點 - 所有的值都是符號的，當用數字來評估時，你可以要求你想要的精度。例如，您可以在小數點後有一個1000位數的數字。有沒有其他的環境允許這個？感謝

1熱度

2回答

爲什麼標準化會在比較雙打時解決精度問題？

爲了計算任何給定的雙值的實平方根問題，編程訪談的元素的作者提出了一種solution其中2個精度值a和b之間的差被計算如下： typedef enum { SMALLER, EQUAL, LARGER } Ordering; Ordering Compare(double a, double b) { // Uses normalization for precision probl

0熱度

2回答

DateTime以微秒爲單位

是否將具有微秒的日期時間值轉換爲精確的雙精度值？例如，我的日期爲2017年7月3日10:00:00 00 Ticks 636346728000000050。其中轉換爲雙重，因爲我得到42919.4166666667。同樣，我已經將50 Ticks添加到當前日期即。 2017年7月3日10:00:00 00 Ticks 636346728000000100它轉換爲double，也獲得相同的doub

2熱度

2回答

fzero還是fsolve？不同的結果 - 誰是正確的？

我有一個函數 b=2.02478; g=3.45581; s=0.6; R=1; p [email protected](r) 1 - (b./r).^2 - (g^-2)*((2/15)*(s/R)^9 *(1./(r - 1).^9 - 1./(r + 1).^9 - 9./(8*r).*(1./(r - 1).^8 - 1./(r + 1).^8)) -(s/R)^3 *(1./(

0熱度

1回答

Python - 試圖計算pi的數字，並且在十進制後無法獲得48位數字

我正在嘗試編寫一個程序來使用python中的Nilakantha系列來計算pi的數字。每次運行它都不會給我超過50個小數。仍然學習python，所以任何幫助表示讚賞。 # Program using Nilakantha Series to crunch digits of pi from math import * from decimal import * getcontext().p

0熱度

2回答

OpenGL的浮動精度讓人意想不到

我有一個功能，可以通過偏航角和俯仰角在攝像機周圍旋轉攝像頭。 void Camera::updateVectors() { GLfloat radius = glm::length(center - position); position.x = cos(glm::radians(this->yaw)) * cos(glm::radians(this->pitch));

0熱度

2回答

C++整數除法到浮點數

我的C++程序需要三個整數輸入並執行一些計算，包括除法。起初，最終結果不是小數。堆棧溢出（Dividing two integers to produce a float result）搜索過了一會兒，我發現我應該增加一個（浮動），像這樣： int a; int b; float c; a = 5; b = 2; c = (float)a/b; 所以我想，但我結束了我的結果是-N

-2熱度

1回答

符號表達式中的舍入數

我有一個用Matlab中的符號創建的1 * 1向量。因爲符號（t）的所有值都被轉換爲整數如 (142731759660517923771*exp(t))/2814749767106560000 - (2384496775230702879947559372750244401*exp(2*t))/30948500982134506872478105600000000 但我想，此表達式5

3熱度

1回答

PostgreSQL中

我與18位小數號碼的工作劃分大的數字，我已經決定要保存在數據庫作爲「NUMERIC（36）」，數字現在我想通過以下操作師呈現它 select (5032345678912345678::decimal/power(10, 18)::decimal)::decimal(36,18) 結果 5.032345678912345700 預期的結果 5.032345678912345678 它工作，如

0熱度

1回答

Wy PHP在浮點運算上比Javascript好？

PHP <?php echo (-9.341+2.111); 結果-7.23 的Javascript console.log(2.111-9.341) 結果-7.229999999999999 我知道浮算術的，但爲什麼香草PHP給出確切的答案和Javascript（在Google Chrome控制檯上測試過）不是？