mantissa

    0熱度

    1回答

    尾數和指數 - 帶小數的負數（超過.5）

    這是我的問題。我正在做一些工作，並看到兩個不同的答案。我正在使用一個計算器（在線）來檢查我的答案，它與我應該得到的答案衝突，我需要看看哪一個是正確的。 問題是： -6.25 我工作了6.25，然後採取了二補。 6.25 - > 0110.001 尾數 - > 0.11000100000指數 - > 0011 我的回答：2的補1.00111100000指數 - > 0011 答案我應該得到說：尾數
    exponent complement mantissa 2017-08-01

    2熱度

    1回答

    從5位浮點數表示法計算值

    我已經在這方面做了很多工作，並且認爲我錯過了關於「壓裂」部分的內容。在這個5位浮點中，符號位是最重要的，接下來的兩位是指數，指數偏置是1.最後兩位是有效數（尾數）。 所以我有一堆值，但我只是想更好地理解該方法。第一個是： 0 00 01 我知道方程是 V = (-1)^s * m * 2^E 註冊是零，並且由於數規格化，E = 1-偏壓= 0 （是嗎？） 所以，我有： V = 1 * m
    assembly floating-point binary ieee mantissa 2013-10-10

    3熱度

    2回答

    vb.net尾數和指數從雙重計算

    任何人都可以提供有關如何從VB.net中獲得尾數和指數的任何建議嗎？我知道我可以做一個字符串解析和一些轉換爲整數，但我想知道是否有人有一個數學等價的公式，可以讓我這樣做？ 非常感謝
    vb.net math exponent mantissa 2010-10-18

    0熱度

    1回答

    減少尾數位寬

    嗯，我覺得不好意思，我不能由我自己得到這個，但.. 我怎樣才能減少尾數（和指數）位與一個浮點數？ 我訓練（卷積）人工神經網絡（我實現它FPGA），我想學習位寬對比測試尾數（和指數）之間的關係（和訓練）CPU（和GPU）的準確性。下一步就是將我的浮點數轉換爲固定點表示形式（這就是我在FPGA上使用的），然後看看結果如何。 （Tong，Rutenbar和Nagle（1998）]和[Leeser and
    floating-point neural-network fixed-point exponent mantissa 2013-10-17

    2熱度

    1回答

    着色時間統一 - clock_gettime被截斷

    把這個功能讓時間的雙重使用clock_gettime： // return current time in milliseconds static double time_get_ms(void) { struct timespec res; #ifdef ANDROID clock_gettime(CLOCK_REALTIME_HR, &res); #else
    time glsl clock mantissa 2012-03-01

    8熱度

    2回答

    將尾數和指數轉換爲雙精度值

    在一款非常高性能的應用程序中，我們發現CPU可以計算長計算的速度明顯快於雙精度。但是，在我們的系統中，確定我們從不需要超過9位小數位的精度。所以我們對所有浮點運算都使用long，並且理解了9點精度。 但是，在系統的某些部分，由於可讀性與雙打一起工作，因此更方便。所以我們必須將假設9位小數的長整數值轉換爲雙整數值。 我們發現簡單地取長整數除以10的冪乘以9或乘以1除以10的冪後得到不精確的表示。 爲
    c# floating-point double exponent mantissa 2012-01-19

    3熱度

    1回答

    在Matlab中如何使用科學記數法中的數字變量（matissa和exponent）？

    我正在使用Matlab並使用scientific notation中的數字，用e代表指數。在Matlab中的一個例子： >> 2e5 ans = 200000 現在想（分別爲e的左側和右側），在科學記數法表示的工作，但使用變量來保存尾數和指數的值。我不明白，如果沒有將變量名稱與指數字母e進行合併，可以如何完成此操作。例如： >> rr=5; >> 2err ??? 2err | E
    matlab exponent mantissa 2012-03-11

    5熱度

    1回答

    Perl尾數與其他雙打不同

    我試圖在float中掃描：13.8518009935297。第一個例程是我自己的，第二個是MacOSX libc的 strtod，第三個是GMP的mpf_get_d（），第四個是perls numeric.c：Perl_my_atof2（）。 我用這個片段打印尾數： union ieee_double { struct { uint32_t fracl;
    perl double numeric mantissa 2013-07-30

    6熱度

    1回答

    GCC處理在不同的優化級別上浮點數比較不同

    我有一些簡單的代碼比較兩個浮點值來說明我看到的GCC優化的問題，並希望有人能幫助我弄清楚爲什麼它產生的輸出在一些下有所不同可重複的情況。 首先，我知道將浮點值與==比較是不好的，因爲尾數可能會有一些非常小的數值，但在我的示例中情況並非如此。我遇到的問題是基於2個因素的輸出更改。 1）我傳入的優化標誌，以及2）如果我取消註釋std :: cout行。 爲什麼GCC代碼在-O2下產生不同的運行？ 如果
    linux gcc floating-point equals mantissa 2010-09-21

    0熱度

    1回答

    帶LSB錯誤的浮點加法

    我正在用Verilog實現一個硬件雙精度加法器。在驗證階段，當我將硬件輸出與MATLAB（或C）雙精度加法輸出進行比較時，發現LSB不匹配的一些奇怪情況，考慮到我正在使用相同的舍入模式（舍入到最近偶數） 。我的問題是關於C計算的準確性，它是否在舍入時真正準確，還是僅限於某些CPU架構（32位或64位）？ 下面是一個例子， A = 0x62a5a1c59bd10037 = 1.59449333962
    rounding point floating mantissa 2016-08-03
最新問題