fixed-point

    5熱度

    2回答

    64位定點乘法錯誤

    我在C＃中實現了一個64位定點簽名的31.32數值類型，基於long。到目前爲止，加法和減法都非常好。然而，乘法有一個惱人的情況，我試圖解決。 我的當前算法由每個操作數分裂成其最高和最低顯著32位，進行4次乘法成4個多頭，添加這些多頭的相關比特。這裏是代碼： public static Fix64 operator *(Fix64 x, Fix64 y) { var xl = x.m_
    c# math binary fixed-point 2012-12-24

    1熱度

    2回答

    定點乘法

    短版檢測溢：我如何檢測溢出使用定點乘法描述here但對於一個符號的類型？ 龍版本： 我還是有一些問題的溢出與我Q31.32 fixed point type。爲了更容易在紙上創建示例，我使用相同的算法制作了一個更小的類型，即基於sbyte的Q3.4。我認爲，如果我能解決Q3.4類型的所有問題，那麼同樣的邏輯應該適用於Q31.32。 注意，我可以很容易地通過一個16位的整數執行也執行Q3.4乘法，但
    c# math fixed-point 2012-12-26

    -2熱度

    1回答

    固定點數4個字節或8個字節，具有不同的比例因子 - 轉換數字的庫？

    我要讀定點數任一4個字節或8個字節的，並針對每個項目（一個已知的位置）（號數） 是否有這何處自動化庫小數點移動的位置？ C/C++是選擇 的語言例如： 這是假設的20 double toDoublePrecisionFixedPoint(short first,short second,short third,short forth) { double d = 0; int
    c++ bit-manipulation fixed-point 2013-02-15

    0熱度

    2回答

    使用字節的Java定點運算

    我有一些屬於[-1,1]的值。我不需要很多的準確性，但我需要很多這些值。現在我更多的是一個硬件人，所以這個解決方案很容易找到我：使用定點算法。我希望通過使用8位Java字節類型來節省內存，該類型的準確度爲2 ^（ - 7）= 0.0078125。有沒有辦法做到這一點，並負責截斷/超過（流量）問題？ 我也想避免儘可能多的計算開銷，因爲這些值也將進入大量的計算。 謝謝
    java byte fixed-point 2013-02-17

    3熱度

    2回答

    Java中s15.16定點數的平方根

    我想編寫一個函數來計算s15.16定點數的平方根。我知道它是一個有15位數字和16位數字的有符號數字。無論如何沒有任何圖書館就可以做到這一點？其他任何語言都可以。
    java fixed-point square-root 2013-03-02

    3熱度

    3回答

    不安全的指針操作

    我想在C＃中編寫一個CPU模擬器。該機的物體看起來是這樣的： class Machine { short a,b,c,d; //these are registers. short[] ram=new short[0x10000]; //RAM organised as 65536 16-bit words public void tick() { ... }
    c# .net pointers unsafe fixed-point 2013-03-03

    0熱度

    2回答

    尋找一個函數的固定點

    我想找到一個邏輯分佈函數的固定點，並確定不同參數值的固定點如何變化。代碼看起來像： nfxp.reps <- 0 err <- 10 p <- seq(0, 1, by = 0.0001) pold <- p gamma <- 6 k <- 3 while (err > 1E-12) { nfxp.reps <- nfxp.reps + 1 if (nfxp.rep
    r iteration fixed-point 2013-03-06

    1熱度

    1回答

    帶固定點輸入的正弦波

    我想知道是否存在採用固定點輸入的正弦/餘弦函數的實現。我更喜歡這樣的實現來減少錯誤。一個簡單的版本可能需要一個N位無符號整數k作爲輸入並計算sin（2 * pi * k/2^N）。有這樣的事嗎？如果是這樣，我會一直使用它。
    numerical fixed-point sine sin cos 2012-12-01

    2熱度

    4回答

    定點乘法

    我需要根據非常數因子將一個單位的值轉換爲另一個單位。到1073676289的輸入值範圍從0和從0到1155625.轉換的範圍的數值範圍可以這樣描述： output = input * (range/1073676289) 我自己的初始固定點實現感覺有點笨拙： // Input values (examples) unsigned int input = 536838144; // min 0
    c fixed-point 2012-12-04

    2熱度

    2回答

    定點處理器中浮點操作的數據結構

    我需要編程用於遺留應用程序的定點處理器。要求提供新功能，這些功能需要較大的動態範圍，即使在縮放之後，這些功能也可能超出固定點範圍。由於處理器由於多種原因而不會改變，因此我計劃將基於定點算法的基於軟件的方法應用於浮點運算。我想定義一些數據結構來表示底層定點處理器的C中的浮點數。有沒有可能做到？我打算使用IEEE floating point representation。什麼樣的數據結構對於實現乘法
    c++ c data-structures floating-point fixed-point 2013-03-31
最新問題