fixed-point

-1熱度

2回答

使用小數部分我有一個計算其爲以下： 1472/48 = 30.666667 (30 * 48) = 1440 (0.666667 * 48) = 32 所以數字我NEAD是1440和32，其可與實數部分和的小數部分來計算第一次計算。使用下面的一段代碼我找到了真正的部分，但小數部分是在一個規模。 #define SHIFT_AMOUNT 16 // 2 bytes is used to

2熱度

1回答

Haskell：派生Show for Fix類型

我試圖使用recursion-schemes實現遞歸數據類型。我希望能夠打印它。 import Data.Functor.Foldable data T1F a = Foo deriving Show type T1 = Fix T1F data T2 = Bar T1 deriving Show -- error here 錯誤消息： No instance for (Data.Fu

1熱度

1回答

定點控制：31 ... 24指數，23 ... 0小數到Q25值？

我需要的公式來計算定點值： e^(Konst/x*y) 我使用第三方divide()和antilog()功能，像： div = divide(Konst, x*y); out = antilog(div); 我divide()給人以輸出 bits 23…0 fractional part（這實際上是在Q0.31格式移位<< 8時）和 bits 31…24 exponent。的antilo

1熱度

2回答

比較兩個整數的商

我正在使用定點代碼（即只有16和32位整數）。現在我需要比較兩個非常相似的整數的商，例如 int result = 705/239; int result2 = 720/235; 我怎麼能告訴哪些結果會更大，只用整數？在這裏使用花車當然更容易，但不可能。謝謝。

0熱度

2回答

作爲Q16.16整數表示的浮點數的範圍是什麼？

將浮點數編碼爲fixed point integerQ16.16與int（數字* 0x10000），浮點的範圍可以表示而不失去精度？

-1熱度

1回答

定製二進制表示的定點編號

有沒有辦法在Python中獲取數字的二進制表示？它也必須能夠表示負數。我已經嘗試了numpy np.binary_repr(Decimal(-1))的功能，但它會導致錯誤。準確地說 - 我想以某種方式獲得定點數的二進制表示（正數和負數），所以我可以將它們寫入Verilog代碼。假設我有十進制數1,5。我想用兩位精度和三個整數位和一個符號來寫它。在二進制這將是0001,10，所以基本上000110

9熱度

1回答

負數的定點乘法

我有以下方法在定點 19.13格式中乘以兩個32位數字。但我認爲這種方法存在問題： 1.5f四捨五入爲2.0f，而-1.5f四捨五入爲-1.0f。在我看來，-1.5應舍入爲-2.0f。首先，當前舍入是否有意義，如果不是，我怎樣才能將其更改爲以保持更一致？ static OPJ_INT32 opj_int_fix_mul(OPJ_INT32 a, OPJ_INT32 b) { OPJ

0熱度

1回答

我有一個Python中的浮點列表，我怎樣才能將它轉換成定點表示？

我正在使用Neural Nets，我想在FPGA上實現它。我有一個代碼在MNIST上工作，我想用float32獲得初始權重，然後重新調整固定點的FPGA上的權重。我正在python中運行我的模擬。我正在尋找一種方式來做到這一點的轉換 from keras.datasets import mnist from keras.layers import Dense from keras.model

0熱度

2回答

MIPS中的定點算術

我需要在MIPS彙編中實現一些代碼，特別是使用定點算法。我錯過了什麼，或者那裏沒有這樣的事情？如果它不是MIPS的一部分，我如何使用整數實現定點，即add/sub/mul/div？

0熱度

3回答

如何將浮點數轉換爲具有一定寬度和精度的定點數。有沒有Python中的任何庫可以用來做到這一點？

我需要一個函數來將一個浮點數轉換爲一個定點數，用二進制表示，以便我可以將它放到只能接受定點數的硬件加速器中。例如，當我輸入浮點數5.625，數據寬度爲8，精度爲4（尾數爲4位）時，它將返回b'01011010或h'5a或d'90。在python庫中是否有這樣的函數？