fixed-point

0熱度

1回答

我試圖找出爲什麼換查詢訂單可以修改Z3定點發動機的回答結果： (declare-rel fib (Int Int)) (declare-rel q1()) (declare-rel q2()) (declare-var n Int) (declare-var tmp1 Int) (declare-var tmp2 Int) (rule (=> (< n 2) (fib n 1)))

-1熱度

1回答

如何在Verilog中執行兩個Q15值的分割，而不使用'/'（除法）運算符？

由於FPGA的分頻操作（/）價格昂貴？用基本的換檔操作可以執行兩個Q15格式編號（16位定點編號）的分配嗎？有人可以通過提供一些例子來幫助我嗎？在此先感謝！

0熱度

1回答

三角/浮點問題

問題：當使用math.h中的三角函數用一個簡單的SDL 2.0.4應用程序（自頂向下移動/旋轉未遂），我發現有一些輕微的錯誤三角函數的計算，導致'玩家'不能完全按照所面臨的方向移動，這給我帶來了很多困擾。我搜索了爲什麼會出現這種情況，主要原因似乎是浮點運算。我使用了一個叫做libfixmath的定點數學庫 - 並且問題解決了，但只是在某種程度上。以弧度返回的90度餘弦爲0.00775146，而

1熱度

1回答

在Python中將浮點數轉換爲固定點

我想將浮點數sin值轉換爲固定點值。 import matplotlib.pyplot as plt import numpy as np Fs = 8000 f = 5 sample = 8000 x = np.arange(sample) y = np.sin(2 * np.pi * f * x/Fs) 我如何可以輕鬆地將這個y浮點點樣品到定點樣？每個元素應該是

0熱度

1回答

查找功能至少不動點

如果我有這樣的Haskell功能：考慮下面的Haskell函數˚F： f :: Int -> Int f 0 = 1 f x = x * x * f (x - 1) 那我該怎麼計算出它的不動點和最少固定點（封閉形式）？回答這個問題是：這是怎麼至少不動點計算？我試圖理解這一點，但仍然沒有運氣。如果有人能夠向我解釋這一點，這將是非常棒的。

2熱度

2回答

固定點Cholesky算法的優點

我正在開發一些代碼，可以從浮點或固定點的HW中獲取其數據。目前我們將其作爲浮點。低層API都處於固定點。所以我們必須將數據作爲固定點傳遞回去。我們使用的算法是Cholesky。我想知道爲什麼我們必須爲Cholesky使用浮點數，而不是僅僅將數據作爲固定點。這樣做有什麼好處嗎？我會認爲使用浮點會導致更多的舍入誤差。

-5熱度

2回答

計算，而不花車乘長整型（32位）0.0000000004656f

我試圖消除在嵌入式應用中的所有浮點計算，我需要縮放/乘以0.0000000004656f符號長32位整數。（2147483648分之1）的背景是 (pulse[i] * (triosc[i] * 0.0000000004656f)) 兩個pulse[i]和triosc[i]簽署長32個整數所以我需要0.0f和1.0f之間進行約束我triosc[i]值，而不使用浮動算術。編輯： saw_

1熱度

1回答

有沒有辦法將OpenCV Mat_與自定義類一起使用？

我在OpenCV中有一些算法，我想用定點值表示來重寫它。我在這裏找到了定點算術類：https://github.com/eteran/cpp-utilities。我想知道是否有一些優雅的方式將Mat_模板類與Fixed類對象（或任何自定義類）一起用作Mat的內容。當我使用： cv::Mat_<cv::Vec<Fixed<12, 4>, 3>> num; 我收到以下錯誤： Error C2039

0熱度

1回答

如何在verilog中取出定點值？

我想在Verilog中輸出固定點值。一般情況下，我用這樣的方法（I'don't知道這是什麼所謂）例如， output = 0.248*5 output = ((0.248 << 8) * 5) >> 8; 但是在他的情況下，輸出僅有整數。我想獲得定點小數部分。如何處理verilog中的定點值？

4熱度

1回答

在COBOL中讀取文件中的浮點數

我在文件中有定點數字，每行一個，這種格式S9(6)V9(2)但是當它們被實際讀取時，我在嘗試將它們放入數學時遇到了non numeric錯誤操作。更重要的是，當我嘗試在程序中顯示它們時，寫入文件中的數字爲567123.45被保存在變量中，如+ 567123.04。例如，文件123.45中的數字被保存在變量+123.45.00中，並在數學運算過程中引發以下錯誤'WS-VALUE' not numer