floating-point

    1熱度

    1回答

    爲什麼浮動的舍入使用循環？

    的CSAPP說： 「向偶數四捨五入避免了最真實的情況下，這種統計偏差 它將回合時間向上約50％和向下回合的時間約50％。」 如何證明它？
    floating-point rounding ieee-754 2017-07-16

    1熱度

    3回答

    使用正則表達式過濾掉浮點數小數點

    我有一些float數字有很多小數。我一直試圖通過設置最多兩位十進制數來保持整潔。 到目前爲止我已經使用toFixed(2)。只是爲了保持簡單。 223.3284293.toFixed(2); 「223.33」 我現在需要一個更復雜的解決方案。我想要最後的兩個後面的零後面的數字。 例如1030.0002500082會給我1030.00025。 此外，我想要排除兩位數的任何尾隨零。 例如400.0
    javascript regex floating-point numbers decimal 2017-07-16

    1熱度

    1回答

    Python Cassandra浮動精度損失

    我正在向Python和Cassandra發送數據。我在我的python程序中使用內建的float類型，以及我的Cassandra表的數據類型。如果我發送一個955.99從python到Cassandra，在數據庫中顯示955.989999。當我在python中發送一個查詢來返回剛纔發送的值時，現在是955.989990234375。 我明白python中精度損失的問題，我只是想知道Cassandr
    python cassandra floating-point precision cassandra-python-driver 2017-07-17

    0熱度

    1回答

    如何轉換浮動雙工？

    double可以表示float可以表示的每個值。 將float轉換爲double只需通過添加0來擴展尾數，並通過填充符號位來擴展指數部分？ 我測試了一些數據在http://www.binaryconvert.com/index.html。它以這種方式工作。但是我沒有找到任何關於轉換的官方定義。轉換是否有任何轉角情況不以這種方式工作？
    c floating-point double ieee-754 single-precision 2017-07-17

    0熱度

    1回答

    Python：如何保持浮動數組的大小數組相對較小？

    我有一個由cv2包讀取許多圖像創建的numpy數組。我讀灰度圖像，所以像素值從0到255，在這種情況下，數據的類型是uint8。這意味着每個數據元素的大小爲1個字節。我使用每個圖像創建一個列表，然後想要將數組列表轉換爲數組數組。之後，我需要將這些數據提供給模型，但模型需要圖像像素值在1和0之間浮動。現在，每個Python中的浮點數爲8個字節。所以我試圖使用這個cv2函數來轉換每個陣列 unlabe
    python arrays floating-point out-of-memory uint8t 2017-07-18

    1熱度

    3回答

    如何在javascript中顯示20個以上的小數點？

    我正在製作一個顯示pi數字的網頁。我能夠使用toFixed方法得到我的pi變量來顯示20位pi的數字，但我想知道是否可以顯示更多。小數位數是否受我變量內存大小的限制？有沒有辦法顯示超過20位數字？ 編輯：我應該澄清說，我正在使用Chudnovsky Algorithmn來計算pi的值。我假設由於var變量的內存限制，它只能顯示一定數量的限制在20的數字？ Source
    javascript floating-point precision pi 2017-07-19

    1熱度

    1回答

    當提高到1的冪時，小數部分丟失精度。

    我在程序中遇到了一些準確性問題，使用Decimal。 一個簡單的攝製： from decimal import Decimal print Decimal(1910944005427272400562113336049664) print Decimal(1910944005427272400562113336049664)**1 print int(Decimal(19109440054
    python python-2.7 floating-point floating-accuracy 2017-07-19

    0熱度

    2回答

    ColdFusion的數據庫插入改變長期數值以科學記數法

    我試圖與輸入值來更新我的數據的基礎上，將數據傳遞到通過JSON的更新文件的ColdFusion這樣：customValue:"6436534653465346347734653465346"。插入/更新查詢，應該把這個值，只是簡單地用一個<cfqueryparam>標籤將其插入到數據庫：<cfqueryparam value="#VARNETJSONInput.customValue#" cfsq
    mysql coldfusion floating-point 2017-07-19

    -2熱度

    3回答

    如何檢查字符串是否包含小數並轉換爲最接近的整數？

    如何檢查String是否包含Java中的整數或十進制數字？ 此外，我想將數字四捨五入到最接近的整數，如果它是十進制數，然後將其轉換回字符串。 說，我有一個所謂的「量」，其值可以像「23」或「33.42」的字符串，在這種情況下，我想轉換「33.42」到「33」 下面是我嘗試： // Assume amount String has already been declared try{
    java floating-point integer double 2017-07-19

    0熱度

    1回答

    將每個值設置爲浮點數，但返回大熊貓中的對象

    for x in range(1,17): df.loc[(df[x]=='n'), (x)]=float(0.0) df.loc[(df[x]=='y'), (x)]=float(1.0) df.loc[(df[x]=='?'), (x)]=np.nan df.dtypes 返回所有對象。爲什麼當我特別將每個項目設置爲浮點數0或1或NaN時。基本上我無法在此
    python pandas floating-point mean 2017-07-19
最新問題