2011-09-03 52 views
0

我試圖獲取F#中的多維數據集根目錄。但這是我的問題。如何在F中獲得多維數據集根目錄#

let x5 = ((float 64) ** (1.0/3.0));; 
val x5 : float = 4.0 

int x5;; //expected 4 
val it : int = 3 

結果應該是4,而不是3

有什麼不對?

+1

這似乎是一個浮點問題。 'int(round x5)'= 4. – Daniel

+0

是的。那就對了。非常感謝。 – dagelee

回答

1

看起來你可能正在看錯誤的變量。

我檢查自己,一個例子是在這裏:(ideone是一個免費的在線編譯/執行服務)

http://ideone.com/kn9jd

+0

問題是'int x5' – Daniel

+0

我不是F#專家,並不確定原始發佈的哪一行實際上應該是代碼,哪些應該是他對糟糕格式化問題的解釋的一部分。 –

3

沒有什麼是錯的,事情是,值你的x5是少一點,比4.0。 您可以明確地看到使用fsi有多少:

let x5 = ((float 64) ** (1.0/3.0)) 
let err = 4.0 - x5;; 

val x5 : float = 4.0 
val err : float = 4.440892099e-16