SQL小數類型 - 精密和規模差異

Question

在試圖回答這裏的另一個問題我已經創建了下面的數據結構和行：我已經執行以下查詢

create table [resource] (Name varchar(16),date datetime, project varchar(16),hours int) 
INSERT INTO resource 
values ('Andy Sandy', '2013-03-02', 'Enhancements',40) 
INSERT INTO resource 
values('Fred Jones', '2013-10-02', 'Enhancements',40) 

：

select 
case when sum(hours) > 0 Then 
    CAST(SUM(hours) as DECIMAL(5,2))/40 
else 0 end as [hours], 
[DATE] 
from resource group by date 

結果是這樣的：

Hours   Date 
1.000000 2013-03-02 00:00:00.000 
1.750000 2013-10-02 00:00:00.000 

當我將小時鑄造成小數時，我指定了一個精度5的離子和2的比例。我不明白爲什麼這個數字是這樣的。如果我沒有指定精度和縮放比例，那麼結果是一樣的。爲什麼是這樣？

Answer 1

你正在做numeric(5,2)/40

從Precision, Scale, and Length

+-----------+------------------------------------+---------------------+ 
| Operation |   Result precision   | Result scale * | 
+-----------+------------------------------------+---------------------+ 
| e1/e2 | p1 - s1 + s2 + max(6, s1 + p2 + 1) | max(6, s1 + p2 + 1) | 
+-----------+------------------------------------+---------------------+ 

款待40作爲numeric(2,0)，因爲這是保留精度和比例的最小可能的十進制表示。

所以

p1=5 
s1=2, 
p2=2 
s2=0 

然後把它插入公式從BOL

Precision: 5 - 2 + 0 + max(6, 2 + 2 + 1) = 9 
Scale: max(6, 2 + 2 + 1)     = 6 

所以結果是numeric(9,6)。

你也可以看到這個從

;WITH cte(thing) AS 
(
SELECT CAST(1 as DECIMAL(5,2))/40 
) 
SELECT thing, 
     sql_variant_property(thing,'basetype') AS basetype, 
     sql_variant_property(thing,'precision') AS precision, 
     sql_variant_property(thing,'scale') AS scale, 
     sql_variant_property(thing,'maxlength') AS maxlength 
FROM cte 

返回

+----------+----------+-----------+-------+-----------+ 
| thing | basetype | precision | scale | maxlength | 
+----------+----------+-----------+-------+-----------+ 
| 0.025000 | decimal |   9 |  6 |   5 | 
+----------+----------+-----------+-------+-----------+ 

（注：decimal和numeric是同義詞）

Answer 2

多麼奇怪。如果您運行sp_describe_first_result_set

sp_describe_first_result_set N' 
select 
case when sum(hours) > 0 Then 
    CAST(SUM(hours) as DECIMAL(5,2))/40 
else 0 end as [hours], 
[DATE] 
from resource group by date' 

你看，你返回時間列被強制轉換爲十進制（9,6）。

如果您將原始演員改爲DECIMAL（10,6），則會將其重新改寫爲（14,10）。所以你認爲它只是增加了4個級別的十進制精度。不完全的！

將您的分頻器從40.0改爲400.0 - 現在它轉換爲（15,11） - 它還根據分頻器的精度增加了一個額外的精度級別。

改爲40.0000（3個零） - 現在是（20,15）。所以有一個函數可以根據原始值和除數來確定精度。

小數點右邊的每個額外精度等級都會將（2,1）加到原始演員表上。 左側的每個精度級別都會將（1,1）添加到您的原始演員陣列中。

要返回的時間列，小數（5,2），你只需要做

select 
case when sum(hours) > 0 Then 
    CAST(SUM(hours) /40.0 as decimal(5,2)) 
else 0 end as [hours], 
[DATE] 
from resource group by date