T-Sql合計正と負の浮動小数点値

Question

WITH CTE AS 
(
    SELECT 
     ITM.CODE AS ITMCODE, 
     CASE 
      WHEN IOCODE IN (1,2) THEN AMOUNT 
      ELSE AMOUNT * -1 
     END AS AMOUNT 
    FROM 
     ITEMLINE ITL, ITEMS ITM 
    WHERE 
     ITL.ITEMREF = ITM.LOGICALREF 
     AND ITM.CODE = '123' 
) 
SELECT 
    ITMCODE, SUM(AMOUNT) 
FROM 
    CTE 
GROUP BY 
    ITMCODE 

CTEから返される行は5行あり、金額はfloatです。 Sum関数は2,27373675443232E-13を返します。 Amount * -1を使用しない場合は問題ありません。戻り値は正常です。この原因は何ですか？これはビューから返され、私はそれが禁止されているビューを変更することはできません、私は値を修正する必要があります。 5行が5,6,7,8,9であるという値。ありがとう。

Answer 1

まず、クエリが複雑すぎます。ただしてください：

SELECT ITM.CODE AS ITMCODE, 
     SUM(CASE WHEN IOCODE IN (1, 2) THEN AMOUNT ELSE AMOUNT * -1 
      END) AS AMOUNT 
FROM ITEMLINE ITL JOIN 
    ITEMS ITM 
    ON ITL.ITEMREF = ITM.LOGICALREF 
WHERE ITM.CODE = '123' 
GROUP BY ITM.CODE; 

第2に、これは浮動小数点数の性質です。金額はdecimal/numeric、固定小数点数として保存する必要があります。

あなたは適切な型に変換することによって、あなたが欲しいものを得ることができる必要があります：

SELECT ITM.CODE AS ITMCODE, 
     CONVERT(DECIMAL(10, 2), -- or whatever 
       SUM(CASE WHEN IOCODE IN (1, 2) THEN AMOUNT ELSE AMOUNT * -1 
        END) 
      ) AS AMOUNT 
FROM ITEMLINE ITL JOIN 
    ITEMS ITM 
    ON ITL.ITEMREF = ITM.LOGICALREF 
WHERE ITM.CODE = '123' 
GROUP BY ITM.CODE; 

しかし、私はあなたが金銭のために、より適切な方法で、金額を保存するために、テーブル内のデータを修正することをお勧めしますその金額、：

alter table itemline alter column amount decimal(12, 4); -- or whatever