SQL Server 2005：浮動小数点変数を使用するとRoundが不正な値を返します

Question

SQL Server 2005では、浮動小数点変数に格納された値を丸めようとすると不正な値が返されます。以下の例では、ROUND関数の両方の呼び出しが5.6を返す必要があります：

DECLARE @foo float; 
DECLARE @bar float; 
DECLARE @baz float; 

SET @foo = 5.55; 
SET @bar = ROUND(@foo, 1) --> 5.5 
SET @baz = ROUND(5.55, 1) --> 5.6 

私は間違っていますか？

Answer 1

正確なdecimal値にはfloatデータ型の使用をお勧めしません。この特定のケースで

、あなたがdecimalにご@foo変数を変換することができます：

SET @bar = ROUND(CAST(@foo as DECIMAL(10,2)), 1) --> 5.6 

What Every Computer Scientist Should Know About Floating-Point Arithmetic

を