浮動小数点型の列の小数点以下の桁数はどのように数えますか？

Question

浮動小数点として格納されている緯度と経度のテーブルがあります。 Latitude列の小数点以下の桁数はどのように数えますか？データは次のようになります。

DECLARE @MyData TABLE (ID, Latitude float, Longitude float) 
    INSERT @MyData 

    SELECT 'A', 33.11, -55.2235 UNION ALL 
    SELECT 'B', 33.6407760431,-87.0002760543 UNION ALL 
    SELECT 'C', 42.2997,-70.9081; 

をし、私はそれをテキストと使用して、それを分割に変換しようとしていた

ID | LatitudeNumberOfDigits 
    A | 2 
    B | 10 
    C | 4 

でこれをしたいと思います。デリミタとして使用しましたが、CONVERTは予期したとおりに動作しませんでした。これは、4桁

SELECT ID, Latitude, Longitude, 
    CONVERT(varchar(max),[Latitude]) AS LatText 
    FROM @MyData 

に丸めてくれ

 ID Latitude Longitude  LatText 
    A 33.11   -55.2235   33.11 
    B 33.6407760431 -87.0002760543 33.6408 
    C 42.2997   -70.9081   42.2997 

感謝を与えました！

Answer 1

はこれを試してみてください参照してください。

WITH MyData (ID, Latitude, Longitude) 
AS 
(
    SELECT 'A', CAST(33.11 AS FLOAT), CAST(-55.2235 AS FLOAT) UNION ALL 
    SELECT 'B', 33.6407760431,-87.0002760543 UNION ALL 
    SELECT 'C', 42.2997,-70.9081 
) 
SELECT ID, Latitude, Longitude, 
    LEN(CAST(REVERSE(SUBSTRING(STR([Latitude], 13, 11), CHARINDEX('.', STR([Latitude], 13, 11)) + 1, 20)) AS INT)) AS LatText 
FROM MyData 

しかし、他の人たちが注意しているように、FLOATは頭痛を与える可能性があります。 インスタンスのためにこれを考えてみましょう：

SELECT STR(33.11, 20,17) -- result: 33.1099999999999990 

Answer 2

これは有効なTSQLではないかもしれないが、それは近くなります。

SELECT LENGTH(CONVERT(varchar(255), Latitude - CAST (Latitude as int))) AS decimal_place_count 

Answer 3

あなたはしないでください。小数点以下の桁数は、SQLのfloatのサイズによって決まります。どのくらい見るかは、フロートがフォーマットされる方法によって決まります。

Answer 4

CONVERTまたはCASTの代わりにSTR関数を使用してください。小数点以下の桁数と文字列の全長をより細かく制御できます。 （そうでない場合はSTRの値を調整し、それはあなたの山車が最大10の小数点以下でなければならないことを前提とし）STR (Transact-SQL)

LEN(RTRIM(REPLACE(STR(Latitude,15,10),'0',' '))) - 5 

Answer 5

使用DECIMAL FLOATない：

DECLARE @a FLOAT = 33.6407760431 
SELECT CAST(@a AS VARCHAR(100)) 

DECLARE @b DECIMAL(22,10) = 33.6407760431 
SELECT CAST(@b AS VARCHAR(100)) 

戻り値：

33.6408 

33.6407760431