TSQL型(MSSQL)の中では、real、floatおよびdecimalです。どのタイプがより速い比較になりますか?TSQL:どの実数型の方がより高速な比較になります
小数点はハードウェアFPU計算を使用するのか、それとも純粋にソフトウェアですか?
TSQL型(MSSQL)の中では、real、floatおよびdecimalです。どのタイプがより速い比較になりますか?TSQL:どの実数型の方がより高速な比較になります
小数点はハードウェアFPU計算を使用するのか、それとも純粋にソフトウェアですか?
小数点はFPUを使用できません。 FPUでサポートされている標準のIEEE浮動小数点数に対応する浮動小数点数または実数で最高のパフォーマンスを得ることができます。もちろん
フロート=ダブル リアル=単一
、シングルは高速です。
ありがとう、それも私が推測していたものです。 – loopedcode
これらの相対比較>、<、または等価比較=、!=?
浮動小数点数と実数は、10進数が実際の表現である近似データ型です。あなたが平等をしているなら、あなたはフロートと実から離れていたいと思うでしょう。だからそれは小数を残す。
SQL Serverは相対比較のためにFPUに移動しない可能性があります。 FPUおよび他のコプロセッサは算術演算に使用されます。
はい、ほとんど>または<比較。 – loopedcode
なぜFPUを比較に使用しないのですか? *それ以外はどのように比較するのですか? – usr
ほとんどの場合、SQLServerインスタンスはCPUをあまり必要としません。そのボトルネックは通常IOおよびネットワークサブシステムに関連しています。したがって、実行中のシステムで実際の問題が検出された場合にのみ、この種のマイクロ最適化を検討する必要があります。 –