2016-08-01 4 views
1

小数点以下20桁まで正確にする必要がある割り当てを生成するVBAスクリプトがあります。私はCDec()を使用して、適切な小数精度で配列を塗りつぶします。私が持っている問題は、Excelワークシートに配列を出力すると、小数精度が大幅に低下することです。たとえば、私の配列では、数字が0.1557094848581301243552712433であることが確認されていますが、ワークシートに出力されるときには0.15570948485813になります。私は、テキストファイルに配列を書き込むことができ、配列が正しいレベルの精度を保持していることをさらに確認します。私はパイプ区切りのテキストファイルを作成しようとしていて、役に立たないためにTextToColumnsをやっていました。Excelの小数点精度へのExcel VBA

誰かが数値をExcelに読み込むときに、より高いレベルの小数精度を維持する方法を知っていますか?

答えて

3

簡単に言えば、Excelは15桁の精度を「表示するときのみ」サポートしています。 MSFT KBの参考資料をご覧ください。奇妙なことに、正しい値が格納されているだけで、それを表すことはできません。

回避策

  • 一部のアドインは
  • (参考文献を参照)を助けるかもしれテキストとして値を格納します。このような限界を有していないが、何の数学または丸めは

参照発生しない可能性がある: