これらの問題を数値で解決するにはどうすればよいですか？

Question

私はまだVimの数字に問題があります：

p.e.

let a = 1.02 | let b = '10000000' | let total = a*b | echo total --> 1.02e7 

私は指数関数を避けたいと思います。 出力を10200000にするにはどうすればよいですか？

let a = 4000000000 | let b = '1' | let total = a+b | echo total --> -294967295 

なぜこの出力が間違っていますか？

printfを使用してTNX

Answer 1

：

let a = 1.02 | let b = '10000000' | let total = a*b | echo printf("%.f", total) 

出力：注意すべき

10200000 

Answer 2

:echo printf("%.0f", 4000000000.0 + 1.0) 

ポイント：

• あなたは算術演算を行うためにstring-> int変換を使用していますが、これは正常には良いことではありません。
• intは機械語サイズなので、特に32ビットマシンでは大きな数値がオーバーフローします。
• ％gを使用した浮動小数点数形式で、精度を制御する場合はprintfを使用します。
• 大きな数字を扱う場合は浮動小数点数を使用しますが、正確な精度が期待される場合はそれほど大きくありません。

Answer 3

オーバーフローを簡単に

:let a = 4000000000 | echo a --> -294967296