有効数字がn桁に切り詰められるか

Question

Juliaには、有効数字の末尾にnの丸め機能が組み込まれています。 signif(0.0229, 2)は2桁の有効数字に丸められ、0.023となります。

n有効数字に切り詰めて切り捨てると、代わりに0.022が得られますか？

Answer 1

まあ、それほど想像力はありません。 @edit signif(0.229,2)を使用して、ソースを検索し、をfloorに置き換えてください（正確なモジュール参照についてはBase.が追加されています）。ここでの結果は次のとおりです。

function mysignif(x::Real, digits::Integer, base::Integer=10) 
    digits < 1 && throw(DomainError(digits, "`digits` cannot be less than 1.")) 

    x = float(x) 
    (x == 0 || !isfinite(x)) && return x 
    og, e = Base._signif_og(x, digits, base) 
    if e >= 0 # for numeric stability 
     r = trunc(x/og)*og 
    else 
     r = trunc(x*og)/og 
    end 
    !isfinite(r) ? x : r 
end 

は与える：

julia> mysignif(0.0229,2) 
0.022 

Answer 2

を私はメイプルでのバージョンを発見したとジュリアへの移植：

function signifChop(num, digits) 
    if num == 0.0 then 
     return num 
    else 
     e = ceil(log10(abs(num))) 
     scale = 10^(digits - e) 
     return trunc(num * scale)/scale 
    end 
end 

# Test cases for signifChop 
println("$(signifChop(124.031, 5))") 
println("$(signifChop(124.036, 5))") 
println("$(signifChop(-124.031, 5))") 
println("$(signifChop(-124.036, 5))") 
println("$(signifChop(0.00653, 2))") 
println("$(signifChop(0.00656, 2))") 
println("$(signifChop(-0.00653, 2))") 
println("$(signifChop(-0.00656, 2))")