arbitrary-precision

    1

    1答えて

    私はPythonで小数点モジュールを使用して新しくなりました。キューブルーツ(または実際にはルート)を計算する最も効率的な方法は何ですか?私はnum ** (Decimal(1)/Decimal(3)を試しましたが、かなりの時間がかかりました。たとえば、以下のコードはインテルのi5プロセッサー走行のpython 3に約20秒かかります: from decimal import * getcon

    0

    1答えて

    私は単純にクローズン関数mpmathとgslをテストします。以下のコードは次のとおりです。 mp.prec = 53 time_begin = time.time() print "mpmath results:" print clsin(2,3.1415926535897327) print "time1:" print (time.time() - time_begin) time

    0

    1答えて

    を返すサンプルコードである: ApfloatMath.pow(new Apfloat(25, 5), new Apfloat(0.5, 5)); 上記のコードでは、これは、4.9999を返す25 の平方根を行います。 私はこれが恣意的で正しい値を返すと思っていたでしょう。 Javadocから

    1

    2答えて

    __float128と同等のPythonでの作業方法は? decimal.getcontext()にはどの程度の精度を使用する必要がありますか?つまり、小数点以下の桁数で指定された精度ですか? from decimal import * getcontext().prec = # 34 or 128 ? はそれが getcontext().precで「グローバル」に設定するのではなく、特定の

    0

    1答えて

    uint8_t *配列には、任意の精度の数値bigendianがエンコードされています。 10進数のAscii表現を取得したいと思います。だから私はchar *を返す関数を書く必要があります。 私が使用している環境では、ハードウェアの制約のため、任意の精度ライブラリをインポートできません。 私はそれを簡単に実装するために読むことができると確信しています。 例えば、次の16進数d53ceb9d32c

    2

    1答えて

    GMPのマニュアルによれば、「整数演算のための関数はすべての整数オブジェクトが初期化されていると仮定していますが、関数mpz_initを呼び出すことによって行います。例えば 、 int main(){ mpz_t n1, n2, result; mpz_init_set_str(n1, "465860", 10); mpz_init_set_str(n2, "167"

    1

    1答えて

    非常に大きなデータ型を使用する方法が必要です。 intは通常4バイトですが、私は536,870,912バイトのデータ型が必要です。文字列に変換、追加、減算、乗算、除算などを行う必要があるため、配列を使うことはできません。 このような大きなデータ型を作成または使用するにはどうすればよいですか?私はuint4294967296_tが必要です:P メモ構造体をビットフィールドで使用しようとしましたが、サ

    1

    1答えて

    私はのボリューム2のセクション4.3.2のアルゴリズムDを実装しています。コンピュータプログラミングの技術 D. E. Knuth ステップD3では、私はq = floor(u[j+n]*BASE+u[j+n-1]/v[n-1])とr = u[j+n]*BASE+u[j+n-1] mod v[n-1]を計算することになっています。ここで、u(被除数)とv(除数)は、長さがそれぞれm+nとnの単精度

    0

    1答えて

    結果の精度は、2つのOracleデフォルト/指定NUMBER列(NUMBERには(p、s)が設定されていません)の演算子になります。同様の場合: create table foo(field1 NUMBER, field2 NUMBER); insert into foo (field1, field2) values (1.1, 3); select field1/field2 as f

    2

    1答えて

    数年前、私はお金と保険を扱うアプリケーションを書くのを助けました。当初、私たちは浮動小数点数でお金を表しました(大きなノーノ、私は知っています)。ほとんどのアプリケーションで値の加算と減算が行われていたため、問題はありませんでした。しかし、特定の部分は金額のパーセンテージ、したがって乗算と除算を扱っています。 すぐに浮動小数点エラーに悩まされ、大きなリファクタリングをしなければなりませんでした。そ