integer-overflow

    0

    1答えて

    my previous questionを解決しているうちに、私はさらに面白いことに直面しました。 利用できますどのくらいのビットを参照する(はい、私は内側に、彼らは「あまりにも整数」ではありません知っている)整数数学を試してみてください。 var n = 0xffffffff; // loop over 1P: for(var i=1; i<=1024*1024*1024*1024; i*=

    0

    1答えて

    JavaとC#でチェックとアンチェックの整数オーバーフローの時間差を測定しようとしています。 私は、チェックされたJavaコードがC#に比べて高速かつ高速になることに気付きました。何故ですか? C#コードとJavaチェックコードの間に大きな違いがあるのはなぜですか?C#コードとJavaチェックなしコードの両方がほぼ同じように機能するのはなぜですか? C#コード: class Program {

    0

    2答えて

    に40桁の整数のために使用する 最初の数= 123456 ..... 40桁 秒数= 123456 ..... 40digits それから私はする必要があり私は第三印刷する必要があると、再び私は fourth = third * third; のような操作を実行する必要があり、その後数 third = first * second; を保存 と4番目に印刷します。だから私は使用する必要がある

    0

    1答えて

    Swiftでビットボードを実装しようとしていて、64ビット整数をUInt64に格納しようとしているときにオーバーフローエラーが発生しています。私は何が起こるかを推測している var white_queen_bb:uint64 = 0001000000000000000000000000000000000000000000000000000000000000 as UInt64; Integer

    3

    2答えて

    私はずっと前に行ったコードを持っていました(私はVisual Studio 2003を使っていました)。今私はgccを使用していますが、いくつかの値がオーバーフローしています。私は何が起こっているかを見て、それは驚きです。 ワークス(出力= 85): int b = 35000000; unsigned long a = 30000000; unsigned long n = (100 * a

    -1

    1答えて

    私は、プロセス内で一意のIDを取得するために以下のコードを使用しています: for i := 0; i < 10; i++ { go func() { for { atomic.AddUint32(&counter, 1) time.Sleep(time.Millisecond) } }() } カウンタ値がUINT32

    1

    4答えて

    私は2つの整数間の整数の中間点を見つけようとしています。たとえば、mid(2,3)は2.5ではなく2になります。私はうまく動作する以下を持っていましたが、私はMIN_VALUEからMAX_VALUEまでの数値で作業したいと思います。 xが負の数の場合はこれにInteger.MAX_VALUEまで0からxとyの値のために働くようだ public static int mid(int x, int y

    2

    2答えて

    リテラル式にも型がありますか? long long int a = 2147483647+1 ; long long int b = 2147483648+1 ; std::cout << a << ',' << b ; // -2147483648,2147483649

    0

    1答えて

    私は、バイナリ数値を10進数に変換する非常に簡単なプログラムを作成しています。小数点から2進数への変換では、非常に大きな数値に小さな数値を追加しようとすると、私が奇妙なエラーを起こしていることに気付きました。たとえば、私はプログラムの入力220002を小数点として与え、その数値を二進数110101101101100020に変換します。これをデバッグすると、最後に110101101101100000

    1

    2答えて

    発生した私は、Sybase 15.5でのステートメントの下に実行しようとしていますが、私はエラー「算術オーバーフローが発生しました」取得しています: declare @TradeId BIGINT select @TradeId=(20170103-19950000)*10000 select @TradeId を私が間違っているのは何も教えてください。