integer-overflow

0熱

1答えて

私は範囲内の偽/偽の状態を追跡するためにカウンタを使用しています。しかし、小さな（15行）データセットが読み込まれていても、オーバーフローエラーが発生します。ここでは、コードです： Dim b As Double 'Exceptions Sheet Dim u As Integer 'Unhandled exception counter b = 2 Sheets("Exception

1熱

3答えて

どのようにオーバーフローしない原子参照カウンタを実装するには？

オーバーフローから安全な原子整数に基づく参照カウントについて考えていました。どうやってするの？このようなオーバーフローが現実的な問題であるかどうかに注目しません。実際に重要ではないにしても、タスクそのものに興味がありました。例参照カウントの実装例は、Boost.Atomic例として示されています。オブジェクトに新しい参照のみを形成することができる。説明を参照カウンタは常にmemory_ord

-3熱

2答えて

gccを使ってcで入力データを折り返すのを避けるには？

#include<stdio.h> void main() { unsigned int a; printf("Enter a number:"); scanf("%u",&a); if (a <= 4294967295) { printf("Entered no is within limit\n"); } else {

0熱

1答えて

Cで16進数形式を使用して算術演算を実行する必要がありますか？

私は符号付きの数字と16進数とCでの算術演算の使用について質問します。私が理解するところでは、符号付きの数値は通常、符号なしの数値よりも小さな数値を格納できます。たとえば、32ビット長の符号付き整数の最大値は2,147,483,647です。一方、符号なし32ビット整数は、4,294,967,295までの範囲を有する。これらの数値のオーバーフローの値は、可能な限り最高の値に加算を行うときに表示さ

1熱

2答えて

アレイインデックスの整数オーバーフロー

私は32ビットアーキテクチャでCを使用します。私がarray[-2147483635]を使用した場合、Cはなぜそれをarray[13]に変換しますか？ 2の補数の -2147483635は10000000000000000000000000001101b あり、それはそれが13で、左のビットを取ると、それは 00000000000000000000000000001101bになるように0にそれを

1熱

2答えて

なぜ-0x80000000 + -0x80000000 == 0ですか？ programmignトリックについての本を読んでいる間

は、私が見たこと-0x80000000 + -0x80000000 = 0これは私には意味がありませんでしたので、私は、迅速なCプログラムは、以下のテストするために、実際の答えは0で書きました： #include <stdio.h> int main() { int x = -0x80000000; int y = -0x80000000; int z = x

1熱

1答えて

python Timedelta overflow

timedeltaを返そうとしていますが、time_valueが大きすぎるとオーバーフローしてエラーが発生します。私はtime_valueが大きすぎるかどうかをチェックすることができますが、エラーを処理してデフォルトを返すラッパーが好きです。私は今何をしているのかに関するコードを含んでいます。私のためにこれを行うtimedeltaやdatetimeのバージョンはありますか？ def time_fo

0熱

1答えて

rの整数オーバーフローを解決するには？

私は1000行と1000列の行列（matA）を作成しました。この行列のべき乗を計算したいと思います。行列の3乗を計算するのは非常にうまくいく。しかし、私はその4乗を計算するために要求したとき、それは言って、警告メッセージ、を与える「マタ* MATA * MATA *マタ：整数オーバーフローによって生成NAの」は、どのように私はこの問題を解決することができますか？