numerical

3熱

8答えて

Iは、与えられた横座標xでのライン上の点の縦座標yを算出しています。ラインは、その2点の端点座標（X0、Y0）、（X1、Y1）によって定義されます。終点座標は浮動小数点であり、GPUで使用するには浮動小数点精度で計算を行う必要があります。数学、したがって素朴な実装は簡単です。 /（X1 - X0）、次いで、Y =（1 - t）は* Y0 + 1 T * Y1 = Y0 + T *（Y1 - Y0

0熱

8答えて

.NET NumericTextBox

誰でもMicrosoftがその数値フレームワークを.NETフレームワークと共に出荷しない理由を知っていますか？入力された文字が常に有効な数字であることを確認するテキストボックス？それは、さまざまなフレーバーのアプリケーション間で、そして実際にはほとんどのGUIライブラリ（私が知っているもの）が何らかの方法で提供するものでよく使われるものです。ではありませんが、はあなた自身で書くのが難しいですが、

0熱

1答えて

Matlabの浮動小数点への変換

変数を1つ持つ方程式で 'solve'関数を使用した後、Matlabは浮動小数点の使用を好まないようです。だから、私の答えは ans = -2515439103678008769411809280/29019457930552314063110978530889-1/232155663444418512504887828247112*13479465975722384794797850090594

7熱

3答えて

数値解析ルーチンのテスト方法は？

数値解析コードのテストルーチンの作成方法、維持方法、考え方については、オンラインリソースがありますか？マトリクス乗算のテストのようなもののために私が見ることのできる制限の1つは、明白なテスト（1つの行列をアイデンティティにするなど）がコードの機能を完全にテストしないことがあることです。また、通常は大きなデータ構造も扱っているという事実があります。誰かがこれにアプローチする方法についていくつかの

7熱

2答えて

メモリ消費を減らすためにscipy/numpyの精度を下げる方法はありますか？私の64ビットのDebian /レニーシステム（4GバイトRAM + 4Gバイトのスワップパーティション）に

私が正常に行うことができます。 v=array(10000*random([512,512,512]),dtype=np.int16) f=fftn(v) が、fはnp.complex128メモリ消費が衝撃的である、と私は多くを行うことはできませんことをMemoryErrorトレースバックなしで結果をより多く（例えば、係数を変調してからf=ifftn(f)）にします。 RAMを増設したり、ス