データを読み込む方法の制約についてはわかりませんが、データベースに一括インポートするにはいくつかの方法があります.->Performing Bulk Copy Operationsです。データインポート処理とを操作するとき、私はいつもそれが役に立つのフェーズに分割してすることが分かっ:
- インポート相 - あなたの状況に応じて利用可能なさまざまな異なるバルク方法論
- ステージング段階 - プロセスの作業。例えばデータ検証、キー関係構築、データスクラブなど
- 「ライブ」テーブルへの最終挿入。 (願わくは設定基づい挿入)
論理作業にほとんどの最初のパスでデータアップの全てを選択することは非常に効率的で、かつ質量アンステージングエリアに移動することができます。その目的のためにテンポラリ・テーブルまたは永続的なステージング・テーブルに入る。その後、ライブテーブルの最後の家に大量のデータを挿入する前に、すべてのデータを適切に構造化して整理するために、データの処理作業を行うことができます。これにより、1つ以上の中間ステップを持つことによって、悪意のあるデータやSQLインジェクション攻撃から断熱層を得ることもできます。
大規模なステージングダンピング場に大量インポートするために必要なロジックが非常に少ないため、このように分離することで、一括インポートタスクをできるだけ早く行うことができます。しかし、適切なデータをスライスアップするために必要なロジックを適用することができます。さらに、ステージング段階で複数のステップを実行する必要がある場合は、これを中断してより多くの小さなステップが必要になり、最大/最小のパーツの最適化に重点を置くことができます。
状況によっては、ステージングフェーズになってライブテーブル内のデータと一致するようにデータを構造化する方法がある場合は、大きなセットとして挿入することができます。最後の挿入の前にステージング段階でPK-> ForeignKey関係を構築できれば(他のデータ処理作業も同様)、反復挿入から1つの大きなバルクセット挿入に進むことができます。set based is usually a very good thing。それはあなたのシステム/制約がそうすることを許すならば、もちろんです。
あなたの状況に当てはまるものがあるかどうかわからない、私があなたが求めていたものから離れているなら、うまくいけばそこに有用なものがあります。
大きなデータの読み込みでパフォーマンスがわかる唯一の方法は、http://msdn.microsoft.com/en-us/library/system.data.sqlclient.sqlbulkcopy.aspxを使用することですが、これは役に立ちません最初のステップでは、外部キーを挿入して外部キー値を生成します。それは子どもの行を助けるかもしれません –
私はおそらくそれを処理するために一時テーブルを使用する考えがあります。おそらく、より大きなセットに行のインデックスを追加し、実際のテーブルにデータを移動する時間が来たときにそれらを実際のIDで更新します。私はそれはうまくいくと思うが、まだ大きな問題を解決していない。 – Middletone