SSISパッケージ中に600万行にピボットされた.csvファイルがあります。 SQL Server 2005に2500万行以上のテーブルがあります。 .csvファイルには、テーブル内のデータを複製するデータがあります。既存の行が更新される可能性がありますか、これを効率的に達成するための最良の方法は何ですか?SSIS Insertなどで上書きすることはできますか?
0
A
答えて
5
6mの行と25mの行を比較することは、検索やSQLコマンドのデータフローコンポーネントがアップシーケンスを実行するために各行に対して呼び出されて効率的になることはありません。このような場合、ステージング・テーブルにそれらを迅速にロードし、アップセットを実行するために単一のセットベースのSQLコマンドを使用するのが最も効率的な場合があります。
ルックアップを行う場合でも、フローを2つのストリームに分割します.1つは挿入し、もう1つはステージングテーブルに挿入して更新操作を行います。
2
古いデータが失われても構わない場合(つまり、最新のファイルはすべてテーブルの内容ではなく重要です)、テーブルのすべてのレコードを消去して再度挿入することができます。
また、一時テーブルにロードして、更新する必要があるものとそこから挿入する必要があるものを判断することもできます。
1
参照タスクを使用して、CSVとテーブルの一致する行を識別し、この出力を別のテーブルまたはデータフローに渡し、SQLタスクを使用して必要な更新を実行できます。
関連する問題
- 1. INSERT INTOがHiveで上書きを引き起こすのはなぜですか?
- 2. SQL Server 2016 SSIS条件付きでテキストファイルを上書きする
- 3. コマンドレットを削除または上書きすることはできますか?
- 4. clearfixを<hr />で上書きすることはできますか?
- 5. ブラウザでコンテキストメニューを上書きすることはできますか?
- 6. ユニティアプリケーションをネイティブのアンドロイドアプリで上書きすることはできますか?
- 7. Sifr3 - CSSセレクタを親セレクタで上書きすることはできますか?
- 8. javascriptでコンストラクタを上書きすることはできますか?
- 9. Swiftでdeinitを上書きすることはできますか?
- 10. GruntJSとimagemin、 'src'を上書きすることはできますか?
- 11. SSISパッケージのデバッグエラーはどこで確認できますか?
- 12. インポート後にsass変数を上書きすることはできますか?
- 13. SubversionのHTMLページを上書きすることはできますか?
- 14. jboss-web.xmlファイルの設定を上書きすることはできますか?
- 15. 要求のデフォルトのソケットオプションを上書きすることはできますか?
- 16. オブジェクトのtickメソッドをコンストラクタに上書きすることはできますか?
- 17. Bisonレポートのエラーメカニズムを上書きすることはできますか?
- 18. アクション値をフォームに上書きすることはできますか?
- 19. Job DSLパラメータを上書きすることはできますか?
- 20. 作業中のファイルを上書きすることはできますか?
- 21. バッファオーバーフロー - リターンアドレスを上書きすることができません。
- 22. RLMObject -hashを上書きすることは安全ですか?
- 23. 要約staticプロパティを上書きすることはできませんか?
- 24. このサイトのCSSを上書きすることはできません
- 25. 同じトリガー内でINSERTとAFTER INSERTをどのようにすることができますか? (SQLサーバー)
- 26. SSISでファイルデータを上書きする場合
- 27. cv :: Mat.dataを上書きするとどうなりますか
- 28. returnUrlはどのように設定されていますか、どこで上書きできますか?
- 29. WebClient c#からDownloadFileAsyncを上書きして、ダウンロードしたファイルを上書きしないで置き換えることはできますか?
- 30. Convert.ToDateTime()を上書きできますか?
Lookupタスクは、この数の行では遅くなる可能性があります。ステージングとSQLは良い選択です。 – grapefruitmoon
+1 - 私は毎日これを行います。ステージングテーブルに挿入し、ステージングからロードするために 'EXISTS'を使用して比較を実行します。 – JNK