大量のデータを処理するのにasync queueを使用しています。キューは、MongoDB findOneAndUpdateメソッドでデータベース内の更新を実行しようとするまで機能します。コールバックが非同期キューで起動しないのはなぜですか?
私が最初のキューを確立し、ノードストリームから、それにオブジェクトをプッシュスタート:
//Create queue to process all items
let q = async.queue(processLink, 2);
// Create Node Stream
let createStream = function() {
let stream = fs.createReadStream(LinkData, {encoding: 'utf8'});
let parser = JSONStream.parse('RECDATA.*');
return stream.pipe(parser);
};
//Listen to 'data' event on stream and add object to queue
createStream().on('data', function(link){
q.push(link)
});
は、ここに私のタスク機能、「processLink」です。ここでは、問題を追跡するのに問題があります。 findOneAndUpdateコールバックが呼び出されるたびに条件ブロックの1つが入力され、コンソールにログアウトされたメッセージが表示されますが、非同期コールバックprocessComplete()を呼び出すと、タスクは期待どおりに終了しません。
タイトルに示されているように、私の非同期コールバックが各タスクを完了しないのはなぜですか?
function processLink(link, processComplete){
if(_.includes(link.URL, 'www.usda.gov') && _.includes(link.URL, '?recid=')){
let url_items = _.split(link.URL, '=',2);
let facilityOrgID = url_items[1];
let update = {$push: {"links": link}};
if(_.isNumber(parseInt(facilityOrgID)) && facilityOrgID.length > 4){
Facility.findOneAndUpdate({facilityOrgID: parseInt(facilityOrgID)}, update, (err, result) => {
if(err !== null){
console.log("Error:",err);
return processComplete(err); /** NOT FIRING **/
} else if(err === null && result !== null){
console.log("Link added to:", result.name);
return processComplete(); /** NOT FIRING **/
}else if(err === null && result === null){
console.log('Facility not in database');
processComplete(); /** NOT FIRING **/
}else{
console.log('Something has gone terrible wrong');
}
});
}else{
console.log("Invalid facilityID");
return processComplete();
}
}else{
console.log('Link Discarded:', link.URL);
processComplete(); /** Fires normally **/
}
}