空の出力ファイルをフィルタリングする方法は？

Question

これは私の豚のスクリプトです。

data = load 's3a://sessionlog/2016-05-28/' using SegmentationDataLoader() as (cookie:chararray,tags_and_pageref:map[]); 

tags_data = foreach data generate cookie, tags_and_pageref#'tags' as score_tag_bag; 

flattened_data = FOREACH tags_data GENERATE cookie, FLATTEN(score_tag_bag) as score_tag; 

converted_flattened_data = FOREACH flattened_data GENERATE cookie, (long)score_tag#'score' as score, score_tag#'tag' as tag; 

-- dump converted_flattened_data; 

-- tuple_data = FOREACH flattened_data GENERATE cookie, TOTUPLE(tags) as tag_tuple; 

-- splited_data = FOREACH flattened_data GENERATE cookie, TOKENIZE(tags) as score_tags:bag{t1:(),t2:()}; 

grouped_data = group converted_flattened_data by (cookie,tag); 

acc_data = foreach grouped_data generate group.cookie as cookie, group.tag as tag,SUM(converted_flattened_data.score) as score; 

pageref_data = foreach data generate cookie, tags_and_pageref#'pageref' as pageref_bag; 

flattened_pageref_data = FOREACH pageref_data GENERATE cookie, FLATTEN(pageref_bag) as score_tag; 

filtered_data = FILTER flattened_pageref_data BY score_tag is not null and not IsEmpty(score_tag); 

store acc_data into 'segmentation/2016-05-28/4' using PigStorage(','); 

store filtered_data into 'pagerefdata/2016-05-28/4' using PigStorage(','); 

ただし、pagerefdataの出力はすべて空のファイルです。彼らはすべて空であるので、私はどのようにそれをフィルタリングできますか、私は出力を望んでいません。

ありがとうございます。

Answer 1

私はここであなたの質問を完全に理解していますが、下から3行はnullをテストして空のものを除外しようとしているようです。あなたは次のことを試しましたか？：

FILTER flattened_pageref_data BY SIZE(TRIM(score_tag)) == 0;