2017-02-28 16 views
0

に別の列を追加し、私はこれに似た内容のHAProxyログファイルがあります。awkの出力

Feb 28 11:16:10 localhost haproxy[20072]: 88.88.88.88:6152 [28/Feb/2017:11:16:01.220] frontend backend_srvs/srv1 9063/0/0/39/9102 200 694 - - --VN 9984/5492/191/44/0 0/0 {Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36|http://subdomain.domain.com/location1} "GET /location1 HTTP/1.1" 
Feb 28 11:16:10 localhost haproxy[20072]: 88.88.88.88:6152 [28/Feb/2017:11:16:10.322] frontend backend_srvs/srv1 513/0/0/124/637 200 14381 - - --VN 9970/5491/223/55/0 0/0 {Mozilla/5.0 AppleWebKit/537.36 Chrome/56.0.2924.87 Safari/537.36|http://subdomain.domain.com/location2} "GET /location2 HTTP/1.1" 
Feb 28 11:16:13 localhost haproxy[20072]: 88.88.88.88:6152 [28/Feb/2017:11:16:10.960] frontend backend_srvs/srv1 2245/0/0/3/2248 200 7448 - - --VN 9998/5522/263/54/0 0/0 {another user agent with fewer columns|http://subdomain.domain.com/location3} "GET /location3 HTTP/1.1" 
Feb 28 11:16:13 localhost haproxy[20072]: 88.88.88.88:6152 [28/Feb/2017:11:16:10.960] frontend backend_srvs/srv1 2245/0/0/3/2248 200 7448 - - --VN 9998/5522/263/54/0 0/0 {Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36|} "GET /another_location HTTP/1.1" 

私は次の出力を持つために、フィールドの一部を抽出したい:

Field 1    Field 2   Field 3   Field 4   Field 5   Field 6 
Date/time  HTTP status code  HTTP Method  Request  HTTP version Referer URL 

基本的には、この特定のケースでは、出力は次のようになります。

Feb 28 11:16:10 200 GET /location1 HTTP/1.1 http://subdomain.domain.com/location1 
Feb 28 11:16:10 200 GET /location2 HTTP/1.1 http://subdomain.domain.com/location2 
Feb 28 11:16:13 200 GET /location3 HTTP/1.1 http://subdomain.domain.com/location3 
Feb 28 11:16:13 200 GET /another_location HTTP/1.1 
ここ

唯一の問題リファラーURLを抽出しています中括弧とユーザエージェントとの間にあり、パイプで区切られています。また、ユーザエージェントは可変数のフィールドを有する。

私は別にリファラURLを抽出して、一緒に列を貼り付けたと考えることができる唯一のソリューション:

requests_temp=`grep -F " 88.88.88.88:" /root/file.log | tr -d '"'` 
requests=`echo "${requests_temp}" | awk '{print $1" "$2" "$3" "$11, $(NF-2), $(NF-1), $NF}' > /tmp/requests_tmp` 
referer_url=`echo "${requests_temp}" | awk 'NR > 1 {print $1}' RS='{' FS='}' | awk -F'|' '{ print $2 }' > /tmp/referer_url_tmp` 

paste /tmp/abuse_requests_tmp /tmp/referer_url_tmp 

しかし、私は本当にこの方法が好きではありません。私は1つのawk行だけを使ってそれを行うことができる他の方法はありますか?多分、referer urlカラムをawkの中の変数に代入し、それを使って同じ出力を作成しますか?

答えて

1

は、ソリューションの下にしてみてください -

awk '/88.88.88.88/ {gsub(/"/,"",$0);split($(NF-3),a,"|"); {print $1,$2,$3,$11, $(NF-2), $(NF-1), $NF, substr(a[2],1,(length(a[2])-1))}}' a 
Feb 28 11:16:10 200 GET /location1 HTTP/1.1 http://subdomain.domain.com/location1 
Feb 28 11:16:10 200 GET /location2 HTTP/1.1 http://subdomain.domain.com/location2 
Feb 28 11:16:13 200 GET /location3 HTTP/1.1 http://subdomain.domain.com/location3 
Feb 28 11:16:13 200 GET /another_location HTTP/1.1 
1

あなたが一度awkを使用時にすべての操作を実行できます。

awk '$6 ~ /88\.88\.88\.88:[0-9]+/{ 
    split($0,a,/[{}]/) 
    $0=a[1] OFS a[3] 
    split(a[2],b,"|") 
    print $1,$2,$3,$11,substr($18,2),$19,substr($20,1,length($20)-1),b[2] 
}' file.log 

最初splitが配列aに({...}間に含まれる)行の可変部分に分割されます。

|文字に基づいて変数からURLを抽出することを可能フィールド

split$0=a[1] OFS a[3]の修正数を有するために再構築されます。

最後に、printに必要な要素がすべて表示されます。 は"を削除するためのものです。

+0

あなたは私のファイルには、あなたのソリューションで印刷されます異なるIP、との1つのより多くの価値を持っている場合、IPアドレス(88.88.88.88)のためにフィルタを追加するのを忘れ。 –

+0

@VIPINKUMARこの条件を追加しました。ありがとうございます... – oliv

関連する問題