ピアソン2つの列間の相関

Question

おはようございます。ここに私の問題がある： 私は以下のようないくつかのファイルがあります：

104 0.1697 12.3513214 15.9136214 
112 -0.3146 12.0517303 14.8027303 
122 0.2718 10.881109 13.259109 
123 -0.4185 11.2880142 14.0237142 
128 0.0205 13.0585763 15.4365763 
132 0.1562 13.3956582 16.9579582 
136 -0.4602 12.2567041 14.6347041 
157 0.8142 13.6455927 17.2078927 
158 -0.9244 8.0012967 11.5635967 

約10000のファイル、複数の行を持つ各ファイルを。 そして、各ファイルの列2と列4の間にピアソン相関を作成する必要があります。後で、これらの相関の平均をとる必要があります。そして私はLinuxのコマンドですべてをやりたい。誰でも助けてくれますか？ ありがとう

Answer 1

このスクリプトを試してください。浮動小数点数を操作するためにbashとbcが必要です。

• はそれをすべてのファイルがパラメータなしbash /path/to/pearson.shで
• コールスクリプトを格納しているディレクトリにchmod +x /path/to/pearson.sh
• 変更ファイルを実行するアクセス権を与えます。

これらのファイルからのデータで計算されたすべてのピアソン相関係数の平均を生成する必要があります。

#! /bin/bash 

FILES=/path/to/files/ 

function add { 
    echo $1 + $2 | bc 
} 
function sub { 
    echo $1 - $2 | bc 
} 
function mult { 
    echo $1*$2 | bc 
} 
function div { 
    echo $1/$2 | bc -l 
} 
function sqrt { 
    echo "sqrt ($1)" | bc -l 
} 

X=0 
X2=0 
Y=0 
Y2=0 
XY=0 

r=0 
R=0 
N=0 

for f in $FILES/*; do 
    N=$((N+1)) 
    n=0 
    while read l; do 
    n=$((n+1)) 
    read -r -a rows <<< $l 
    x=${rows[1]} 
    y=${rows[3]} 
    X=$(add $X $x) 
    X2=$(add $X2 $(mult $x $x)) 
    Y=$(add $Y $y) 
    Y2=$(add $Y2 $(mult $y $y)) 
    XY=$(add $XY $(mult $x $y)) 
    done < $f; 
    r=$(add $r $XY) 
    r=$(sub $r $(div $(mult $X $Y) $n)) 
    d1=$(sub $X2 $(div $(mult $X $X) $n)) 
    d2=$(sub $Y2 $(div $(mult $Y $Y) $n)) 
    r=$(div $r $(sqrt $(mult $d1 $d2))) 
    R=$(add $R $r) 
    X=0 
    X2=0 
    Y=0 
    Y2=0 
    XY=0 
    r=0 
    n=0 
done 

echo Mean=$(div $R $N) 

シモンズ：私は、すべてのファイルは、あなたが提示しているような形式を持っていると仮定しました。係数を評価する式は、与えたlinkから取られました。