levenshtein distance(adist
function in R
)を介して、複数の列にわたってテキスト文字列を複数回比較したいとします。私がしたいことはsource1$name
とsource2$name
を比較することです。一致するものがない場合(すなわち、match.s1.s2$s2.i
に対してNA
が返された場合、2つのデータフレームにリストされているアドレス(source1$address
およびsource2$address
)を使用して同じ機能を実行します。所望の結果は、source2
の行7にsource1
マッチのsource1
source2
の列8と一致し、行4と行3以下。複数の列にわたるlevenshtein距離のRテキスト・マイニング
name <- c("holiday inn", "geico", "zgf", "morton phillips")
address <- c("400 lafayette pl tupelo ms", "227 geico plaza chevy chase md",
"811 quincy st washington dc", "1911 1st st rockville md")
source1 <- data.frame(name, address)
name <- c("williams sonoma", "mamas bbq", "davis polk", "hop a long diner",
"joes crag shack", "mike lowry place", "holiday inn", "zummer")
name2 <- c(NA, NA, NA, NA, NA, NA, "hi express", "zummer gunsul frasca")
address <- c("2 reads way new castle de", "248 w 4th st newark de",
"1100 21st st nw washington dc", "1804 w 5th st wilmington de",
"1208 kenwood parkway holdridge nb", "4203 ocean drive miami fl",
"400 lafayette pl tupelo ms", "811 quincy st washington dc")
source2 <- data.frame(name, name2, address)
removeSPE <- function(x) gsub("[[:punct:]]", " ", x)
cleanup <- function(x){
x <- as.character(x) # convert to character
x <- tolower(x) # make all lowercase
x <- sapply(x, removeSPE) # remove special characters
x <- trimws(x) # remove extra white space
#x <- sapply(x, removeStopWords) # remove stopwords, defined above
#x <- trimws(x) # since stopwords have been removed, there is extra white space left, this removes it
x <- gsub("^. .$", "", x)
return(x)
}
source1$name <- cleanup(source1$name)
source2$name <- cleanup(source2$name)
source2$name2 <- cleanup(source2$name2)
source1$address <- cleanup(source1$address)
source2$address <- cleanup(source2$address)
source1$name <- cleanup(source1$name)
source2$name <- cleanup(source2$name)
source2$name2 <- cleanup(source2$name2)
dist.name<- adist(source1$name,source2$name, partial = TRUE, ignore.case = TRUE)
dist.name2 <- adist(source1$name, source2$name2, partial = TRUE, ignore.case = TRUE)
dist.address <- adist(source1$address, source2$address, partial = TRUE, ignore.case = TRUE)
min.name<-apply(dist.name, 2, min)
min.name2 <- apply(dist.name2, 2, min)
match.s1.s2<-NULL
for(i in 1:nrow(dist.address))
{
s2.i<-match(min.name[i],dist.name[i,])
s1.i<-i
match.s1.s2<-
rbind(data.frame(s2.i=s2.i,s1.i=s1.i,s2name=source2[s2.i,]$name, s1name=source1[s1.i,]$name,
adist=min.name[i], s1.i.address = source1[s1.i,]$address,
s2.i.address = source2[s2.i,]$address),match.s1.s2)
}
match.s1.s2
ある。dist.name2
と(上記で定義した)を組み込むことが方法であります上記のfor-loop
?多分while文ですか?私が使用する実際のデータフレームには50 0と24,000の行が表示されます。
住所についてはどうですか? – jvalenti
@jvalenti更新をご覧ください。 – AidanGawronski
名前の一致にNAがあった場合、一致基準としてアドレス間の距離を使用することを意味しました。したがって、名前の一致が一致を返さない場合は、そのアドレスに最も近い一致を検索します。これはちょうどデータフレームにアドレスを追加するように見えます。 – jvalenti