2017-02-12 20 views
1

BeautifulSoupを使用して、HTMLテーブルに格納されている情報を解析し、それを辞書に格納しようとしています。私はテーブルに着くことができましたし、値を繰り返していますが、テーブルにはまだたくさんのジャンクがあり、私は世話をする方法がわかりません。BeautifulSoupでHTMLテーブルのデータを構文解析する

# load the HTML file 
r = requests.get("http://www.ebay.com/itm/222378225962") 
soup = BeautifulSoup(r.content, "html.parser") 

# navigate to the item attributes table 
table = soup.find('div', 'itemAttr') 

# iterate through the attribute information 
attr = [] 
for i in table.findAll("tr"): 
    attr.append(i.text.strip().replace('\t', '')) 

この方法では、これはデータのように見えます。ご覧のとおり、そこには多くのジャンクがあり、いくつかの行にはYearとVINのような複数の項目が含まれています。

[u'Condition:\nUsed', 
u'Seller Notes:\n\u201cExcellent Condition\u201d', 
u'Year: \n\n2015\n\n VIN (Vehicle Identification Number): \n\n2G1FJ1EW2F9192023', 
u'Mileage: \n\n29,000\n\n Transmission: \n\nManual', 
u'Make: \n\nChevrolet\n\n Body Type: \n\nCoupe', 
u'Model: \n\nCamaro\n\n Warranty: \n\nVehicle has an existing warranty', 
u'Trim: \n\nSS Coupe 2-Door\n\n Vehicle Title: \n\nClear', 
u'Engine: \n\n6.2L 6162CC 376Cu. In. V8 GAS OHV Naturally Aspirated\n\n Options: \n\nLeather Seats', 
u'Drive Type: \n\nRWD\n\n Safety Features: \n\nAnti-Lock Brakes, Driver Airbag, Passenger Airbag, Side Airbags', 
u'Power Options: \n\nAir Conditioning, Cruise Control, Power Locks, Power Windows, Power Seats\n\n Sub Model: \n\n1LE', 
u'Fuel Type: \n\nGasoline\n\n Color: \n\nWhite', 
u'For Sale By: \n\nPrivate Seller\n\n Interior Color: \n\nBlack', 
u'Disability Equipped: \n\nNo\n\n Number of Cylinders: \n\n8', 
u''] 

最終的に、データを以下のような辞書に保存します。私は辞書を作成する方法を知っていますが、無差別な検索と置換をすることなく辞書に入る必要があるデータをどのようにクリーンアップするか分かりません。

{'Condition' : 'Used', 
'Seller Notes' : 'Excellent Condition', 
'Year': '2015', 
'VIN (Vehicle Identification Number)': '2G1FJ1EW2F9192023', 
'Mileage': '29,000', 
'Transmission': 'Manual', 
'Make': 'Chevrolet', 
'Body Type': 'Coupe', 
'Model': 'Camaro', 
'Warranty': 'Vehicle has an existing warranty', 
'Trim': 'SS Coupe 2-Door', 
'Vehicle Title' : 'Clear', 
'Engine': '6.2L 6162CC 376Cu. In. V8 GAS OHV Naturally Aspirated', 
'Options': 'Leather Seats', 
'Drive Type': 'RWD', 
'Safety Features' : 'Anti-Lock Brakes, Driver Airbag, Passenger Airbag, Side Airbags', 
'Power Options' : 'Air Conditioning, Cruise Control, Power Locks, Power Windows, Power Seats', 
'Sub Model' : '1LE', 
'Fuel Type' : 'Gasoline', 
'Exterior Color' : 'White', 
'For Sale By' : 'Private Seller', 
'Interior Color' : 'Black', 
'Disability Equipped' : 'No', 
'Number of Cylinders': '8'} 

答えて

3

はむしろtr要素からのデータを解析しようとするよりも、より良いアプローチはtd.attrLabelsデータ要素を反復することであろう。これらのラベルをキーとして使用し、隣接する兄弟要素を値として使用できます。以下の例で

は、CSSセレクタdiv.itemAttr td.attrLabelsdiv.itemAttrの子孫である.attrLabelsクラスとすべてtd要素を選択するために使用されます。そこから、方法.find_next_sibling()を使用して、隣接する兄弟要素を見つける。

r = requests.get("http://www.ebay.com/itm/222378225962") 
soup = BeautifulSoup(r.content, 'lxml') 

data = [] 
for label in soup.select('div.itemAttr td.attrLabels'): 
    data.append({ label.text.strip(): label.find_next_sibling().text.strip() }) 

出力:

> [{'Year:': '2015'}, {'VIN (Vehicle Identification Number):': '2G1FJ1EW2F9192023'}, {'Mileage:': '29,000'}, {'Transmission:': 'Manual'}, {'Make:': 'Chevrolet'}, {'Body Type:': 'Coupe'}, {'Model:': 'Camaro'}, {'Warranty:': 'Vehicle has an existing warranty'}, {'Trim:': 'SS Coupe 2-Door'}, {'Vehicle Title:': 'Clear'}, {'Engine:': '6.2L 6162CC 376Cu. In. V8 GAS OHV Naturally Aspirated'}, {'Options:': 'Leather Seats'}, {'Drive Type:': 'RWD'}, {'Safety Features:': 'Anti-Lock Brakes, Driver Airbag, Passenger Airbag, Side Airbags'}, {'Power Options:': 'Air Conditioning, Cruise Control, Power Locks, Power Windows, Power Seats'}, {'Sub Model:': '1LE'}, {'Fuel Type:': 'Gasoline'}, {'Exterior Color:': 'White'}, {'For Sale By:': 'Private Seller'}, {'Interior Color:': 'Black'}, {'Disability Equipped:': 'No'}, {'Number of Cylinders:': '8'}] 

あなたはまた、テーブルのヘッダにth要素を取得したい場合は、あなたがテーブルの要素を選択し、両方を取得するために、CSSセレクタth, td.attrLabelsを使用することができますラベル:

r = requests.get("http://www.ebay.com/itm/222378225962") 
soup = BeautifulSoup(r.content, 'lxml') 
table = soup.find('div', 'itemAttr') 

data = [] 
for label in table.select('th, td.attrLabels'): 
    data.append({ label.text.strip(): label.find_next_sibling().text.strip() }) 

出力:

> [{'Condition:': 'Used'}, {'Seller Notes:': '“Excellent Condition”'}, {'Year:': '2015'}, {'VIN (Vehicle Identification Number):': '2G1FJ1EW2F9192023'}, {'Mileage:': '29,000'}, {'Transmission:': 'Manual'}, {'Make:': 'Chevrolet'}, {'Body Type:': 'Coupe'}, {'Model:': 'Camaro'}, {'Warranty:': 'Vehicle has an existing warranty'}, {'Trim:': 'SS Coupe 2-Door'}, {'Vehicle Title:': 'Clear'}, {'Engine:': '6.2L 6162CC 376Cu. In. V8 GAS OHV Naturally Aspirated'}, {'Options:': 'Leather Seats'}, {'Drive Type:': 'RWD'}, {'Safety Features:': 'Anti-Lock Brakes, Driver Airbag, Passenger Airbag, Side Airbags'}, {'Power Options:': 'Air Conditioning, Cruise Control, Power Locks, Power Windows, Power Seats'}, {'Sub Model:': '1LE'}, {'Fuel Type:': 'Gasoline'}, {'Exterior Color:': 'White'}, {'For Sale By:': 'Private Seller'}, {'Interior Color:': 'Black'}, {'Disability Equipped:': 'No'}, {'Number of Cylinders:': '8'}] 

あなたがキーの英数字以外の文字(複数可)を取り除くしたい場合は、あなたが使用できます。

r = requests.get("http://www.ebay.com/itm/222378225962") 
soup = BeautifulSoup(r.content, 'lxml') 
table = soup.find('div', 'itemAttr') 

data = [] 
for label in table.select('th, td.attrLabels'): 
    key = re.sub(r'\W+', '', label.text.strip()) 
    value = label.find_next_sibling().text.strip() 

    data.append({ key: value }) 

出力:

> [{'Condition': 'Used'}, {'SellerNotes': '“Excellent Condition”'}, {'Year': '2015'}, {'VINVehicleIdentificationNumber': '2G1FJ1EW2F9192023'}, {'Mileage': '29,000'}, {'Transmission': 'Manual'}, {'Make': 'Chevrolet'}, {'BodyType': 'Coupe'}, {'Model': 'Camaro'}, {'Warranty': 'Vehicle has an existing warranty'}, {'Trim': 'SS Coupe 2-Door'}, {'VehicleTitle': 'Clear'}, {'Engine': '6.2L 6162CC 376Cu. In. V8 GAS OHV Naturally Aspirated'}, {'Options': 'Leather Seats'}, {'DriveType': 'RWD'}, {'SafetyFeatures': 'Anti-Lock Brakes, Driver Airbag, Passenger Airbag, Side Airbags'}, {'PowerOptions': 'Air Conditioning, Cruise Control, Power Locks, Power Windows, Power Seats'}, {'SubModel': '1LE'}, {'FuelType': 'Gasoline'}, {'ExteriorColor': 'White'}, {'ForSaleBy': 'Private Seller'}, {'InteriorColor': 'Black'}, {'DisabilityEquipped': 'No'}, {'NumberofCylinders': '8'}] 
関連する問題