seleniumを使用してgoogleで検索&検索結果を取得
書籍「Pythonでスクレイピングを始めよう: for Macユーザー入門学習編」のサンプルプログラムです。
from selenium import webdriver
from selenium.webdriver.common.by import By
from time import sleep
from bs4 import BeautifulSoup
#import chromedrier_binary chromedriverを使用する場合
driver=webdriver.Safari()
#driver=webdriver.Chrome() chromedriverを使用する場合
url="https://www.google.co.jp"
driver.get(url)
search_box=driver.find_element(By.NAME, "q")
search_box.send_keys("selenium")
search_box.submit()
sleep(3)
data = driver.page_source
soup=BeautifulSoup(data, 'lxml')
elems=soup.select('.LC20lb.MBeuO.DKV0Md')
with open("selenium.txt","a") as f:
for a in elems:
f.write(a.text+"\n")
driver.quit()
Googleで「Selenium」と検索し、表示された検索結果を取得するプログラムです。
詳しい解説は書籍をご覧いただけると嬉しいです。