簡単料理！Kikkomanからレシピをスクレイピングする
Kikkomanとは？
キッコーマン株式会社の公式ウェブサイトです。ホームクッキングは今日の献立レシピ、旬の食材レシピ、簡単お弁当、健康レシピなどを連載しています。料理レシピ検索では、食材別、キーワードなどからお好みレシピを簡単に検索できます！メタボリック・シンドローム予防に役立つ情報も大人気です。ホームクッキングとは、当社が提供している料理レシピを中心とした食の総合サイトで、1997年から開設しています。
ソフトウェアの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすい人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99％のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。
抽出されたデータは下記のようにご覧ください
1.タスクを新規作成する
(1)URLをコピーする
今回はカレーをキーワードとして、その検索結果一覧ページを例として、スクレイピング方法を紹介します。まず、URLをコピーしてください。
(2)スマートモードタスクを新規作成する
ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。また、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
スマートモードタスクの新規作成方法
2.タスクを構成する
(1)ページボタン
ScrapeStormは自動的にリスト要素とページボタンを識別できます。今回利用しているxpathをご参照ください。下記のチュートリアルも参照してください。
ページ分けの設定方法
/html/body[@class='is-header-fixed']/main[@id='main']/div[@class='Main__inner']/div[@class='Main__body']/div[@class='Main__content']/div[@class='select_search-result js-cmn-recipe-search__result']/div[@class='select_search-result__foot']/div[@class='pager-navi js-cmn-recipe-search__result__pager']/div[@class='pager-navi__inner']/div[@class='pager-navi__control']/a[@class='pager-navi__link--next']
(2)詳細ページに行く
ソフトウェアは自動的に詳細ページのリンクを抽出できます。「詳細ページ行く」機能を利用して、レシピの材料詳細、作り方などの情報をスクレイピングできます。
(3)フィールドの追加と編集
「フィールドを追加」ボタンをクリックして、画面に必要な要素を選択、データが自動的に抽出されます。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法
3.タスクの設定と起動
(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。サーバーに負荷しないように、遅延時間を設定してください。5秒以上を推薦します。スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法
(2)しばらくすると、データがスクレイピングされる。
4.抽出されたデータのエクスポートと表示
(1)エクスポートをクリックして、データをダウンロードする
(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法
