楽天レシピをクローラー | レシピの写真をスクレイピングする
楽天レシピとは?
楽天が運営する料理レシピの検索サイトです。184万件以上のレシピを気になる食材や料理から探せます。主婦のアイディアが詰まった100万品以上のレシピから、人気レシピ検索や、簡単献立提案が無料で閲覧できるレシピアプリです。人気のレシピ が一目でわかり、簡単にサクサク利用できるので、気になる料理をすぐ見つけられます。調理したレシピに、料理完成画像つきでお礼や感想のレポートを送ることができ、レシピ投稿者からのレポートへのお返事を確認できます。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすくて、販売、金融、ニュース、E‐コマース、データ分析、および政府機関や学術研究の人々に向けて開発された人工知能Webスクレイピングツールです。
プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。デスクトップアプリとしてのScrapeStormには、Windows、Macと Linux のシステムに適用します。
抽出されたデータは下記のようにご覧ください。
1.タスクを新規作成する
(1)URLをコピーする
ソフトウェアは自動的にWebサイトの要素を識別できます。まず、人気メニューのレシピ・作り方ページのURLをコピーしてください。
(2)スマートモードタスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法
2.タスクを構成する
(1)自動識別
ソフトウェアは自動的にページボタンとリスト要素を識別できますが、偶に誤差があります。手動でやり直してください。今回、ページボタンの認識は第二ページに認識されました、手動でページボタン「次へ」を選択してください。
(2)詳細ページに行く
ソフトウェアは自動的詳細ページのリンクを抽出します。詳細ページに行くと、材料、作り方などのデータをスクレイピングできます。
詳細ページのスクレイピングについては、下記のチュートリアルをご参照ください。
リストページと詳細ページをスクレイピングする方法
(3)フィールドの設定
必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出するデータを選択、データが自動的に抽出されます。今回写真を選んでください。通常、ScrapeStormは自動的に写真のリンクを抽出しますが、リンクを抽出失敗の場合、フィールドを右クリックして、外部HTMLを選んでください。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法
3.タスクの設定と起動
(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法
(2)しばらくすると、データがスクレイピングされます。
4.抽出されたデータのエクスポートと表示
(1)エクスポートをクリックして、データをダウンロードしする
(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法