Yahoo映画クローラー | 映画のレビューをスクレイピングする

Yahoo映画とは？
Yahoo!映画は映画情報やレビューの総合サイトです。上映中の映画、ランキング、クチコミ、レビュー、試写会プレゼントや予告編を動画で見られます。無料で配信中の映画をおしらせ 新作映画の予告編や特別映像など、最新の情報もお届けます。映画館の場所や座席数、上映スケジュールなどを確認できます。作品に関するレビューを閲覧、投稿できます。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99％のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。

抽出されたデータは下記のようにご覧ください

1.タスクを新規作成する

Yahoo!映画の次のページボタンが認識できますが、スクレピング途中で認識できませんになります。Xpathを編集できないの人に複数のページから情報を取得する方法紹介します。

(1)URLをコピーする
まず、目標映画のレビュー一覧ページのURLをコピーしてください。

(2)パラメーターを追加する
URLジェネレーターでURLを入力して、パラメーターを追加画面にページ数を入力します。今回は10までです。生成したURLはプレビュー画面でチェックしてください。

2.タスクを構成する

(1)ページボタンの設定
URLを生成しますので、ページングを「必要なし」に設定してください。

(2)詳細ページに行く
具体的なレビューは詳細ページに表示されますから、詳細ページに行く機能を利用してください。

(3)フィールドの追加と編集
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出する要素を選択、データが自動的に抽出されます。また、必要に応じてフィールド名の変更、削除、結合などの編集もできます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

3.タスクの設定と起動

(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

(2)しばらくすると、データがスクレイピングされる。

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータの表示と消去する方法
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法