ニュースメディア!netkeibaから競馬ニュースをスクレイピング

netkeibaとは?
netkeiba.comは日本最大級の競馬情報サイトです。JRA全レースの出馬表やオッズ・予想、ニュース、コラム、競走馬50万頭以上収録の競馬データベース、地方競馬、POG、予想大会、コミュニティなどがご利用いただけます。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99%のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。

抽出されたデータは下記のようにご覧ください

1抽出されたデータ

netkeibaのサイト構成がちょっと複雑の原因で、今公式サイトに提供したバージョンはスクレイピングすできません。必要があれば、Mail或いはSkypeでもScrapeStorm.jpチームに連絡してください。Mail:support.jp@scrapestorm.com Skype:ScrapeStorm.jp

1.タスクを新規作成する

(1)URLをコピーする
今回はURLジェネレーター機能を利用する必要がありますから、できるだけ第二ページ以降のURLをコピーしてください。

2URLをコピー

(2)スマートモードタスクを新規作成する
ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。また、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

3新規作成

(3)URLジェネレーター機能
①URLの主幹、つまり変更する必要があるページ番号前の部分を記入します。
②パラメーターを追加で数字を追加します。
③「カスタマイズ」でページ番号の後ろに変更する必要がないの部分を記入します。

4URLジェネレーター

4.1URLジェネレーター

2.タスクを構成する

(1)ページボタン
通常、ScrapeStormは自動的にリスト要素とおページボタンを識別できます。今回はページボタン設定に「必要なし」に設定してください。

5ページボタン

(2)詳細ページに行く
「詳細ページに行く」ボタンをクリックして、ニュース本文ページに移動します。

6詳細ページに行く

(3)フィールドの追加と編集
「フィールドを追加」ボタンをクリックして、画面に必要な要素を選択、データが自動的に抽出されます。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

7フィールドの追加と編集

3.タスクの設定と起動

(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。サーバーに荷重負担しないように、遅延時間などを設定してください。スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

8起動

(2)しばらくすると、データがスクレイピングされる。

10データ抽出

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

11エクスポード

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

12ファイルを選択


いいなと思ったら応援しよう!