日経新聞をクローラー | 日経新聞から株価指数をスクレイピング

日本経済新聞とは？
日本経済新聞は、日本経済新聞社の発行する新聞（経済紙）であり、広義の全国紙の一つ。略称は日経、または日経新聞である。その電子版は、日経や日経ＢＰが経済、企業、国際、政治、マーケット、情報・通信、社会など各分野のニュースを提供するWebサービスです。ビジネス、マネー、IT、スポーツ、住宅、キャリアなどの専門情報も満載。
スクレイピングツールの概要
ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。

抽出されたデータは下記のようにご覧ください。

1.タスクを新規作成する

(1)URLをコピーする
今回は株価検索急増ランキングページを例として、スクレピング方法を紹介します。まず、URLをコピーしてください。

(2)パラメーターを追加する
URLジェネレーターでURLを入力して、パラメーターを追加画面にページ数を入力します。今回は4までです。生成したURLはプレビュー画面でチェックしてください。

2.タスクを構成する

(1)ログイン
日経新聞は完全に無料Webサイトではないから、情報収集は会員ログインする必要があります。事前ログイン画面でログインしてください。

(2)自動識別
ScrapeStormは自動的にリスト要素とページボタンを識別できます。手動で要素を選択できます。今回はページボタンがないので、ソフトウェアは自動的に「スクロールローディング」を識別します。

(3)詳細ページに行く
通常、電話番号、公開株式数などの企業情報は詳細ページに表示されますから、「詳細ページに行く」ボタンをクリックして、抽出できます。

(4)事前操作機能
株価、企業概要などの切替は、事前操作機能を利用してください。右上の緑色ボタンをクリックして、事前操作画面を開けます。

(5)フィールドの追加と編集
フィールドの追加をクリックして、在庫状況を選択すると、情報がソフトウェアの表に追加します。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

3.タスクの設定と起動

(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

(2)しばらくすると、実行画面にデータのスクレイピングが見えます。

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードします。

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法