ニュースメディア!Gooニュースから記事をスクレイピングする
Gooニュースとは？
gooニュースには、国内外を代表する新聞・通信社・出版社・IT専門サイトなど250社以上から１日約5500本の記事が配信されています。
そのうち約180本のニュースを編集部が「注目ニュース」としてピックアップしトップタブに掲出しています。また、自分が気になるキーワードをタブ登録すると旬な関連情報が自動で集まってきます。
各社の記事を比較したり、解説を併せて読んだりと多角的・多面的にお読みいただければ幸いです。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99％のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。
抽出されたデータは下記のようにご覧ください
1.タスクを新規作成する
(1)URLをコピーする
今回は注目ニュースページを例として、スクレイピング方法を紹介します。まず、URLをコピーしてください。
(2)スマートモードタスクを新規作成する
ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。また、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
スマートモードタスクの新規作成方法
2.タスクを構成する
(1)ページボタン
通常、ソフトウェアは自動的にリストとページボタンを識別しますが、もし識別誤差が発生する時、手動でやり直してください。下記のチュートリアルも参照してください。
ページ分けの設定方法
(2)詳細ページに行く
「フィールドを追加」ボタンを利用して、タイトルをクリックすると、ソフトウェアは自動的にリンクを抽出します。ニュースの本文を取得するために、詳細ページに行く機能を利用してください。
(3)事前操作
「続きを読む」をクリックするのは、ソフトウェアの右上の緑ボタンをクリック、事前操作機能を利用してください。下記のチュートリアルも参照してください。
事前操作と事前ログイン
(4)フィールドの追加と編集
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出する要素を選択、データが自動的に抽出されます。また、必要に応じてフィールド名の変更、削除、結合などの編集もできます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法
3.タスクの設定と起動
(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。サーバーに負荷しないように、遅延時間を設定してください。5秒以上を推薦します。
詳細には下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法
(2)しばらくすると、データがスクレイピングされる。
4.抽出されたデータのエクスポートと表示
(1)エクスポートをクリックして、データをダウンロードする
(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法
