ニュースメディア!ビッグローブから記事をスクレイピングする

ビッグローブとは？
BIGLOBE（ビッグローブ）は、ビッグローブ株式会社（BIGLOBE Inc.）が運営するインターネットサービスプロバイダのひとつ、安心安全のプロバイダ、ポータルサイトのビッグローブ（BIGLOBE）です。ニュース、検索、天気、SNSの話題など毎日の最新情報をお届けしています。BIGLOBEニュースは、芸能ニュースや事件の速報を写真や動画でわかりやすくお伝えします。新聞社や雑誌のニュース記事に加え、ネット炎上や動物の話題などをオリジナル記事でお届けします。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99％のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。

抽出されたデータは下記のようにご覧ください

1.タスクを新規作成する

(1)URLをコピーする
今回は芸能写真ニュース・エンタメページを例として、スクレイピング方法を紹介します。まず、URLをコピーしてください。

(2)スマートモードタスクを新規作成する
ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。また、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
スマートモードタスクの新規作成方法

2.タスクを構成する

(1)ページボタンの設定
ScrapeStormは自動的にリスト要素とページボタンを識別できます。もし識別誤差が発生する時、手動でページボタンを選択してください。下記のチュートリアルも参照してください。
ページ分けの設定方法

(2)詳細ページに行く
「詳細ページに行く」ボタンをクリックして、記事の詳細情報ページに移動します。投稿時間、記事本文などを抽出できます。

(3)フィールドの追加と編集
「フィールドを追加」ボタンをクリックして、画面に必要な要素を選択、データが自動的に抽出されます。また、必要に応じてフィールドの名前の変更または削除、結合できます。フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

3.タスクの設定と起動

(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。サーバーに負荷しないように、遅延時間を設定してください。5秒以上を推薦します。詳細には下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

(2)しばらくすると、データがスクレイピングされる。

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

注意：法律違反しないために、抽出されたデータを悪用禁止です！