モバオクから指定条件で商品情報をスクレイピングする
モバオクとは?
日本国内では、ヤフオク!に次ぐ日本最大級のインターネットオークションサイトである。販売手数料が無料の超オトクなかんたんオークション、今すぐ買える「即買い」 モバペイで決済も安心します。非売品が見つかり、お小遣いをさくっとGETできます。毎日開催10分オークションか、人気チケットも見つかります。
スクレイピングツールの概要
ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。
抽出されたデータは下記のようにご覧ください。
1.タスクを新規作成する
(1)URLをコピーする
ScrapeStormは自動的にページのリストを識別しますから、モバオクの商品リストページのURLを入力してください。今回は男性ファッションの中古・新品オークション情報を例として、スクレイピング方法を紹介します。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法
(2)スマートモードタスクを新規作成する
ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。また、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法
2.タスクを構成する
(1)事前操作
事前操作機能を利用して、モバオクのカテゴリで条件絞り込むことができます。コンポを生成するのは、右上の緑色ボタンをクリックして、操作ヒントに従ってください。
(2)ページボタンを識別
ScrapeStormの自動識別は第二ページのページボタンを識別しました。手動で「次の50件」を選択してください。
ページボタンの設定詳細には下記のチュートリアルをご参照ください。
ページ分けの設定
(3)詳細ページに行く
詳細ページに行く機能を利用して、商品説明などが抽出できます。詳細ページのスクレイピングについては、下記のチュートリアルをご参照ください。
リストページと詳細ページをスクレイピングする方法
(4)フィールドの追加と編集
フィールドの追加には、「フィールドを追加」ボタンをクリックして、必要なデータを選んで、データが自動的に抽出されます。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法
3.タスクの設定と起動
(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。今回はファイルのダウンロードに画像のダウンロードをチェックしてください。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法
(2)しばらくすると、データがスクレイピングされる。
4.抽出されたデータのエクスポートと表示
(1)エクスポートをクリックして、データをダウンロードする
(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータの表示と消去する方法
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法