![見出し画像](https://assets.st-note.com/production/uploads/images/125854850/rectangle_large_type_2_308de796e322b111f1b0394a4c4f790a.jpeg?width=1200)
就職・バイト!エンゲージから求人情報をスクレイピングする
エンゲージとは?
エン・ジャパンが運営する求人サイトです。働きたいエリア、多様な業種・職種、雇用形態など希望条件で検索し、あなたにあった求人を検索! あなたの希望に合った求人メールが届く!WEB履歴書で簡単に応募が可能。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすい人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99%のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。
抽出されたデータは下記のようにご覧ください
![](https://assets.st-note.com/img/1703746050243-3sXQPTDHMC.png?width=1200)
1.タスクを新規作成する
(1)URLをコピーする
今回はプログラマ(汎用機系)の求人情報一覧ページを例として、そのスクレイピング方法を紹介します。まず、URLをコピーしてください。
![](https://assets.st-note.com/img/1703746057569-EHTEqvORN9.png?width=1200)
(2)スマートモードタスクを新規作成する
ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。また、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
スマートモードタスクの新規作成方法
![](https://assets.st-note.com/img/1703746065258-EsI1w2xbL1.png?width=1200)
2.タスクを構成する
(1)自動識別
ScrapeStormは自動的にリスト要素とページボタンを識別できます。下記のチュートリアルも参照してください。
ページ分けの設定方法
今回はxpathが必要です。下記のxpathをご参照ください。
/html/body//a[contains(concat(' ', normalize-space(@class), ' '),' btn ')][contains(concat(' ', normalize-space(@class), ' '),' next ')]
![](https://assets.st-note.com/img/1703746099028-7G01UPuJi3.png?width=1200)
(2)詳細ページに行く
ソフトウェアの「詳細ページに行く」機能を利用し、雇用形態、応募資格、仕事内容などの情報を抽出します。
![](https://assets.st-note.com/img/1703746112989-RjihhI6YKO.png?width=1200)
(3)フィールドの追加と編集
「フィールドを追加」ボタンをクリックして、画面に必要な要素を選択、データが自動的に抽出されます。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法
![](https://assets.st-note.com/img/1703746121536-CZiuIBKQXJ.png?width=1200)
3.タスクの設定と起動
(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。サーバーに負荷しないように、遅延時間を設定してください。5秒以上を推薦します。スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法
![](https://assets.st-note.com/img/1703746128441-cjJcgq1CCo.png?width=1200)
(2)しばらくすると、データがスクレイピングされる。
![](https://assets.st-note.com/img/1703746135935-4DjbGjqxxL.png?width=1200)
4.抽出されたデータのエクスポートと表示
(1)エクスポートをクリックして、データをダウンロードする
![](https://assets.st-note.com/img/1703746140364-0saaxdtI1U.png)
(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法
![](https://assets.st-note.com/img/1703746145489-iMzDAsa8R6.png?width=1200)