見出し画像

SEO担当者なら理解しておきたいGoogleのクロールバジェット(Crawl Budget)とは?クロール数の最大値ってどのくらい?

今日は、SEOに関する話題について、実際のデータを元に語ってみます。
WebサイトをGoogleの検索結果に表示してもらいたい人は多いと思います。
そのためには、Googleに自分のWebサイトをクロールしてもらう必要がありますよね😊

SEOに関わる人がよくいう「クロールバジェット」とは何か❓
個人的に腑に落ちないので、ちょっとだけ話をしてみたいと思います。

Googleのクロールバジェットっとは?

SEO界隈では、色々なブログなどで語られていますが、Google検索セントラルに記載されている公式ドキュメントのみを参考にするのが鉄則ですね✌️
クロールバジェット管理ガイド
というページが存在します。
クロールバジェットとは、GooglebotがWebサイトをクロールする上限値のようなもので、サイトのクロールに費やす時間とリソースのことらしいです😊
もちろん、クロールの件数が多い方が良いいですよね。
クロールの件数が少ないと、そのWebサイトに対してGooglebotが訪れる頻度が低く、検索結果にも反映されにくいとされるので自分のWebサイトには毎日多くのGooglebotにクロールされた方がいい(はず)。

例えば、Webサイトのクロールバジェットが 1日 1,000クロールだと仮定してみましょう。
Webサイトの中でもなるべく重要なページや更新したページを優先的にクロールして欲しい❗️
あまり重要でないページを1,000クロールされて、バジェットを無駄に使ってしまった😭
クロールバジェットを有効に消費したい❗️
みたいな、ことを考えている人も多いみたいですが、間違ってますね。

Webサイトのコンテンツを常に意識して優良なコンテンツを用意し、Webサイトのレスポンスパフォーマンスが良好であればGoogleはクロールしに来てくれます✌️

特に何もする必要はないんですよ。

今回は、自分のWebサイトのGooglebotのクロール数の上限数のギネスを更新したので、バジェットは限られた資源ではなく、必要ならGoogleが上限値を上げて必要な数だけクロールに来るってことです。

にしても・・・

1日のGoogleのクロール数 483,480👀
4、48万⁉️ 嘘でしょ。サーバ死んじゃうってw

Googleのクロールバジェットとは

しかもそれだけじゃありません、Webサイトに対してAMPページをサブドメインで運用しているので、AMPのサブドメインのページにもクロールが・・・385,204👀
3、38万⁉️嘘でしょ。

Googleクロールバジェットとは

Webサイトをしっかりと運用していれば、GoogleのクロールはWebサイトをしっかりと巡回してくれるみたいですね。
常に1万から10万単位のクロールが来ていると良好なWebサイトなのではないでしょうか?

追記:
ステータスも100% 200を返せなくなってしまったけど、botのリクエストがとまりません。
524,580 / 日
大規模サイトの運営の大変さでしょうか。
もちろん、並があるのですが、クロールバジェットが大幅に飛躍しました。

Googleクロールバジェット

追記:
一度、クロールバジェット?が増えると日々のクロール数が増えて、なかなか減らないようです。毎日、数10万のbotアクセスがきています。
一度、クロールバジェットのキャパが増えるとそのままのクロール件数が維持されるようです。毎日こんな数のアクセスがきても困るんだけど💦

Googlebotのクロールバジェット

追記:

Googlebotのクロールバジェット

Googlebotのクロール数が増加して、下降したので、1巡したら終わりかと思いきや、定期的に巡回が回ってくるみたいですね、しかも22万/日とか大量に

いいなと思ったら応援しよう!

斉藤 智彦(Tomohiko Saitoh)
よかったら、気軽にフォローしていただけると嬉しいです!!