アップデートでCVR下がったら、ABテストor巻き戻し?
先日自社サービストップがリニューアルされたのですが、CVRがリニューアル前よりも落ち込んでしまいました。
それから行われたことは、原因解明→改善でしたが、とりあえず巻き戻しはダメなのか?と思ったときの話です。
リニューアル翌日、CVRを見た社員一同「これはまずい…」となりCVR改善プロジェクトが始まりました。
今回のリニューアルでは、大きな変更やアップデート4つが同日に行われ、何が原因でCVRが落ち込んだのか直ぐに分かりませんでした。
明確な原因が分からない中で、これが原因では?と指摘される部分があったのですぐにその改善プロジェクトが走りました。
開発サイドを中心に該当箇所の改善が進められますが、その間もCVRは下がったままなので今まで獲得できたはずのユーザーを取りこぼしています。もちろん、明確な理由は依然として分かりません。
また数日後に他の問題が指摘され、ABテストで改善することになりました。これは98%の確率で改善に値する部分ですが(ゆめんごの肌感覚)、どの程度CVR低下に影響を与えたのか分かりません。
多分CVRは上がるけど、これからABテストを始めるのか…ずっとCVR下がったままなのか…今日もサービストップから血を流したまま…
そのとき、元に戻すのはどうかな…?と思ったのですが、これは現実的でしょうか?
ここで脳内に登場した選択肢は3つです。
①リニューアル前に戻す
②リニューアル前後でABテストをする(なんか①は難しそうだけどこれは出来るかなと思った)
③思い当たる箇所の改善 + 新規LP上のABテストの繰り返しでCVR回復を試みる
①をすれば血を垂れ流すことなく一旦止血できる
②をすればCVR低下の原因がすぐ分かる
③をすればCVR改善が見込めるけどいつ元のCVRに戻るか分からない
結論、①は提案せず②を提案しましたが②は技術的に(?)難しいようで、③を進めることになりました。
しかし、もし仮に今回のCVR低下がリニューアル前の90%減などという最悪のケースだったらどうしていたのかな…と怖い想像をすると③がベストだったのか疑問を感じます。
きっとリソース、技術、仕様などの理由から①②は出来なかったのだと思います。元に戻すべきだと口にするのは簡単ですが、開発サイドでない私は①②の大変さが正直分からないし、難しいと言われたらそれでおしまいです。
けどやっぱり、今回のケースにおける最善策は何だったのかな…やっぱり③ABテストだったのかな…と考えてしまいました。
今回のCVR低下事件を経験して、自分が担当者だったらこうしたかもと思ったのは以下3点です。
・一応、万が一に備えて元に戻せるようにしておく
・少しずつアップデート/変更を重ねてリニューアルをする
・完全リニューアル前にリニューアル前後のABテストして改善数値を見込む
そんなことを考える、お盆休みなのでした。
またね