どうなる？AzureOpenAI東日本リージョン

Azureで利用可能なOpenAI社のLLMであるGPTシリーズについて、日本の企業内では話題になっている、リージョン固定関連の話題についまとめます。
GPT-3.5やGPT-4の一部バージョンの提供終了情報と、後続バージョンの情報がな事による、実質的な提供終了についての記事です。

---

1. 東日本リージョンにこだわる必要性

日本企業がAzureの東日本リージョンに強くこだわる理由は、主に輸出管理規制に起因しています。
特に、オプトアウト申請を行ったとしても、データが国外に出る事による輸出扱いを完全に排除できないため、企業としては東日本リージョンを選択することが重要視されています。
これにより、企業のコンプライアンスを保ちながらも、AI技術を効果的に活用するという難しいバランスを取ることが求められています。
※プロンプトの送信はデータ提供に当たらないと判断している会社も存在しているようです。

2. 今後の東日本リージョンにおけるサービス展開

スクリーンショットに示されているように、従量課金で利用可能なモデルの提供終了日が明示されています。GPT-3.5-turbo(0613)やGPT-4の現行バージョンは、2024年10月以降に順次提供が終了し、今後は「プロビジョニングされたスループット（PTU）」を購入することが必要となる可能性があります。

日本語版サイトの記述

最新のリリースノートによると、8月15日以降、GPT-4o miniへのアップデートが予定されており、これが従来のリージョン固定方式で提供されるのか、PTUに限るのかが現時点で不明確です。スクリーンショットでも明らかにされている通り、この不透明さが、企業の今後の判断に大きな影響を与えることになります。

この書きっぷりであれば、国内の色々は従量課金もアップデートされると期待したいのですが、頻繁に情報が変化していることも含めて、楽観的には構えていられないと考えています。
会社のシステムのロードマップとして、許容できる変化ではないので、常に何方にもシフト可能な策を考えておく必要があると思っています。

3. 対応策の検討

東日本リージョンでのAIモデル利用を継続するためには、PTU（プロビジョニングされたスループット）を購入する選択肢があります。
しかし、PTUは非常に高価で、コストパフォーマンスが悪いとされています。噂によれば、最低でも毎月数百万円のコストがかかるため、単一のシステムでの導入は慎重な検討が必要です。

もう一つの選択肢としては、AWSへのシフトが考えられます。AWSのBedrockでは、7月(実際は8月)から日本リージョンでClaude 3.5が利用可能になっており、コストと管理の面でより柔軟な対応が可能です。

補足. 輸出管理に関する課題

なぜ、グローバルリージョンを使う選択を取れないかについて。
Azureのグローバル戦略として、計算リソースがグローバルリージョンで最適化される方針が導入されています。
これにより、プロンプトのAPIを通じたデータ処理が国内のサーバーに限定されるわけではなく、Azureの判断で10以上の国のサーバーから選択されて実行される可能性があります。

このため、企業は輸出管理を行う際、送受信されるデータが輸出を禁止している対象国に関連しないかを常に確認し続ける必要があります。
これは、法務部門にとって非常に負担が大きく、管理コストも増大するため、輸出管理が必要な企業にとっては大きな課題となっています。
輸出管理規定が変われば、輸出禁止品目に当てはまらない会社や、ソリューションについては開放されそうなのにな…

補足:アップデートされるなら、問題ないのでは？

GPT-3.5の0613が11月にGPT-4o miniにアップデートされるなら、何も気にしなくても問題ないのでは？と、考える人もいるかと思います。
しかし、注意しておきたいのは、アップデートされる事=従量課金プランで利用できるとは限らないということです。
PTUでの提供に限るアップデートの可能性も考慮すると、記載の細部を確認することや、担当営業に問い合わせてモデルのライフサイクルを把握する必要があります。

今後も、動向の調査とリファレンスの読込を行い、情報を提供していこうと思います。