生成AIのセカンドオピニオン
生成AIのセカンドオピニオンを考え付いたので書いておきます。
企業向け生成AIの課題
日進月歩
生成AIは日進月歩です。生成AIの可能性に早く気づき、早くカスタム生成AIに着手した会社ほど、後から出てきた生成AIソリューションに切り替えるかどうか悩むことになっています。
コストパフォーマンス評価の難しさ
単に機能だけでなく、コスト削減も進んでいます。GPT-4oのように制限付きで無料化されているものもあります。
セカンドオピニオンのニーズ
セカンドオピニオン
自社の生成AIは当然、もっとも信頼できるベンダに依頼しているはずです。しかし、いったん作ってしまうと、なかなか軌道修正できないものです。また、新しいサービスやツールが出るたびに軌道修正していたら生成AIにおいては何も進みません。
生成AIのセカンドオピニオン
ニュースを書くのと違ってITのセカンドオピニオンには次の知見が求められます:
デプロイと運用コスト:システムを新規に実施し運用するにはコストが必要です
組織コスト:使うノウハウの蓄積にも時間と教育が必要です
移行コスト:システムの移行にもコストが必要です
ライフサイクルコスト:長期の維持にもコストが必要です
トレンド:その時点のベストではなく中期的なベストが求められます
単にその時点で一番いいものを選ぶということにはなりません。今月一番いいものを選んだら、では来月もっといいものが出たらまた更改するのか、という話になります。
必要となる場面の例
2023年3月
GPT-4が2023年3月に登場し、生成AIの自社利用に本腰をいれた企業は、自社のもっている社外秘情報に基づくカスタム化を目指したと思います。この時点ではプラグインを使うかどうかという選択肢しかなかったと思います。IT投資余力のある大企業なら自社生成AIの開発に着手したと思います。このあと、Azure OpenAI Serviceの登場などがありましたが、日本語処理に難がある、などの理由で大きく開発方針が変わることはありませんでした。
2023年11月
GPTsが登場しました。新しいエコシステムができました。GPTをカスタム化して社内で共有する方法が誕生しました。しかし、月額従量課金で一人ずつChatGPT Plusの有料利用をする必要がありました。大企業ですでに社員全員にChatGPT Plusを使っているというのでない限り、開発・運用はそのままだと思います。GPTsのナレッジの検索機能も十分でないという噂もありました。
2024年5月
GPT-4oが出て利用回数制限はあるとはいえ、無料で使えるようになりました。無料利用でもGPTsを使えるようになりました。
これは悩みどころです([ai300lab])。自社の主ベンダ以外に第三者的観点から生成AIのトレンドと自社のカスタム生成AIのライフサイクルの検討が必要になります。
むすび
ITや組織にはそれなりの移行期間が必要です。その時間スケールと生成AIの進化スピードの間にギャップがあるのが問題です。
主ベンダー以外にセカンドオピニオンサービスが成立する機会があると思います。
参考文献
[ai300lab] 自社用カスタム生成AI設計の難しさ https://note.com/ai300lab/n/nea9fa9b0a7c3 2024年
[wikipedia] セカンドオピニオン wikipedia