MLflow Model Registry WebhooksによるMLOpsの合理化 -- Streamline MLOps With MLflow Model Registry Webhooks
こちらのブログの翻訳です。2022.2.1
機械学習の普及に伴い、企業は最大限の価値を実現するために、スピード(速さ)とスケール(規模)でモデルを展開することが求められています。本日、MLflow Model Registry Webhooksを発表し、選択したCI/CDプラットフォームと統合することで、モデルライフサイクルの自動化を容易に実現することができます。
モデルレジストリWebhooksは、新しいモデルバージョンの作成、新しいコメントの追加、またはモデルステージの移行などのモデルレジストリーのイベントによって起動されるコールバックを登録することが可能です。これらのコールバックを使用して、自動化スクリプトを起動し、Databricks で MLOps を実装することができます。例えば、新しいモデルバージョンが作成されたときにCIビルドをトリガーしたり、モデルの本番環境への移行が要求されるたびにSlackを通じてチームメンバーに通知したりすることができます。MLワークフローを自動化することで、開発者の生産性を向上させ、モデルのデプロイを加速し、エンドユーザーと組織により多くの価値を創出することができます。
MLflow Model Registry Webhooksは現在、すべてのDatabricksのお客様を対象にパブリックプレビューとして提供されています。
Webhook は、MLflow Model Registry との統合を簡素化
MLflow Model Registryは、モデルのデプロイメント・ライフサイクルを管理するためのセントラル・リポジトリを提供します。今日、ML チームはモデルレジストリでモデルを手動で管理しています。しかし、チームが成長し、より多くのMLユースケースをカバーするにつれて、モデルの数は増え続け、これらのモデルを手動で操作することは非効率的で非現実的になっています。多くのチームは、モデルレジストリーを頻繁にポーリングして変更を探すアドホックなサービスを構築することで、モデルのデプロイメント・ライフサイクルを自動化しています。モデルレジストリWebhookは、モデルレジストリでイベントが発生したときにリアルタイムに通知を送信することで、この自動化を簡素化します。Webhookは、CI/CDプラットフォームのワークフローや、事前に定義されたDatabricksのジョブをトリガーするように設定することができます。
Webhooksを利用したMLOpsの活用事例
Webhooks を使用して、MLflow Model Registry との統合を設定することで、機械学習のワークフローを自動化することができます。例えば、Webhook を使用して以下のような統合を行うことができます。
モデルの新しいバージョンが作成されたときに、CI ワークフローをトリガーしてモデルを検証する
モデルがステージ移行要求を受けた場合、メッセージングアプリを通じてチームに保留中の要求を通知します。
本番環境へのモデル移行が要求された場合、モデルの公平性と偏りを評価するワークフローを起動する。
タグが作成されたら、デプロイメントパイプラインをトリガーして、モデルを自動的にデプロイします。
モデルのデプロイメントライフサイクルを自動化することで、モデルの品質を向上させ、手戻りを減らし、MLチームの各メンバーが自分の得意なことに集中できるようにします。MLflow Model Registry の最も先進的なユーザーの中には、既に Webhooks を使用して何百万もの ML モデルを管理している人もいます。
MLflow Model Registry の Webhooks を使用して開始
すぐにでも始めたい、または自分で試してみたいという方は、こちらをご覧ください。MLflow Model Registry Webhooksの詳細や使用方法については、AWS、Azure、GCPのドキュメントでご覧いただけます。