DVCとAmazon SageMaker AI MLflowアプリによるエンドツーエンドのモデル系譜追跡

本番環境での機械学習（Machine Learning, ML）チームは、モデルの完全な系譜（lineage）を、それを訓練したデータとコード、消費した正確なデータセット（dataset）のバージョン、そしてデプロイを正当化した実験メトリクス（experiment metrics）を通じて追跡することに苦戦しています。このトレーサビリティ（traceability）がなければ、「現在本番環境にあるモデルを訓練したのはどのデータか？」「6ヶ月前にデプロイしたモデルを再現できるか？」といった質問は、散在するログ、ノートブック、Amazon Simple Storage Service（Amazon S3）バケットをまたぐ何日もかかる調査になってしまいます。このギャップは、規制業界において特に顕著です。例えば、医療、金融サービス、自動運転車などの分野では、監査要件によりデプロイされたモデルを正確な訓練データにリンクすることが求められ、かつ、要請に応じて個々のレコードを将来の訓練から除外する必要がある場合があります。**この投稿では、このギャップを埋めるために3つのツールを組み合わせる方法を示します： - DVC（Data Version Control）：データセットのバージョン管理とGitコミットへのリンク - Amazon SageMaker AI：スケーラブルな処理、訓練、デプロイ - Amazon SageMaker AI MLflow Apps：実験追跡（experiment tracking）、モデルレジストリ（model registry）、系譜管理（lineage） 以下の[コンパニオンノートブック](https://github.com/aws-samples/sample-amazon-sagemaker-mlflow-dvc-lineage/)を使用して、ご自身のAWSアカウントでエンドツーエンドで実行できる2つのデプロイ可能なパターン（データセットレベルの系譜：dataset-level lineage、レコードレベルの系譜：record-level lineage）について、順を追って解説します。 ## 解決策の概要（Solution overview） 本アーキテクチャ（architecture）は、DVC、SageMaker AI、SageMaker AI MLflow Appを単一のワークフロー（workflow）に統合しており、すべてのモデルが正確な訓練データまで追跡可能です。 ![image](https://d2908q01vomqb2.cloudfront.net/f1f836cb4ea6efb2a0b1b99f41ad8b103eff4b59/2026/04/13/ML-20309-image1.jpg) 各ツールは明確な役割を担っています： **ツール** | **役割** | **保存内容** DVC | データとアーティファクトのバージョン管理（Data and artifact versioning） | Git内の軽量.dvcメタファイル；実際のデータはAmazon S3 Amazon SageMaker AI | 処理、訓練、ホスティングのためのスケーラブルなコンピューティング（Scalable compute for processing, training, and hosting） | 処理/訓練ジョブのオーケストレーション（Processing/Training job orchestration）とモデルホスティング（model Hosting） Amazon SageMaker AI MLflow App | 実験追跡、モデルレジストリ、系譜管理（Experiment tracking, model registry, lineage） | パラメータ、メトリクス、アーティファクト、登録済みモデル データは以下の4つのステージを流れます： - SageMaker AI Processingジョブが生データを前処理し、DVCを使用して処理済みデータセットのバージョン管理を行います。データはS3に、メタデータはGitリポジトリにプッシュされます。 - SageMaker AI Trainingジョブは、特定のGitタグでDVCリポジトリをクローンし、`dvc pull`を実行して正確なバージョン管理されたデータセットを取得します。その後モデルを訓練し、すべての情報をMLflowにログ記録します。 - 各MLflowの訓練ラン（training run）は、Amazon S3内の正確なデータセットを指すDVCコミットハッシュ（commit hash）である`data_git_commit_id`を記録します。 - 訓練済みモデルはMLflow Model Registryに登録され、SageMaker AIエンドポイント（endpoint）にデプロイできます。 これにより、完全なトレーサビリティチェーン（traceability chain）が構築されます：本番環境モデル → MLflowラン（MLflow Run） → DVCコミット（DVC commit） → Amazon S3内の正確なデータセット。 ## Prerequisites この投稿に沿って進めるには、以下の前提条件が必要です。 - Amazon SageMaker（Processing、Training、MLflow Apps、Endpoints）、Amazon S3、AWS CodeCommit、および AWS Identity and Access Management（IAM）へのアクセス権限を持つ AWS アカウント。 - Python 3.11 または Python 3.12。 - SageMaker Python SDK v3.4.0 以降。 [companion repository](https://github.com/aws-samples/sample-amazon-sagemaker-mlflow-dvc-lineage/) には、すべての依存関係を含む requirements.txt が含まれています。SageMaker Studio 以外で実行する場合は、IAM ロールに sagemaker.amazonaws.com が AssumeRole できる信頼関係が必要です。 **\n *Note on Git providers:** ノートブックでは、DVC メタデータの Git バックエンドとして AWS CodeCommit が使用されています。ただし、DVC は他の Git プロバイダー（GitHub、GitLab、Bitbucket）とも連携します。必要なのは `git remote add origin` の URL を置き換え、適切な認証情報を設定することだけです。例えば、[AWS Secrets Manager](https://aws.amazon.com/secrets-manager/) にトークンを保存して実行時に取得するか、[AWS CodeConnections](https://docs.aws.amazon.com/dtconsole/latest/userguide/welcome-connections.html) を使用します。重要な要件は、SageMaker AI の実行ロールが Git リポジトリにアクセスできること、または AWS CodeConnections を使用するための権限を持っていることです。* ## How DVC and SageMaker AI MLflow work together このアーキテクチャの鍵となる洞察は、DVC と MLflow がそれぞれ系統管理（ラインージ）の問題の半分を解決し、合わせて完全なループを閉じる点にあります。 [DVC (Data Version Control)](https://dvc.org/) は、Git を拡張して大規模なデータセットや ML 成果物（アーティファクト）を扱えるようにする無償のオープンソースツールです。Git だけではリポジトリが肥大化して低速になるため、GitHub などのシステムは 100 MB を超えるファイルをブロックします。DVC はコーディフィケーション（構造化管理）によってこれを解決します：Git 内で軽量な .dvc メタファイル（コンテンツアドレス可能ポインタ）を追跡し、実際のデータは Amazon S3 などのリモートストレージに保存します。これにより、リポジトリを肥大化させることなく、ギガバイト〜テラバイト規模のデータセットに対して Git 的なバージョン管理セマンティクス（ブランチ、タグ付け、差分比較）を提供します。 **\n Storage efficiency: ** *DVC は [コンテンツアドレス可能ストレージ](https://dvc.org/doc/user-guide/project-structure/internal-files#files)（MD5 ハッシュ値）を使用するため、データセット全体を複製するのではなく、新規または変更されたファイルのみを保存します。内容が同一のファイルは、異なる名前や異なるデータセットバージョンに属していても、DVC キャッシュ内では一度だけ保存されます。例えば、既存のデータセットに 1,000 枚の新しい画像を追加した場合、S3 にアップロードされるのはそれらの新規ファイルのみです。変更されていないファイルは再アップロードされません。ただし、前処理ステップで既存のファイルが変更された場合、影響を受けるファイルは新しいハッシュ値を取得し、新規オブジェクトとして保存されます。* データバージョン管理に加え、DVCは再現可能な[data pipelines](https://dvc.org/doc/start/data-pipelines)（データパイプライン）や[experiment management](https://dvc.org/doc/user-guide/experiment-management)（実験管理）をサポートしており、チーム間でデータセットを共有するための[data registry](https://dvc.org/doc/use-cases/data-registry)（データレジストリ）としても機能します。本アーキテクチャでは、DVCをデータバージョン管理の機能に特化して使用します。`dvc add`でデータセットをバージョン管理し、生成された.dvcファイルをコミットするたびに、特定のデータセットの状態に対応するGitコミットが作成されます。そのコミットにタグを付けることで、`git checkout`および`dvc pull`で戻れる安定した参照先が得られます。DVCのバージョン管理機能の詳細については、[Versioning Data and Models](https://dvc.org/doc/use-cases/versioning-data-and-models)ガイドをご覧ください。 [SageMaker AI MLflow App](https://docs.aws.amazon.com/sagemaker/latest/dg/mlflow.html)は、SageMaker AI Studio内で提供される完全に管理されたAWSサービスで、エンドツーエンドのML（機械学習）および生成AIライフサイクルを管理します。中核機能には、すべてのトレーニング実行におけるパラメータ、指標、アーティファクトをログ記録するexperiment tracking（実験追跡）、バージョン管理とライフサイクルステージ管理を備えたmodel registry（モデルレジストリ）、モデル評価、およびdeployment integrations（デプロイメント統合）が含まれます。本記事のアーキテクチャでは、DVCの結果およびモデルレジストリを含む完全なexperiment tracking（実験追跡）にMLflowを使用します。すべてのトレーニング実行において、DVCのコミットハッシュをパラメータ（data_git_commit_id）としてログ記録することで、橋渡しを作成します：MLflowレジストリのモデルは正確なGitタグに遡って追跡可能であり、そのタグはS3内の正確なデータセットに対応します。 DVC単体でデータバージョン管理と実験追跡の両方を処理できますが、MLflowはmodel versioning（モデルバージョン管理）、ライフサイクル管理用のaliases（エイリアス）、およびdeployment integrations（デプロイメント統合）を備えた、より成熟したmodel registry（モデルレジストリ）を提供します。DVCをデータバージョン管理に、MLflowをmodel lifecycle management（モデルライフサイクル管理）に使用することで、関心の明確な分離が実現します：DVCはdata-to-training lineage（データからトレーニングへの系譜）を、MLflowはtraining-to-deployment lineage（トレーニングからデプロイメントへの系譜）を管理し、Gitコミットハッシュがこれらを結びつけます。 ## Pattern one: Dataset-level lineage (foundational) 統合を構築する前に、DVCのデータセットバージョン管理とMLflowの実行追跡が、完全な系譜を形成する際にどのように補完し合うかを理解することが不可欠です。基礎となるノートブックは、限られたラベル付きデータから始まり、時間とともに拡張するという一般的なシナリオをシミュレートすることで、中核パターンを示しています。 ## The workflow ノートブックは、CIFAR-10画像分類データセットを使用して2つの実験を実行します： - v1.0: データの5%（トレーニング画像約2,250枚）で処理およびトレーニング - v2.0: データの10%（トレーニング画像約4,500枚）で処理およびトレーニング 各バージョンにおいて、同じ2段階のパイプラインが実行されます： **ステップ1 — 処理ジョブ**: SageMakerのProcessingジョブ（データ処理ジョブ）はCIFAR-10をダウンロードし、設定された割合でサンプリングを行い、学習用・検証用・テスト用のセットに分割し、画像をImageFolder形式で保存し、DVC（Data Version Control）を使用して結果のバージョン管理を行います。処理済みのデータセットは`dvc push`経由でAmazon S3にプッシュされ、Gitメタデータ（v1.0-02-24-26_1430のような一意のタグを含む）はAWS CodeCommitにプッシュされます。 処理ジョブは、DVCリポジトリのURLとMLflowトラッキングURI（追跡URI）を環境変数として受け取ります： ```python processor_v1 = FrameworkProcessor( image_uri=processing_image, role=role, instance_type="ml.m5.xlarge", instance_count=1, env={ "DVC_REPO_URL": dvc_repo_url, "DVC_REPO_NAME": dvc_repo_name, "MLFLOW_TRACKING_URI": mlflow_app_arn, "MLFLOW_EXPERIMENT_NAME": experiment_name, "PIPELINE_RUN_ID": pipeline_run_id_v1, } ) ``` processor_v1.run( code="preprocessing_foundational.py", source_dir="../source_dir", arguments=[ "--data-fraction", str(data_fraction_v1), "--data-version", data_version_v1, "--val-split", "0.1" ], wait=True ) 処理スクリプト内では、前処理の後にデータセットがDVCでバージョン管理され、コミットハッシュ（コミット識別子）がMLflowにログ記録されます： ```python def version_with_dvc(repo_path, version_tag, pipeline_run_id): """Add data to DVC and push to remote.""" subprocess.check_call(["dvc", "add", "dataset"], cwd=repo_path) subprocess.check_call(["git", "add", "dataset.dvc", ".gitignore"], cwd=repo_path) subprocess.check_call( ["git", "commit", "-m", f"Add dataset version {version_tag}"], cwd=repo_path ) subprocess.check_call(["git", "tag", pipeline_run_id], cwd=repo_path) subprocess.check_call(["dvc", "push"], cwd=repo_path) subprocess.check_call(["git", "push", "origin", "main"], cwd=repo_path) subprocess.check_call(["git", "push", "origin", pipeline_run_id], cwd=repo_path) commit_id = subprocess.check_output( ["git", "rev-parse", "HEAD"], cwd=repo_path ).decode().strip() return commit_id ``` **ステップ2 — 学習ジョブ**: SageMaker AIのTrainingジョブ（モデル学習ジョブ）は、ステップ1の正確なタグでDVCリポジトリをクローンし、`dvc pull`を実行してバージョン管理されたデータセットをダウンロードし、事前学習済みのMobileNetV3-Smallモデルのファインチューニングを行います。トレーニングスクリプトは、パラメータ（DVCコミットハッシュを含む）、エポックごとの指標、および学習済みモデルをMLflowにログ記録します。モデルは自動的にMLflow Model Registry（モデルレジストリ）に登録されます。 重要なラインージの橋渡し（DVCコミットハッシュをMLflowにログ記録すること）は、トレーニングスクリプト内で発生します： ```python # Fetch data: clone DVC repo at the exact tag, then dvc pull data_git_commit_id = fetch_data_from_dvc() with mlflow.start_run(run_name=run_name) as run: mlflow.log_params({ "data_version": data_version, "data_git_commit_id": data_git_commit_id, # ``` ## MLflow で確認できる内容 両方の実験が完了すると、MLflow UI は以下のスクリーンショットに示すように、2つのランを並べて表示します。MLflow の実験では、以下を比較できます： - データバージョンごとの学習および検証精度の曲線 - 各ランの正確なハイパーパラメータおよびデータバージョン - 各モデルを DVC データセット（Data Version Control）にリンクする `data_git_commit_id` ![image](https://d2908q01vomqb2.cloudfront.net/f1f836cb4ea6efb2a0b1b99f41ad8b103eff4b59/2026/04/13/ML-20309-image2.jpg) 特定のランを選択すると、以下のスクリーンショットに示すように、詳細情報全体、損失曲線、パラメータ、および S3 内の正確なデータセットにリンクする DVC コミットが表示されます。 ![image](https://d2908q01vomqb2.cloudfront.net/f1f836cb4ea6efb2a0b1b99f41ad8b103eff4b59/2026/04/13/ML-20309-image3.jpg) 最後に、学習済み人工知能および機械学習（AI/ML）モデルは、以下のスクリーンショットに示すように、バージョン履歴およびそれらを生成したトレーニングランへのリンクとともに MLflow Model Registry に自動的に登録されます。さらに、SageMaker AI Model Registry と統合された SageMaker AI MLflow App を使用すると、MLflow は登録済みモデルを SageMaker AI Model Registry に自動的にログ記録します。 ![image](https://d2908q01vomqb2.cloudfront.net/f1f836cb4ea6efb2a0b1b99f41ad8b103eff4b59/2026/04/13/ML-20309-image4.jpg) ## モデルのデプロイ ノートブックは、ModelBuilder を使用して、MLflow Model Registry から推奨モデル（v2.0、より多くのデータで学習済み）を SageMaker AI リアルタイムエンドポイントにデプロイします。デプロイ後、生画像バイトでエンドポイントを呼び出し、クラス予測を取得できます。完全なデプロイおよび推論コードはノートブック内に記載されています。 ## このパターンが回答する内容 データセットレベルの系譜（ラインージ）を使用すると、以下の質問に回答できます： - 「このモデルを学習したのはどのデータバージョンか？」 — MLflow のランで `data_git_commit_id` を参照する - 「このモデルの学習データを再現できるか？」 — `git checkout` および `dvc pull` を実行して正確なデータセットを復元する - 「モデルのパフォーマンスが変化した理由か？」 — MLflow でランを比較し、それぞれをデータバージョンに追跡する 追加作業なしでは回答できないのはこれです：「レコード X はこのモデルの学習データに含まれていたか？」。完全なデータセットを取得して検索する必要があります。ここでパターン 2 が登場します。 ## パターン 2：レコードレベルの系譜（医療コンプライアンス） パターン 2 はデータセットレベルのアプローチを直接基盤として構築し、マニフェストと同意登録簿を通じてレコード／患者レベルの追跡可能性を追加します。この医療コンプライアンスの例ノートブックは、ML ライフサイクル全体でデータセットだけでなく個別レコードも追跡する必要がある規制環境向けに、基礎パターンを拡張したものです。 ## 重要な追加要素：マニフェスト 異なる点はマニフェストです。マニフェストは、各データバージョン内のすべての個別レコードをリストアップした構造化 CSV です： patient_id,scan_id,file_path,split,label PAT-00001,PAT-00001-SCAN-0001,train/normal/00042.png,train,normal PAT-00023,PAT-00023-SCAN-0015,train/tubercolosis/00015.png,train,tubercolosis ... このマニフェスト（manifest）は、DVCでバージョン管理されたデータセットディレクトリ内に保存され、*かつ*、すべてのトレーニング実行（training run）時にMLflowアーティファクト（MLflow artifact）としてログ記録されます。これにより、DVCから完全なデータセットを取得することなく、MLflowから個々のレコードを直接クエリすることが可能になります。 ## The consent registry このワークフローは**コンセントレジストリ（consent registry）**によって駆動されており、各患者とその同意ステータスをリストアップしたCSVファイルです。本番環境では、これはトランザクションコミットメント（transactional commitments）、独自の監査証跡（audit trail）、および再学習（re-training）をトリガーする可能性のあるイベント駆動型トリガー（event-driven triggers）を備えたデータベースになります。ここで採用されているCSVアプローチは、簡素化された設計となっています

DVCとAmazon SageMaker AI MLflowアプリによるエンドツーエンドのモデル系譜追跡

背景や根拠まで確認しますか？

このニュースを、実務の判断につなげる

調べる

選ぶ

サイト