MLOpsとは？意味・仕組みと運用にかかわる論文（2026年11月時点）

ひとことで言うと

MLOps は、機械学習のモデルを作って終わりにせず、本番で動かし続けるための仕組みと進め方だ。Google Cloud の解説は、ML システムの開発（Dev）と運用（Ops）を1つにまとめることを目指す、ML エンジニアリングの文化と実践と定義している。解説によると、難しいのはモデルを作ることより、ML システムを組み上げて本番で動かし続けることだ。

解説は例として、服を薦めるアプリを挙げる。薦める内容は新しい流行や商品に合わせて変わる必要がある。そのため、最新のデータでモデルを学び直す。

Google の講座「Production ML systems」によると、本番の ML システムでは、モデルのコードはシステム全体のコードの5%以下のことが多い。かなりの資源が入力データを集め、確かめ、特徴量を取り出すことに割かれる。

仕組み

Google Cloud の解説は、モデルを本番に届ける流れを、データの取り出し、分析、準備、学習、評価、検証、提供、監視の順に並べる。Google Cloud の解説と Google の講座をもとにまとめると、MLOps ではこの流れに主に次の要素を組み込む。

1. バージョンの管理：コード、モデル、データのバージョンを記録する。
2. 学習と評価の自動化：データの検証、学習、評価をつないだ流れ（パイプライン）を自動で動かす。
3. デプロイ：検証を通ったモデルを、予測を返すサービスとして本番に置く。
4. 監視：データの分布の変化（ドリフト）と、予測の質の低下を見る。
5. 再学習：決めた合図で、新しいデータを使って学び直す。

バージョンの管理について、Google の講座は、バージョンごとに性能を記録しておくと、性能が落ちた原因を特定できるとする。モデルの保管庫（モデルレジストリ）を使うと、こうした記録をまとめて扱える。例として、OSS の MLflow の公式ドキュメントは、モデルのバージョンを自動で記録し、前のバージョンに戻したり、複数のバージョンを並べて管理したりできると説明している。

自動化では、新しいデータを使う前にデータを検証する。想定した形（スキーマ）に合わない入力が来たら流れを止め、統計的な性質が大きく変わったら再学習の合図にする。学習したモデルは、テスト用のデータでの成績を今のモデルと比べ、上回ることを確かめてから本番へ進める。本番の前には、一部の要求だけに新しいバージョンを出すカナリアや A/B テストで確かめる。

再学習の合図として、解説は、必要なときの手動、定期、新しいデータが入ったとき、性能が落ちたとき、データの分布が大きく変わったとき（concept drift）の5つを挙げる。

解説は自動化の度合いで3つの段階に分けている。すべて手動の段階0、学習の流れを自動にして継続的な学習（CT）をする段階1、その流れ自体の作成、テスト、配置も CI/CD で自動にする段階2だ。

表で見る最新の状況

上の論文の欄は、TRAIL が解説した論文から、モデルの更新、評価、提供にかかわる3本を古い順に並べたものだ。確認日は2026年11月6日。どれも MLOps そのものを扱った論文ではない。

2016年12月の EWC の論文は、モデルを次の課題へ順に更新すると、前にできたことを忘れる問題を扱った。TRAIL の解説は、モデルを順に更新するときは、新しい課題の精度だけでなく、前の課題での低下を時系列で測ることを勧めている。

2023年6月の MT-Bench の論文は、LLM に回答を評価させる方法（LLM-as-a-Judge）を調べた。TRAIL の解説によると、強い判定者は論文の条件で人との一致が80%を超えたが、回答の順序で判定が変わる偏りも示された。

2023年9月の vLLM の論文は、LLM を提供するときの GPU のメモリの管理を扱った。比較の相手と同程度の遅延を保った条件で、処理量が2〜4倍になったと報告している。TRAIL の解説は、この倍率は論文のモデル、GPU、要求の長さ、比較した実装で得た値だとしている。

MLOpsとDevOpsの違い

表は Google Cloud の解説による。解説は、ML のモデルはコードの出来だけでなく、変わり続けるデータによっても性能が落ちるとしている。

仕事でどう関係するか

社内に AI を入れる前に決めておくこと

Google Cloud の解説は、ML のプロジェクトでは、業務での使い道と成功の基準を決めてから、モデルを本番に届ける作業に入るとしている。そのうえで、運用で決めることが出てくる。

• 再学習の頻度：解説によると、データの傾向がどのくらいの頻度で変わるかと、学び直す費用で決まる。
• 本番に出す条件：今のモデルより良いことに加え、データの区分ごとに成績がそろっていることも確かめる。解説は、全体では良い解約予測のモデルでも、地域ごとの正解率が大きくばらつくことがある例を挙げる。
• 本番への配置の手順：解説は、本番の前の環境で何度か成功してから、本番には手動で配置する例を挙げている。

外部にモデルの開発を頼むときは、運用の条件も最初に伝えておくとよい。

需要予測のモデルを作り、本番で運用できる形で納品してください。
- 学習に使ったデータ、コード、モデルのバージョンを記録する
- 新しいモデルは、今のモデルと同じテスト用のデータで成績を比べてから本番に出す
- 入力データの分布の変化と、予測の質の低下を監視し、再学習の条件を文書にまとめる

「モデルの成績が落ちた」と言われたとき

Google の講座は、全体の成績が良くても、一部のデータでは予測が悪いことがあるとする。地域などの区分（データスライス）ごとに成績を見る。モデルの成績の数字が実際の業務への効果を表すとも限らない。講座は、業務の効果を測る指標を別に決めるよう勧めている。

本番では正解がすぐに付かないことが多い。講座は、人に正解を付けてもらう、迷惑メールの分類なら利用者からの報告と比べる、といった方法を挙げる。急な低下と、ゆっくりした低下の両方を見る。

LLM を使うアプリを運用するとき

LLM を使うアプリの運用は、LLMOps と呼ばれることがある。Google Cloud は、LLMOps を MLOps の一分野とし、LLM の大きさ、学習の複雑さ、計算量の多さに向けたものと説明している。活動にはデプロイと保守、データの管理、学習とファインチューニング、監視と評価、安全と法令の順守が入る。

AI API で LLM を呼ぶアプリでは、プロンプト、処理の途中の記録、費用も管理の対象になる。例として、OSS の MLflow の公式ドキュメントは次の機能を挙げている。

• プロンプトのバージョン：バージョンを作るたびに記録し、バージョンどうしを比べられる。別名を付けて、A/B テストや前のバージョンへの切り戻しをする。
• ログ：1回の要求の途中の各段の入力、出力、付随する情報を記録する（トレース）。
• 費用：LLM の呼び出しごとに、入力と出力のトークン数と、料金から見積もった米ドルの費用を記録する。

MLflow の本番向けの手引きは、本番の利用者はテストのデータと違う使い方をするとし、LLM に採点させる自動の品質評価を挙げている。TRAIL の MT-Bench の解説は、AI による評価を使うなら、回答の順序を入れ替え、人の判定とのずれを測るよう提案している。

注意点と限界

Sculley らの NeurIPS 2015 の論文「Hidden Technical Debt in Machine Learning Systems」は、ML で早く成果が出ることを、ただで手に入ると考えるのは危ないとした。論文は、実際の ML システムでは大きな保守の費用が続くことがよくあるとしている。危険の要因には隠れたフィードバックループ、データへの依存、設定の問題、外の世界の変化などを挙げた。

Google Cloud の解説は、主に予測の AI のシステムを対象にしている。LLM の運用については、別に LLMOps の解説を出している。語の範囲にも幅がある。Kreuzberger らの2022年の論文「Machine Learning Operations (MLOps): Overview, Definition, and Architecture」は、MLOps はまだあいまいな語だと書いている。

すべての作業を一度に次の段階へ移す必要はない。Google Cloud の解説は、少しずつ取り入れてよいとしている。

よくある質問

関連する用語

• 用語：機械学習、ファインチューニング、ベンチマーク、AIガバナンス、AI API、過学習、ハイパーパラメータ、推論
• 研究：EWC の論文、MT-Bench の論文、vLLM の論文